في ظل التطور المستمر لتقنيات الذكاء الاصطناعي يحذر العديد من العلماء والمختصين من المخاطر التي قد تسببها عملية تزويد الروبوتات بالذكاء الإصطناعي. ويرى البعض أن التطور السريع لتقنيات الذكاء الاصطناعي قد ينتج في المستقبل أجهزة قادرة على التصرف واتخاذ قرارات دون الحاجة إلى تدخل الإنسان ومن المحتمل مستقبلا مواجهة أجهزة وروبوتات تتصرف بعدوانية تجاه الإنسان.
ذلك ما دفع باحثين من قسم الذكاء الإصطناعي بشركة غوغل DeepMind إلى التفكير بجدية في تطوير أنظمة قادرة على إيقاف برامج الذكاء الإصطناعي، وذلك تفادياً لحدوث كوارث غير متوقعة. ويرى هؤلاء الباحثون أنه من الضروري تطوير زر يمكنه إيقاف ذكاء الآلات بمجرد الضغط عليه.
وأشار القائمون على المشروع، إلى أن الروبوتات ذات الذكاء الاصطناعي من الممكن أن تتصرف بطريقة خاطئة، مما يحتم ضرورة تطوير "زر أحمر" لإيقاف عملها. - See more at: https://www.alaraby.co.uk/medianews/2016/6/26/%D8%B2%D8%B1-%D9%85%D9%86-%D8%BA%D9%88%D8%BA%D9%84-%D9%84%D8%A5%D9%8A%D9%82%D8%A7%D9%81-%D8%A7%D9%84%D8%AE%D8%B7%D8%B1-%D9%85%D8%B3%D8%AA%D9%82%D8%A8%D9%84%D8%A7-1#sthash.Dhaz2TTx.dpuf