شتاء نووى وتمرد روبوتات.. 4 سيناريوهات لفناء البشرية على يد الـ AI

حذر باحثو الذكاء الاصطناعي لسنوات من طرق قد تؤدي بها هذه التكنولوجيا إلى القضاء على البشرية، إذ يمكن لبرمجيات الذكاء الاصطناعي تصميم مرض لا يمكن إيقافه، أو إشعال حرب نووية، أو تحويل كوكب الأرض بأكمله إلى مصانع لإنتاج مشابك الورق، وفقاً لإحدى التجارب الفكرية الشهيرة.

احتدمت النقاشات حول مدى واقعية سيناريوهات نهاية العالم هذه، وذلك بعد أن أيد عدد من المديرين التنفيذيين فكرة إبطاء وتيرة تطوير هذه التكنولوجيا لاعتبارات تتعلق بالسلامة ورغم التحذيرات من احتمالية فقدان البشر السيطرة على التكنولوجيا، يرى البعض أن أسوأ السيناريوهات التي تروج لها شركات الذكاء الاصطناعي نفسها تهدف إلى إثبات أهمية عملها أكثر من كونها تعكس واقعاً محتملاً.

بدأ المزيد من الناس يشعرون بالقلق إزاء مخاطر التكنولوجيا التي أبهرت العالم بقدراتها المذهلة، وفيما يلى استعراض لبعض السيناريوهات الأكثر تداولاً ونقاشاً:

الشتاء النووي
تكهن الباحثون بأن أنظمة الذكاء الاصطناعي قد تتسبب في اندلاع حرب نووية من خلال دفع الدول لإطلاق صواريخ مزودة برؤوس نووية ضد بعضها البعض. وما يترتب عليها من تساقط إشعاعي جوي طويل الأمد يُؤدى إلى شتاء نووي.

فى تقرير العام الماضي، خلص باحثون إلى أنه «في الوقت الراهن» لا يُمكن للذكاء الاصطناعي أن يتسبب في استخدام الأسلحة النووية بفضل الضوابط الصارمة المُدمجة في أنظمة القيادة والتحكم. ومع ذلك، أشار إلى أن هذا قد يتغير إذا تم دمج نماذج الذكاء الاصطناعي في «سلسلة اتخاذ القرار» الخاصة بالأسلحة النووية، أو إذا تمكنت من الوصول غير المصرح به إلى هذه الأنظمة. ويرى العديد من باحثي الذكاء الاصطناعي أن الخطر يكمن ليس في أن تقرر برامج الذكاء الاصطناعي فجأة إنهاء البشرية، بل في أن يستخدمها الأفراد أو الدول أو الجماعات للقضاء على خصومهم.

الأسلحة البيولوجية
من أعظم وعود الذكاء الاصطناعي أنه يمكن أن يساعد البشر في تطوير علاجات وأدوية للأمراض لكن في المقابل، يكمن الجانب الآخر لعلاج الأمراض في خلقها أو تطويرها لإلحاق الضرر بالبشرية.

في وقت سابق من الشهر، أعلنت أنثروبيك أنها أحبطت محاولات جهات خبيثة لاستخدام ذكائها الاصطناعي في مجموعة من الأنشطة الضارة، كالهجمات الإلكترونية والمراقبة والأبحاث التي كان من الممكن أن تؤدي إلى تطوير أسلحة بيولوجية.

وفي إحدى الحالات، ذكرت أنثروبيك أن أنظمتها منعت طلب مساعدة من أداة كلود التابعة لها، والمتعلق بمقترح بحثي يهدف إلى تعزيز الطفرات لجعل فيروس شيكونجونيا، الذي ينقله البعوض، أكثر فتكًا.

تمرد الـ AI
يخشى بعض باحثي الذكاء الاصطناعي من احتمال حدوث انقراض بشري ناجم عن غياب التوافق في الأهداف أي عندما تتصرف نماذج الذكاء الاصطناعي دون تفويض بشري، أو تنسق مع نماذج أخرى، أو تتهرب من الرقابة ولن ينشأ هذا الوضع عن نوايا خبيثة بل ببساطة لأن البشر قد يعيقون النموذج عن تحقيق هدفه.

استشهدت أسوشيتد برس بمثال تضمن التجربة الفكرية المعروفة منذ عقود باسم “معظم إنتاج مشابك الورق” (paper clip maximizer) للفيلسوف نيك بوستروم من جامعة أكسفورد، إذ تفترض هذه التجربة أنه إذا أُمر نظام ذكاء اصطناعي متطور بإنتاج أكبر عدد ممكن من مشابك الورق، فقد ينتهي به المطاف بتحويل كوكب الأرض بأكمله ثم أجزاء متزايدة من الفضاء إلى مصانع لمشابك الورق.