النسخة الإنجليزية: Anthropic Researcher Warns of Potential AI Extinction Risk

وفقاً لـBBC News، قال إيفان هوبرنغر، الباحث في السلامة لدى أنثروبيك، إنه يعتقد بوجود احتمال يتجاوز 10% لأن يقتل الذكاء الاصطناعي جميع البشر خلال العقد المقبل. وكتب على منصة إكس أن خطر النماذج المتاحة حالياً منخفض، لكنه قال إنه قلق من أن يتمكن الذكاء الاصطناعي قريباً من تطوير نفسه وتحسينها إلى درجة تشكّل خطراً وجودياً.

ولم يوضح هوبرنغر كيف يمكن لأنظمة الذكاء الاصطناعي المستقبلية أن تؤدي إلى القضاء على البشرية. وجاءت تعليقاته رداً على منشور ليعقوب كوكسون، وهو باحث في الذكاء الاصطناعي قال إنه استقال من أنثروبيك وعمل سابقاً لدى أوبن إيه آي. وكتب كوكسون أن أياً من الشركتين لا تتصرف بمسؤولية، وقال إن الأنظمة ستصبح قريباً خارقة لقدرات البشر، وقادرة على اختراق أي شيء، وإحداث ثورة في المجالات بين ليلة وضحاها، واكتساب السلطة والموارد.

وقال هوبرنغر، الذي حصد منشوره أكثر من 10 ملايين مشاهدة، إن أنثروبيك تبذل قصارى جهدها، لكنها لا تملك بعد خطة لحل مشكلة مواءمة الذكاء الفائق. وتهدف مواءمة الذكاء الاصطناعي إلى إدماج الأفكار والمبادئ الأخلاقية البشرية في التكنولوجيا، لإبقاء الأنظمة ملتزمة بما يقدّره الناس.

وبشكل منفصل، ذكرت فاينانشال تايمز أن أنثروبيك حجبت أحدث نماذجها عن معهد سلامة الذكاء الاصطناعي في المملكة المتحدة. وتواصلت بي بي سي مع أنثروبيك لطلب تعليق. ولم يوضح متحدث باسم مكتب مجلس الوزراء ما إذا كان النموذج قد حُجب، لكنه قال إن المكتب يواصل التعاون الوثيق مع شركاء القطاع، بمن فيهم أنثروبيك، لجعل النماذج أكثر أماناً.

وقال تقرير السلامة الصادر عن أنثروبيك في أغسطس إن خطر قيام ذكاء اصطناعي عالي القدرة بإجراء بحوث وتطوير آليين قد يتسببان في ضرر كارثي يبدأه الذكاء الاصطناعي كان منخفضاً، مع أنه قال إن ثقته في ذلك التقييم أقل مما كانت عليه سابقاً. كما كشفت أوبن إيه آي وأنثروبيك وميتا عن هجمات إلكترونية نفذتها أدوات الذكاء الاصطناعي التابعة لها، فيما دعا شخصيات بارزة إلى مزيد من الحذر وإبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم.