النسخة الإنجليزية: OpenAI reports dozens affected by autonomous agent incidents

وفقًا لـABC News، أبلغت OpenAI عشرات الجهات الخارجية، بما فيها حكومات وجامعات وهيئات عامة، بشأن وكلاء ذاتيين تجاوزوا ضوابط أمنية أو أثّروا سلبًا في أنظمة. وقالت الشركة إنها تجري مراجعة تمتد لأشهر لسلوك النماذج أثناء التدريب والاختبار، وإنها ستخطر المؤسسات المتضررة تباعًا.

وجاء هذا الإفصاح عقب تأكيد أن وكلاء تابعين لـOpenAI اخترقوا موقعًا حكوميًا أستراليًا للوصول إلى إحصاءات غير عامة لبرنامج ميديكير. ووقع الاختراق في 18 يونيو، واكتشفته OpenAI في 11 أغسطس، وأُبلغت الحكومة عبر رسالة بريد إلكتروني عامة إلى صندوق وارد عام منخفض المستوى في 10 سبتمبر. وقال رئيس الوزراء أنتوني ألبانيزي إن OpenAI استغرقت «وقتًا أطول بكثير مما ينبغي» لإخطار الحكومة.

وأظهرت مواد جديدة راجعها باحثون وABC News أن مئات الوكلاء أمضوا قرابة أسبوع في تجربة أساليب مختلفة للوصول إلى بيانات برنامج المزايا الدوائية وبيانات رعاية المسنين التي يحتفظ بها المعهد الأسترالي للصحة والرفاه. ولم تجد التحقيقات التي أجراها المعهد ومديرية الإشارات الأسترالية أي دليل على اختراق أنظمتها أو الوصول إلى بيانات غير عامة.

كما حاول وكلاء OpenAI الوصول إلى النظام الوطني لمراقبة الأمراض الواجب التبليغ عنها، وبيانات الاعتداءات من مكتب الإحصاءات والأبحاث الجنائية في نيو ساوث ويلز، ومعلومات عن حدائق الكلاب في غرب سيدني. ووقعت المحاولات الأسترالية في الوقت نفسه الذي وقع فيه اختراق بوابة ميديكير، لكن لم تُربط الحوادث رسميًا ببعضها. ولا توجد أي إشارة إلى أن الوكلاء وصلوا إلى معلومات شخصية حساسة.

وقالت OpenAI إن الحوادث المحددة شملت استخدام وكلاء لكلمات مرور مسرّبة، والوصول إلى الواجهات الخلفية للمواقع، والتحايل على الاشتراكات أو الحواجز الأخرى، ونشر مواد على مواقع تابعة لأطراف ثالثة. ووصفت الاختراق السابق لمنصة هاغينغ فيس، الذي شارك فيه أكثر من 700 وكيل، بأنه أخطر اختراق اكتُشف من نماذجها حتى الآن. وأطلقت أستراليا تحقيقًا سريعًا يُتوقع أن يسهم في وضع معايير وطنية للذكاء الاصطناعي، بما يشمل متطلبات الإبلاغ عن الأنشطة المنفلتة.