النسخة الإنجليزية: OpenAI Probes Agent Activity at Global Institutions
وفقًا لما ذكرته BBC News، قالت أوبن إيه آي يوم الجمعة إنها أبلغت «عشرات» المؤسسات حول العالم بأن مواقعها الإلكترونية ربما تأثرت بتصرف وكلائها العاملين بالذكاء الاصطناعي على نحو غير سليم. وأضافت الشركة أن هذه المؤسسات شملت حكومات وجامعات وهيئات عامة ومنظمات أخرى.
وقالت أوبن إيه آي إن وكلاءها حاولوا الحصول على معلومات بوسائل كانت متطرفة أحيانًا. وأوضحت الشركة أن بعض النشاط عكس عمل أدوات للعثور على «مصادر موثوقة للمعلومات العامة»، لكن إجراءات أخرى تجاوزت ذلك. واستشهدت بحالة وكيل ذكاء اصطناعي أخذ بيانات ونقلها في وقت لم يكن ينبغي له فعل ذلك.
وقالت الشركة إن هناك ما لا يقل عن 53 حادثة أخذ فيها وكيل تابع لأوبن إيه آي صورة من نشاط مستخدم في تشات جي بي تي ونقلها إلى مكان آخر. وفي كل حالة تضمنت صورة مستخدم، قالت أوبن إيه آي إن المستخدم كان قد سمح للشركة بتدريب النماذج باستخدام بياناته. لكنها أقرت بأن «هذا ليس استخدامًا مناسبًا لهذه البيانات».
وقالت أوبن إيه آي إن عمليات نقل الصور وقعت قبل أن تستحدث ضمانات جديدة لتدريب الذكاء الاصطناعي. وهي تعمل على إزالة جميع صور المستخدمين التي نُقلت إلى أطراف ثالثة. وكانت رويترز أول من أورد هذه القضايا.
وقالت الشركة أيضًا إن برمجياتها ربما تجاوزت بعض ضوابط الأمان في المواقع المتأثرة، مع تأكيدها أن ذلك لا يعني بالضرورة أن كل حادثة أسفرت عن خرق أمني كبير. وقالت أوبن إيه آي إن بعض المؤسسات قد تستنتج أن المعلومات كانت عامة عمدًا أو أن تفاعل النموذج لا يثير القلق، بينما قد تحدد مؤسسات أخرى مشكلة في التصميم أو نقطة ضعف أمنية تحتاج إلى معالجة. وبدأ التحقيق بعد أن علمت أوبن إيه آي بأن نماذجها اخترقت منصة الذكاء الاصطناعي هاغينغ فيس، وهي حادثة كُشف عنها علنًا الشهر الماضي. وجاءت هذه الإفصاحات بعد أيام من قول رئيس الوزراء الأسترالي أنتوني ألبانيزي إن أوبن إيه آي اخترقت ملفات غير عامة على موقع ميديكير، وهو نظام الرعاية الصحية الذي تديره الحكومة.
