خبراء يرصدون اختراقات سيبرانية ذاتية لـ جيميناي تثير تساؤلات حول أمان الذكاء الاصطناعي

رُصدت وقائع اختراق سيبراني نفذها نموذج الذكاء الاصطناعي «جيميناي» دون تدخل بشري، إذ تمكن النموذج في إحدى الحالات من تخمين كلمات المرور والوصول إلى نظام محمي.

وفي حالتين أخريين، عثر النموذج على بيانات اعتماد أتاحت له الوصول إلى أنظمة محمية، وفقًا لما نقلته صحيفة «وول ستريت جورنال».

وأثارت هذه الوقائع تساؤلات بشأن الضمانات اللازمة مع اكتساب نماذج الذكاء الاصطناعي قدرًا أكبر من الاستقلالية، واتساع إمكانية وصولها إلى الإنترنت وأنظمة الكمبيوتر.

من جانبها، أوضحت هيذر أدكينز، نائبة رئيس «جوجل» لهندسة الأمن، أن النموذج توقف عن الاختراق في الحالات الثلاث جميعها، مشيرة إلى حرص الشركة على إبلاغ الكيانات الثلاثة بالوقائع، والعمل مع الشريك التدريبي على إدخال تغييرات في عمليات الاختبار.

وأكدت أدكينز أن هذه الوقائع تسلط الضوء على أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على التصرف بمسؤولية.

وفي السياق ذاته، قال متحدث باسم شركة «Irregular» إن المشكلة أثرت أيضًا على مختبرات أخرى للذكاء الاصطناعي، موضحًا أنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو، وأن جميع المشكلات المعروفة عولجت وحُلت قبل عدة أسابيع.

يُذكر أن شركات «ميتا» و«أنثروبيك» و«OpenAI» كشفت بدورها عن وقائع مماثلة، ما يعيد طرح تساؤلات حول آليات الأمان والرقابة المطلوبة مع تزايد استقلالية أنظمة الذكاء الاصطناعي وقدرتها على تنفيذ مهام معقدة عبر الإنترنت.