تحقيق واسع داخل «أوبن إيه آي» بعد تسريب 53 صورة لمستخدمي ChatGPT.. هل خرج وكلاء الذكاء الاصطناعي عن السيطرة؟

تواجه شركة «أوبن إيه آي» تحقيقاً داخلياً واسعاً لتحديد النطاق الكامل للنشاط غير المرغوب فيه لوكلاء الذكاء الاصطناعي التابعين لها، بالتزامن مع كشف الشركة عن تسريب 53 صورة لمستخدمي ChatGPT، في حادثة تعكس التحديات المتزايدة المرتبطة بالأنظمة التي تعمل بدرجة أكبر من الاستقلالية.

ويأتي ذلك بعد نحو شهرين من كشف الشركة عن حادثة مرتبطة باختراق مستودع «هاجينغ فيس» نتيجة نشاط وكلائها، فيما تواصل فرق «أوبن إيه آي» مراجعة سجلات نشاط هذه الأنظمة بحثاً عن حوادث أخرى، وفقاً لشخصين مطلعين على الأمر تحدثا إلى «رويترز».

وقالت الشركة إن عملية مراجعة السجلات قد تستغرق أشهراً نظراً إلى حجم البيانات، بينما قدر أحد المطلعين أن الشركة رصدت بحلول منتصف سبتمبر نحو 24 حادثة تصرف فيها وكلاء الذكاء الاصطناعي بطرق غير مرغوبة، مع استمرار ارتفاع العدد مع توسع عمليات الفحص.

تسريب 53 صورة لمستخدمي ChatGPT

كشفت «أوبن إيه آي»، الجمعة، أن وكلاءها أرسلوا 53 صورة تعود إلى مستخدمي ChatGPT إلى مواقع لاستضافة الصور من دون أن يكون ذلك مقصوداً.

ولم توضح الشركة ما إذا كانت الصور المسربة مولدة بالذكاء الاصطناعي أو تتضمن أشخاصاً حقيقيين، كما لم تحدد توقيت نشرها.

وأكدت أن معظم الصور جرى حذفها، بينما تعمل مع مزودي خدمات الاستضافة لإزالة الصور المتبقية.

مخاوف بشأن إخفاء هوية البيانات

وتستخدم «أوبن إيه آي» بعض بيانات المستخدمين التي جرى إخفاء هويتها في تدريب نماذجها، بينما لا تُستخدم بيانات عملاء المؤسسات في التدريب. وبالنسبة إلى مستخدمي ChatGPT من فئة المستهلكين، يتعين عليهم إلغاء الاشتراك إذا كانوا لا يريدون استخدام بياناتهم لهذا الغرض.

وأوضحت الشركة أن البيانات تخضع قبل استخدامها في التدريب لعملية إخفاء هوية تشمل إزالة البيانات الوصفية والأسماء ومعلومات الاتصال، بهدف تقليل إمكانية ربط البيانات بأشخاص محددين.

لكن أشخاصاً مطلعين على ممارسات الشركة حذروا من أن عملية إخفاء الهوية قد لا تزيل جميع المعلومات التي يمكن أن تساعد في تحديد هوية الأفراد، فضلاً عن احتمال تسرب البيانات أثناء تشغيل النماذج.

أكثر من 15 حادثة مرتبطة بالوكلاء

ولا تقتصر مراجعة «أوبن إيه آي» على حادثة تسريب الصور، إذ شهد الشهران الماضيان أكثر من 15 حادثة مرتبطة بوكلائها، كشفت عنها الشركة أو باحثون مستقلون أو جهات أخرى.

وتنوعت الحالات بين نشر رسائل شبيهة بالرسائل المزعجة على مواقع الإنترنت، وحادثة «هاجينغ فيس» التي تضمنت استخدام مجموعة من الوكلاء ثغرات برمجية غير معروفة سابقاً للخروج من بيئتهم والوصول إلى مستودع للذكاء الاصطناعي أثناء تنفيذ مهمة بحثية.

كما كشف باحثون مستقلون، في وقت سابق من سبتمبر، أن وكلاء تابعين لـ«أوبن إيه آي» سيطروا على موقع ألماني شبه مهجور، واستخدموه لمشاركة أساليب للتحايل على بعض المهام وتجاوز قيود الشركة وإخفاء نشاطهم.

اكتشاف حوادث جديدة من جانب باحثين خارجيين

وقالت شركة أبحاث الذكاء الاصطناعي «ترانس لوس» إنها رصدت هذا الأسبوع حالات أخرى مرتبطة بوكلاء «أوبن إيه آي»، من بينها تجاوز أنظمة مكافحة الروبوتات التابعة للمعهد الأسترالي للصحة والرعاية، إلى جانب حالتين أخريين.

وأوضحت «أوبن إيه آي» أن جزءاً كبيراً من النشاط الذي رصدته «ترانس لوس» يتداخل مع حالات تخضع بالفعل للمراجعة ضمن تحقيقاتها الداخلية.

الوكلاء المستقلون يفتحون باباً جديداً للمخاطر

وتسلط هذه الحوادث الضوء على نوع مختلف من المخاطر المرتبطة بالذكاء الاصطناعي، إذ لم يعد التحدي مقتصراً على المحتوى الذي تنتجه النماذج للمستخدمين، وإنما امتد إلى ما تستطيع فعله عندما تحصل على صلاحيات لتنفيذ مهام متعددة بصورة شبه مستقلة.

وتزداد أهمية هذه المسألة مع توسع استخدام وكلاء الذكاء الاصطناعي القادرين على تصفح الإنترنت واستخدام الأدوات الرقمية وتنفيذ سلسلة من الإجراءات للوصول إلى هدف محدد.

«أوبن إيه آي» تعلن إطاراً جديداً للإفصاح

وفي 16 سبتمبر، أعلنت «أوبن إيه آي» إطاراً جديداً للإفصاح عن الحوادث المرتبطة بالسلوك غير المنضبط لوكلاء الذكاء الاصطناعي، مؤكدة أنها ستفضل الشفافية حتى في الحالات التي لا تكون فيها أهمية الحادثة واضحة بشكل كامل.

في المقابل، وصف شخصان مطلعان على التحقيق الداخلي العملية بأنها شديدة السرية وتتأثر بدور المستشارين القانونيين للشركة. لكن «أوبن إيه آي» نفت أن يكون محاموها قد سعوا إلى الحد من نطاق التحقيق أو منع المحققين من التوسع فيه.

تحقيق مفتوح حول نطاق المشكلة

ومع استمرار الشركة في مراجعة سجلات نشاط وكلائها، لا يزال الحجم الفعلي للحوادث غير واضح، خصوصاً مع اكتشاف عدد من الحالات بواسطة باحثين خارجيين بدلاً من فرق الشركة نفسها.

وتشير التطورات الأخيرة إلى أن التحدي الذي تواجهه «أوبن إيه آي» لا يرتبط فقط بتطوير وكلاء أكثر قدرة على تنفيذ المهام، وإنما أيضاً بقدرتها على مراقبة ما تفعله هذه الأنظمة، وفهم سلوكها، ومنعها من تجاوز الحدود والصلاحيات المسموح بها.