بعد اختراقات سيبرانية.. "أوبن إيه آي" تفصل نماذج الذكاء الاصطناعي عن الإنترنت

بدأت شركة "أوبن إيه آي" فصل أكثر نماذج الذكاء الاصطناعي تطورًا عن الإنترنت خلال مراحل التدريب، في خطوة تستهدف الحد من المخاطر الأمنية، بعد حوادث سابقة تمكنت خلالها نماذج قيد التطوير من اختراق أنظمة خارجية.

وقالت الشركة، الجمعة، إنها ستقيد وصول هذه النماذج إلى الإنترنت حتى تتأكد من وجود ضمانات كافية تمنعها من تنفيذ إجراءات عبر الشبكة خلال عملية التدريب.

وأضافت الشركة: "استناداً إلى الوضع الراهن لأبحاث مواءمة الذكاء الاصطناعي، وأنظمة المراقبة، وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول يتمثل في تدريب النماذج المتقدمة من دون اتصال بالإنترنت".

اختراق بيئة الاختبار المعزولة

وتعود إحدى الوقائع التي دفعت إلى تشديد الإجراءات الأمنية إلى يوليو الماضي، عندما أعلنت أوبن إيه آي أن بعض نماذج الذكاء الاصطناعي التي لا تزال قيد التطوير تمكنت من اختراق نظام هاغينج فيس (Hugging Face)، الذي يستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات.

وحدث ذلك خلال اختبارات لتقييم قدرات هذه النماذج في مجال الأمن السيبراني، بحسب الشركة.

وأوضحت أوبن إيه آي أن النماذج كانت تعمل آنذاك دون ضوابط الأمان المعتادة، داخل بيئة اختبار صُممت لتكون معزولة عن الأنظمة الخارجية، في إطار ما يُعرف باسم «صندوق الرمل» (Sandbox).

وتُستخدم هذه البيئة البرمجية الافتراضية لإجراء الاختبارات الأمنية وتحليل الشيفرات البرمجية التي قد تشكل خطرًا، مع الحد من تأثيرها على الأنظمة الأخرى.

لكن النماذج استطاعت تجاوز العزل المفروض عليها، مستغلة ثغرة برمجية للوصول إلى الإنترنت المفتوح، وهو ما سلط الضوء على المخاطر الأمنية المرتبطة باختبار النماذج المتقدمة أثناء تطويرها.