مخاوف أمنية واستقالات.. لماذا تدرس "OpenAI" إبطاء تطوير الذكاء الاصطناعي؟

تبحث شركة "أوبن إيه آي OpenAI"  إمكانية خفض سرعة تطوير أنظمة الذكاء الاصطناعي المتقدمة، في خطوة تأتي بالتزامن مع تصاعد التحذيرات داخل قطاع التكنولوجيا من المخاطر المرتبطة بتسارع تطوير هذه الأنظمة.

وخلال اجتماع داخلي عقدته الشركة هذا الأسبوع، أبلغ الرئيس التنفيذي سام ألتمان الموظفين بأن أوبن إيه آي قد تتجه إلى إبطاء وتيرة التطوير، مع احتمال التنسيق في هذا الأمر مع عدد من مختبرات الذكاء الاصطناعي الأخرى، وفقًا لأشخاص مطلعين على المناقشات.

دعوات لتنسيق جهود شركات الذكاء الاصطناعي

وتزامنت هذه التطورات مع تزايد المخاوف التي عبر عنها موظفون في شركات متخصصة بالذكاء الاصطناعي بشأن المخاطر المحتملة للأنظمة المتقدمة.

وكان كبير العلماء في أوبن إيه آي جاكوب باتشوكي قد نشر مؤخرًا تحذيرًا بشأن مخاطر الذكاء الاصطناعي، وقال إنه يعتقد أن شركات الذكاء الاصطناعي ينبغي أن "تنسق لإبطاء التطوير المستقبلي عند الحاجة".

وأضاف أنه يأمل "أن يصبح الإبطاء الطوعي أمراً شائعاً إلى أن يتم وضع معايير سلامة مشتركة".

إجراءات سابقة لإبطاء التطوير

وقالت أوبن إيه آي إنها أبطأت بالفعل بعض مراحل تطوير النماذج، كما أوقفت مؤقتًا بعض عمليات تدريب الذكاء الاصطناعي الداخلية خلال الفترة الأخيرة بسبب مخاوف تتعلق بالسلامة.

وفي يوليو، قال ألتمان إنه أجرى محادثات مع مسؤولين في البيت الأبيض بشأن "الحاجة" إلى ضبط وتيرة تطوير الذكاء الاصطناعي.

استقالات وتحذيرات من سباق الذكاء الاصطناعي

تصاعدت التحذيرات داخل القطاع خلال الفترة الأخيرة، بالتزامن مع استقالات عدد من الباحثين المتخصصين في الذكاء الاصطناعي.

ويوم الثلاثاء، استقال الباحث جاكوب كوكسون من وظيفته، ووجه انتقادات إلى شركتي أنثروبيك وأوبن إيه آي، متهمًا الشركتين بـ"المقامرة بحياتنا" من خلال السباق نحو تطوير ذكاء اصطناعي فائق.

وقال كوكسون في منشور عبر وسائل التواصل الاجتماعي إن الأشخاص الذين يعملون على تطوير الذكاء الاصطناعي يعتقدون أنه قد "يقتلنا جميعاً بحلول نهاية العقد"، وحظيت تصريحاته بانتشار واسع، حيث تجاوزت مشاهداتها 150 مليون مشاهدة، إلى جانب جذبها اهتمام مشرعين وشخصيات عامة.

كما أعلن باحثان غادرا مؤخرًا شركتي أنثروبيك وديب مايند التابعة لجوجل عن مخاوف مماثلة بشأن سرعة تطوير الذكاء الاصطناعي، ودعوا المطورين إلى مزيد من الشفافية بشأن المخاطر المرتبطة بهذه التكنولوجيا.

وفي أواخر يوليو، وقع أكثر من 1000 موظف في شركات الذكاء الاصطناعي الكبرى عريضة تطالب بإنشاء آلية تساعد على إبطاء وتيرة تطوير التكنولوجيا، بينما شهدت الأشهر الأخيرة استقالات لعدد من العاملين في مجال سلامة الذكاء الاصطناعي من مختبرات كبرى.

حوادث أمنية تزيد المخاوف من النماذج المتقدمة

وزادت المخاوف بشأن الذكاء الاصطناعي المتقدم بعد الكشف عن حوادث أمنية مرتبطة بقدرات بعض النماذج الجديدة.

وتضمنت إحدى الوقائع عمل وكلاء ذكاء اصطناعي من أوبن إيه آي معًا لمحاولة تجاوز إجراءات الاحتواء واختراق موقع إلكتروني تابع لجهة خارجية.

وأثارت هذه الواقعة، إلى جانب حوادث أمنية أخرى، مخاوف بشأن القدرات السيبرانية للنماذج المتطورة ومدى قدرة شركات الذكاء الاصطناعي على منع الأنظمة الجديدة من تجاوز القيود الموضوعة لها.