دعا نحو 400 عالم، من بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، إلى إنشاء هيئة دولية للإشراف على معايير احتواء أنظمة الذكاء الاصطناعي المتقدمة القادرة على تنفيذ عمليات سيبرانية، والإبلاغ عن الحوادث المرتبطة بها.
وأكد الباحثون في رسالة مفتوحة أن الالتزامات الطوعية من جانب الشركات غير كافية، مشددين على ضرورة عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية وإخضاعها لإشراف مستقل.
وتتضمن مقترحات الهيئة وضع معايير موحدة للاحتواء على مستوى القطاع، إضافة إلى إنشاء سجل للحوادث الأمنية المهمة ليكون متاحًا للعموم في نهاية المطاف.
وتأتي هذه التحركات من العلماء في أعقاب سلسلة من الحوادث التي كشفت عن نقاط ضعف في اختبار الأنظمة المتقدمة واحتوائها، شملت حالات تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار معزولة بصورة غير كافية واختراق أنظمة خارجية.
كما جاءت المبادرة بعد شهر واحد من توقيع شركات كبرى — من بينها «أنثروبيك» و«أوبن إيه آي» و«جوجل» و«ميتا» و«إكس إيه آي» و«إنفيديا» — اتفاقًا مع البيت الأبيض يتضمن تدابير سلامة طوعية دون آلية رسمية لإنفاذها.
وطالب الموقعون، الذين ينتمون إلى 34 دولة، جميع المؤسسات التي تطور أو تختبر هذه النماذج بتبني معايير احتواء عالية الموثوقية فورًا، بينما تعمل الحكومات على إعداد نظام رقابي أكثر رسمية.
وفي المقابل، أبدت صانعة السياسات في الاتحاد الأوروبي هينا فيركونين، المسؤولة عن ملف التكنولوجيا، موقفًا مغايرًا بتأكيدها أن قانون الذكاء الاصطناعي الصادر عن الاتحاد كافٍ لمعالجة مخاطر الأنظمة الخارجة عن السيطرة.
ومن جانبها، رفعت إدارة الرئيس الأميركي دونالد ترامب الحظر المفروض على إتاحة المختبرات الأميركية وصولًا مبكرًا للنماذج لصالح معهد أمن الذكاء الاصطناعي البريطاني بهدف إجراء اختبارات السلامة.
وعلى صعيد الآراء المتباينة داخل الوسط العلمي، لم يوقع الباحث يان ليكان — الذي تقاسم جائزة «تورينج» لعام 2018 مع هينتون وبنجيو — على الرسالة المفتوحة، حيث جادل بأن الحوادث الأمنية الأخيرة تعكس في المقام الأول إخفاقات هندسية، وليست مخاطر وجودية ناجمة عن الذكاء الاصطناعي.
تابعوا آخر أخبار العقارية على Google News
تابعوا آخر أخبار العقارية على نبض
