وفي رسالة مفتوحة، ذكر الباحثون أنه ينبغي في البداية عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية، وإخضاعها لإشراف مستقل، مؤكدين أن الالتزامات الطوعية من جانب القطاع غير كافية، بحسب “رويترز”.

ويأتي المقترح بعد شهر من توقيع شركات “أنثروبيك” و”أوبن إيه آي” و”غوغل” و”ميتا” و”إكس إيه آي” و”إنفيديا” اتفاقًا مع البيت الأبيض، تلتزم بموجبه باتخاذ تدابير سلامة طوعية، دون وجود آلية رسمية لإنفاذ هذه الالتزامات.

كما تأتي الرسالة في أعقاب سلسلة من الحوادث التي يقول الباحثون إنها كشفت عن نقاط ضعف في كيفية اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، بما في ذلك حالات تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار معزولة بصورة غير كافية، واختراق أنظمة خارجية.

وأكد الموقعون، المنتمون إلى 34 دولة، ضرورة أن تتبنى المؤسسات التي تطور نماذج ذكاء اصطناعي قادرة على تنفيذ عمليات سيبرانية أو تختبرها، معايير احتواء عالية الموثوقية على الفور، في حين تعمل الحكومات على وضع نظام رقابي أكثر رسمية.

ويتزايد النقاش بين صانعي السياسات بشأن كيفية الإشراف على أنظمة الذكاء الاصطناعي المتقدمة. وقالت هينا فيركونين، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، لوكالة “رويترز” يوم الجمعة، إن قانون الذكاء الاصطناعي الصادر عن الاتحاد كافٍ لمعالجة المخاطر التي تشكلها أنظمة الذكاء الاصطناعي الخارجة عن السيطرة.

ويوم الأحد، رفعت إدارة الرئيس الأميركي دونالد ترامب الحظر المفروض على إتاحة المختبرات الأميركية وصولًا مبكرًا إلى النماذج لصالح معهد أمن الذكاء الاصطناعي البريطاني، بهدف إجراء اختبارات السلامة.

وتقاسم هينتون وبنجيو جائزة تورينج لعام 2018 مع يان ليكان، الباحث البارز الآخر في مجال الذكاء الاصطناعي لدى شركة “ميتا”. ولم يوقع ليكان على الرسالة، وقد جادل بأن الحوادث الأمنية الأخيرة تعكس في المقام الأول إخفاقات هندسية، وليست مخاطر وجودية ناجمة عن الذكاء الاصطناعي.