رئيس Anthropic يدعو لإبطاء وتيرة نمو قدرات نماذج الذكاء الاصطناعي المتقدمة
دعا داريو أمودي، الرئيس التنفيذي لـAnthropic، شركات الذكاء الاصطناعي المتقدمة إلى إبطاء معدل تطور قدرات النماذج، بهدف إتاحة وقت أكبر لإجراءات الأمان وأبحاث المواءمة والتقييم المستقل.
طرح أمودي إطارًا من ثلاث خطوات لتنظيم وتيرة تطوير نماذج الذكاء الاصطناعي المتقدمة بدلًا من إيقاف التطور. ويتضمن الإطار وجود مراجعين مستقلين دائمين لديهم وصول إلى عمليات تقييم المخاطر الداخلية ذات الصلة، ووضع معايير طوعية مشتركة بين الشركات لتقليل سباق التسارع، وتنسيق أوسع بشأن سلامة الذكاء الاصطناعي. وأكد أن التقدم التقني يجب أن يستمر، لكن بوتيرة تمنح الشركات والمقيّمين وقتًا أكبر لإدارة المخاطر.
صدور دعوة علنية من رئيس إحدى الشركات الرائدة في نماذج الذكاء الاصطناعي المتقدمة لإبطاء نمو القدرات يزيد الضغط نحو تقييم ورقابة أقوى على مستوى الصناعة. وإذا تبنت شركات أخرى أو جهات تنظيمية أفكارًا مشابهة، فقد يؤثر ذلك في مواعيد إطلاق النماذج ومتطلبات الاختبارات الخارجية وحوكمة الأنظمة الأكثر قدرة.
ربما — هذا ليس إطلاق منتج، لكن الفرق التي تعتمد على النماذج المتقدمة ينبغي أن تتابع أي متطلبات أشد للتقييم والنشر والحوكمة.