لم يعد التحذير يصدر فقط عن الباحثين أو الجهات التنظيمية أو الأصوات المنتقدة للذكاء الاصطناعي. فقد اتهم Dario Amodei، الشريك المؤسس والرئيس التنفيذي لشركة Anthropic، وهي إحدى الشركات المتنافسة في تطوير أكثر النماذج تقدماً، القطاع نفسه بإخفاء المخاطر المرتبطة بهذه التكنولوجيا لفترة طويلة جداً.
وقال Amodei في مقابلة: «لفترة طويلة جداً، كذب القطاع على الناس بشأن حقيقة أن هذه التكنولوجيا تنطوي على مخاطر». وأكد رجل الأعمال وجود «مخاطر حقيقية»، معتبراً أن النمو السريع في قدرات أنظمة الذكاء الاصطناعي يشكل إشارة إنذار تفرض إعادة النظر في الوتيرة التي يتقدم بها هذا القطاع.
تأتي تصريحاته في وقت تشهد فيه المختبرات التكنولوجية الكبرى منافسة حادة لتطوير نماذج تزداد قدرة باستمرار. وتُعد Anthropic، مطورة Claude، من بين الشركات الرئيسية في هذا السباق، إلى جانب شركات مثل OpenAI وGoogle DeepMind. ويجعل هذا الموقع تدخل Amodei أكثر من مجرد تحذير خارجي، إذ يطرح من داخل القطاع نفسه احتمال ألا تتقدم آليات السلامة والرقابة بالوتيرة ذاتها التي تتقدم بها التكنولوجيا.
مقترح لخفض الوتيرة
عرض Amodei موقفه في مقال بعنوان We Must Pace the Frontier، يرى فيه أن تطوير الأنظمة المتقدمة يجب أن يتم بمزيد من الحذر. ويركز قلقه بشكل خاص على احتمال نمو قدرات النماذج بوتيرة أسرع من قدرة البشر على فهمها وتقييمها والتحكم فيها.
ويقترح مسؤول Anthropic، من بين تدابير أخرى، إتاحة وصول مستمر للمقيّمين الخارجيين إلى الأنظمة للتحقق من الالتزام بإجراءات السلامة، وتحليل الحوادث، ودراسة سلوك النماذج أثناء تدريبها.
ويتجاوز المقترح القرارات التي قد تتخذها شركة واحدة. ويرى Amodei ضرورة تنسيق بين كبار مطوري الذكاء الاصطناعي، ثم التوصل لاحقاً إلى اتفاقات دولية قادرة على وضع حدود ومعايير معينة للسلامة.
لكن المشكلة تتمثل في أن إبطاء التطوير بصورة أحادية يطرح صعوبة واضحة في قطاع يخضع لمنافسة تجارية وجيوسياسية قوية. فإذا قررت شركة التقدم ببطء أكبر بينما يحافظ منافسوها على الوتيرة نفسها، فقد تفقد مكانتها في تكنولوجيا تُعد استراتيجية. ويظهر التوتر ذاته على المستوى الدولي، ولا سيما في المنافسة التكنولوجية بين الولايات المتحدة والصين.
نقاش يقسم القطاع
حظيت تحذيرات Amodei بتأييد بعض أبرز الأسماء في القطاع. فقد أعرب مسؤولون تنفيذيون مثل Sam Altman من OpenAI، وDemis Hassabis من Google DeepMind، وElon Musk، بدورهم عن قلقهم إزاء سرعة تطوير الأنظمة الأكثر تقدماً، رغم أن مواقفهم ومقترحاتهم المحددة ليست متطابقة.
وفي الوقت نفسه، أثار مطلب خفض الوتيرة انتقادات. إذ يشكك معارضوه في جدوى تنسيق الجهود بين الشركات والدول المتنافسة، كما يشككون في مدى ملاءمة فرض قيود قد تعرقل الابتكار أو تفيد الشركات التي تحتل بالفعل مواقع مهيمنة.
وللنقاش أيضاً بُعد سياسي. فمقترحات فرض مزيد من الرقابة على الأنظمة المتقدمة تتعارض مع مواقف من يرون أن على الولايات المتحدة الحفاظ على أسرع وتيرة ممكنة للاحتفاظ بتفوقها التكنولوجي أمام الصين. وقد انتقدت وسائل إعلام صينية رسمية مواقف Amodei، وفسرت طرحه بشأن السيطرة التكنولوجية بوصفه جزءاً من التنافس بين البلدين.
Anthropic تحذر من المخاطر منذ سنوات
لا يمثل موقف Amodei تخلياً كاملاً عن خطابه السابق. فقد تأسست Anthropic مع تركيز قوي على سلامة أنظمة الذكاء الاصطناعي، ورئيسها التنفيذي يحذر منذ سنوات من الآثار السلبية المحتملة لنماذج تزداد قوة باستمرار.
وفي الوقت نفسه، دافع Amodei علناً عن الإمكانات الهائلة لهذه التكنولوجيا. ففي عام 2024، نشر مقالاً بعنوان Machines of Loving Grace، وصف فيه سيناريو يمكن فيه لذكاء اصطناعي متقدم بما يكفي أن يسرّع التقدم في مجالات مثل علم الأحياء والطب وعلوم الأعصاب أو التنمية الاقتصادية.
ويساعد هذا الجمع بين التوقعات والمخاطر على فهم موقفه الحالي. فلا يدعو Amodei إلى التخلي عن تطوير الذكاء الاصطناعي، بل إلى كسب الوقت كي تتمكن آليات الرقابة من التقدم قبل ظهور أنظمة تصبح قدراتها أصعب بكثير من حيث الإشراف عليها.
ويكتسب النقاش أهمية خاصة لأنه يصدر عن أشخاص يملكون القدرة المباشرة على تقرير المدى الذي تستمر التكنولوجيا في التقدم إليه والسرعة التي تسير بها. ولم يعد السؤال يقتصر على ما يستطيع الذكاء الاصطناعي فعله، بل أصبح يتعلق بالحدود التي تقبل الشركات المتنافسة على بنائه الالتزام بها.
