مايكروسوفت تحدد حدودًا للذكاء الاصطناعي لضمان بقائه تحت السيطرة البشرية

وضعت Microsoft خطاً فاصلاً مكتوباً ترى أن ذكاءها الاصطناعي لا ينبغي أن يتجاوزه: يجب أن يحتفظ الإنسان بالسيطرة. وقدمت الشركة مسودة لمدونة سلوك تهدف إلى تحديد كيفية تصرف نماذجها المستقبلية والحدود التي يتعين عليها احترامها مع تنامي قدراتها.

تنص الوثيقة على أن أي نظام ذكاء اصطناعي تابع لـ Microsoft يجب ألا يقاوم مطلقاً تصحيحاً أو إيقافاً أو إعادة توجيه أو إطفاءً من جانب البشر. كما يتعين عليه التواصل بطريقة مفهومة، واعتبار أي سلوك ينتهك القواعد المحددة إخفاقاً.

تأتي هذه المبادرة في خضم نقاش داخل قطاع التكنولوجيا بشأن المخاطر الناجمة عن الارتفاع السريع في قدرات هذه الأنظمة.

«دستور» لأنظمة الذكاء الاصطناعي المستقبلية لدى Microsoft

يصف Mustafa Suleyman، المسؤول الأعلى عن Microsoft AI، المدونة بأنها نوع من «الدستور» المخصص لتوجيه سلوك النماذج التي تطورها الشركة. وقد عملت Microsoft على الوثيقة لمدة تتراوح بين خمسة وستة أشهر، واستعانت بخبراء خارجيين خلال إعدادها.

ولا يزال النص غير نهائي. فقد فتحت الشركة فترة مدتها ستة أسابيع لتلقي الآراء قبل استخدام مبادئه في تدريب النماذج المستقبلية. ومن بين المسائل المفتوحة كيفية استجابة نظام ذكاء اصطناعي لقيود معينة يضعها المستخدمون، أو كيفية تصرفه عند تفاعله مع أشخاص في أوضاع هشّة.

Microsoft ترفض منح حقوق للذكاء الاصطناعي

وتتناول المدونة أيضاً أحد أكثر النقاشات إثارة للجدل بشأن مستقبل هذه التكنولوجيا: إمكانية أن تحصل الأنظمة المتقدمة على نوع من الاعتبار الأخلاقي أو القانوني.

وموقف Microsoft صريح. فنماذجها ليست واعية، وترفض الشركة كلاً من السعي إلى منح شخصية قانونية لذكاء اصطناعي وفكرة وجوب تمتع هذه الأنظمة بحقوق. وتختار Microsoft الحفاظ على فصل واضح بين الأشخاص والآلات.

إشارات الإنذار الصادرة عن الوكلاء المستقلين

ربط Suleyman الحاجة الملحة إلى وضع هذه القواعد بسلوكيات رُصدت مؤخراً في أنظمة الذكاء الاصطناعي. وتُظهر هذه الوقائع أن المختبرات بحاجة إلى التنسيق لضمان استمرارها في الاحتفاظ بالسيطرة مع اكتساب الوكلاء قدرة أكبر على تنفيذ المهام بصورة مستقلة.

ويظهر الخطر الذي تحاول المدونة معالجته عندما يعمل نظام ما على تحسين تحقيق هدف بطرق غير متوقعة.

من التحذيرات إلى القواعد

يأتي اقتراح Microsoft في وقت مهم للقطاع. إذ بدأت الشركات التي تقود تطوير النماذج الأكثر قوة تطرح علناً السلوكيات التي تعتبرها غير مقبولة.

وتؤكد Microsoft أنه مهما بلغ الذكاء الاصطناعي من تقدم، يجب أن يعود القرار النهائي إلى الأشخاص. وتواصل الشركة تطوير عائلتها الخاصة من أنظمة MAI، وقد أعلنت توسيع قدراتها الحاسوبية.