خلال عطلة نهاية الأسبوع، دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، شركات الذكاء الاصطناعي، بما فيها شركته، إلى إبطاء وتيرة عملها . وقد وافقه الرأي كل من سام ألتمان وإيلون ماسك، رئيسا شركتي أوبن إيه آي وإكس إيه آي المنافستين على التوالي .
تعكس هذه الخطوة مخاوف في قطاع الذكاء الاصطناعي ، وعلى نطاق أوسع، بشأن مخاطر الأنظمة الجديدة سريعة التطور. وقد أظهرت حوادث بارزة وقعت مؤخراً، مثل اختراق وكلاء الذكاء الاصطناعي التابعين لشركة أخرى من واختراق موقع إلكتروني عام، أن الأنظمة الحالية قادرة على تجاوز حدود الأمان، وأن أنظمة أكثر قدرة قيد التطوير.
ومما يزيد من تعقيد مسألة سلامة الذكاء الاصطناعي التوتر القائم بين السلامة والأداء. ستتردد الشركات في الحد من أداء نماذجها باسم السلامة خشية خسارة حصتها السوقية لصالح المنافسين. كما رفض الرئيس الأمريكي دونالد ترامب دعوات التباطؤ، خشية خسارة حصته السوقية لصالح الصين.
وهذا يعني أن أي جهد ناجح في "مواكبة وتيرة التقدم في القدرات بحيث يكون لدى الوقاية من المخاطر الوقت الكافي لمواكبة ذلك"، كما يقول أمودي، سيتطلب تعاونًا كبيرًا بين الشركات المتنافسة - والدول.
تقليل المخاطر
غالباً ما تجلب التقنيات الجديدة مخاطر جديدة، ومخاوف جديدة. وفي كثير من الأحيان، تجد الحكومات والباحثون والشركات طرقاً لإدارة هذه المخاطر.
في عام 1975، مؤتمر أسيلومار حول تقنيات الحمض النووي الجديدة آنذاك بشكل كبير في ضمان عدم تجاوز الأبحاث لفهمنا للسلامة والمخاطر. وبالمثل، في التسعينيات، حاولت الحكومة الأمريكية بناء توافق في الآراء بشأن الحد من التشفير وأمن الحاسوب.
يُضيف وضع الذكاء الاصطناعي بُعداً إضافياً: فالصناعة تشهد منافسة محمومة. قد يتمكن المنافسون العلميون من ضبط أنفسهم، لكن المنافسين التجاريين نادراً ما يتراجعون.
توجد سوابق واضحة لفشل التنظيم الذاتي في مواجهة ضغوط المنافسة. ففي كارثة طائرة بوينغ 737 ماكس عام 2018، على سبيل المثال، دفعت الضغوطات للحاق بمنافستها إيرباص شركة بوينغ إلى إخفاء عيوب طائرة ماكس، الأمر الذي أودى بحياة الكثيرين في نهاية المطاف.
في سباق الذكاء الاصطناعي، يبلغ حجم التوتر التنافسي مستويات أعلى. تتنافس كل من أنثروبيك وأوبن إيه آي على ترسيخ هيمنتهما على السوق قبل السعي إلى طرح أسهمهما للاكتتاب العام، الأمر الذي قد يدرّ عليهما عشرات أو مئات المليارات من الدولارات
وعلى مستوى الدول القومية، تزداد المخاطر مرة أخرى، حيث تأمل كل من الولايات المتحدة والصين في استخدام التكنولوجيا الجديدة لتحقيق ميزة جيوسياسية .
سياسة التوقف
يرتكز اقتراح أمودي بشأن إبطاء وتيرة تطوير الذكاء الاصطناعي على خطة من ثلاث خطوات: إشراك جهات مراجعة سلامة مستقلة من طرف ثالث، ووضع معايير سلامة صناعية منسقة داخل الدول الديمقراطية، والتوصل في نهاية المطاف إلى اتفاقيات عالمية. ويشمل ذلك فرض قيود صارمة على صادرات رقائق الذكاء الاصطناعي إلى الشركات والدول التي لا توافق على إعطاء الأولوية لسلامة الذكاء الاصطناعي.
وقد وافقت شركتا أنثروبيك وأوبن إيه آي بالفعل على المرحلة الأولى من هذه الخطة، على الرغم من تاريخهما في رفع الدعاوى القضائية والإهانة العلنية وتقويض بعضهما البعض سعياً وراء الهيمنة على السوق.
رغم أن عمليات الاختراق الأخيرة واسعة النطاق قد تكون أجبرت الشركات الرائدة في مجال الذكاء الاصطناعي على اتخاذ إجراءات، إلا أنها قد تستفيد من توقف أو تباطؤ وتيرة التطوير. فمن جهة، قد يؤدي ذلك إلى تأجيل سنّ تشريعات صارمة، مثل قانون حظر الذكاء الاصطناعي الفائق. ومن جهة أخرى، من خلال وضع معايير أمان باهظة وتقييد صادرات الرقائق، قد يمنع ذلك المنافسين الأصغر حجماً، ولا سيما الشركات الصينية مثل ديب سيك وعلي بابا، من اللحاق بالركب.
كما أن التوقف المؤقت سيمنح مختبرات الحدود المنهكة فرصة للتعافي والاستعادة والتركيز على الأرباح بدلاً من التقدم.
أنفقت مختبرات الذكاء الاصطناعي هذه مبالغ طائلة لإنتاج نماذجها الحالية، والتي يجب سدادها. في الوقت نفسه، يواجه التقدم عقباتٍ جمة، إذ بات من الصعب العثور على بيانات تدريب جديدة عالية الجودة، كما أن بناء البنية التحتية الضخمة لمراكز البيانات اللازمة لدعم التطوير يُمثل تحديًا بحد ذاته.
قد يكون التوقف المؤقت المنسق لأسباب تتعلق بالسلامة سبباً عاماً مناسباً لثبات أداء نماذج الذكاء الاصطناعي.
ما الذي يمكن فعله
لن يكون جعل الذكاء الاصطناعي آمناً أمراً سهلاً. فإدارة البرمجيات أمرٌ بالغ الصعوبة، كما أظهرت المحاولات السابقة لتشريع برامج التشفير
لكن على عكس البرامج الأخرى، يعتمد الذكاء الاصطناعي على أجهزة مادية نادرة نسبياً. فهو يحتاج إلى رقائق سيليكون متطورة ومراكز بيانات ضخمة لتشغيلها.
هنا تكمن قوة الحكومات الحقيقية. فلديها هنا وسائل لمراقبة وتطوير الذكاء الاصطناعي، إذا ما توفرت الإرادة التشريعية اللازمة.
في غضون ذلك، هناك خطوات يمكن للشركات والحكومات اتخاذها للحد من تعرضنا جميعًا للأضرار الناجمة عن الذكاء الاصطناعي. ويشمل ذلك ضمان عزل البنية التحتية الحيوية للسلامة - مثل شبكات الكهرباء وإمدادات المياه والأنظمة العسكرية - ليس فقط عن الذكاء الاصطناعي، بل وربما عزلها تمامًا عن الإنترنت.
كما أن مسألة المسؤولية مهمة أيضاً. فلا يمكن أن يقتصر الأمر على مستخدمي أنظمة الذكاء الاصطناعي الذين يواجهون مخاطر قانونية بسبب الأفعال التي تتم بمساعدة الذكاء الاصطناعي، بل يشمل أيضاً الأشخاص المسؤولين عن إنشاء أنظمة الذكاء الاصطناعي.
في جوهر الأمر، فإن الضرر الناتج عن الذكاء الاصطناعي - حتى من أنظمة الذكاء الاصطناعي "المستقلة" - ليس مجرد نتاج ثانوي تقني مجرد. بل هو نتيجة مباشرة للقرارات التي يتخذها كل من مطوري الذكاء الاصطناعي ومستخدميه.
أندرو كولين، باحث أول، كلية الحوسبة ونظم المعلومات، جامعة ملبورن.
نُشرت هذه المقالة مُجددًا من موقع "ذا كونفرسيشن" بموجب ترخيص "كرييتف كومنز". اقرأ المقالة الأصلية.
