وسرعان ما تم سحب خوارزمية الذكاء الاصطناعي المبتكرة، المسماة Mythos 5 والتي طورتها شركة Anthropic، من التداول بأمر مباشر من البيت الأبيض. ويمنع هذا الإجراء على وجه التحديد الكيانات الأجنبية من استخدام الأداة، على أساس أن النموذج، بقدرته الاستثنائية على تحديد عيوب البرمجيات، يمثل خطرًا كبيرًا على الأمن القومي للولايات المتحدة. ويسلط القرار الضوء على القلق المتزايد بين الحكومات بشأن الإمكانات التدميرية لتقنيات الذكاء الاصطناعي المتقدمة للغاية.
تخترق خوارزمية Mythos 5 أنظمة الوكالات الحساسة خلال ساعات
ونشرت مجلة الإيكونوميست الإنجليزية تفاصيل غير منشورة ومثيرة للقلق، مما زاد الوضع خطورة. وكما كشف الجنرال جوشوا رود، الذي تولى منصب مدير وكالة الأمن القومي (NSA) في مارس/آذار، تمكن Mythos 5 من الوصول “عمليا إلى جميع” الأنظمة السرية لوكالة الأمن. والأكثر إثارة للدهشة هو سرعة الاختراق، التي استغرقت بضع ساعات فقط، وهو ما يتناقض بشكل حاد مع الأسابيع المتوقعة في الاختبارات الأمنية التقليدية. وقد تم إبلاغ هذا الاكتشاف إلى السيناتور مارك وارنر، نائب رئيس لجنة الاستخبارات ذات النفوذ في مجلس الشيوخ الأمريكي، مما يشير إلى الجدية التي يتم بها التعامل مع هذه الحادثة على أعلى المستويات الحكومية.
تُظهر السرعة التي تغلبت بها Mythos 5 على الحواجز الأمنية لوكالة الأمن القومي قفزة نوعية في قدرات تحليل نقاط الضعف في الذكاء الاصطناعي. بينما تقضي الفرق الحمراء البشرية أسابيع أو حتى أشهر في تحديد نقاط الضعف في الأنظمة المعقدة، أنجز الذكاء الاصطناعي المهمة في جزء صغير من ذلك الوقت. وتثير هذه الحقيقة تساؤلات ملحة حول مدى فعالية الدفاعات الحالية ضد التهديدات السيبرانية التي يمكن أن تكون مدفوعة بمثل هذه الخوارزميات القوية، مما يسلط الضوء على الحاجة إلى إعادة تقييم استراتيجيات الأمن السيبراني وتطوير التدابير المضادة بنفس التعقيد.
افهم كيف استخدمت وكالة الأمن القومي الذكاء الاصطناعي في التدريبات الأمنية
وعلى الرغم من الاختراق، فمن المهم توضيح أن الذكاء الاصطناعي لم يعمل بشكل مستقل لمهاجمة الأنظمة. يشير التقييم الأولي إلى أن وكالة الأمن القومي استخدمت النموذج في تمرين “الفريق الأحمر”. هذه منهجية قياسية يحاكي فيها الخبراء الهجمات السيبرانية لتحديد وتصحيح نقاط الضعف في شبكاتهم الخاصة، سعياً إلى تحسين مرونة الدفاعات. وكان الهدف هو اختبار حدود حواجزها الأمنية، باستخدام أداة متطورة لمحاكاة تكتيكات الخصوم المتطورين. على الرغم من السيطرة عليها، فإن فعالية Mythos 5 في بيئة المحاكاة هذه أثارت تحذيرًا بشأن ما يمكن أن يحدث إذا وقعت التكنولوجيا في الأيدي الخطأ أو تم استخدامها بشكل ضار.
يظهر تاريخ الخوارزمية القدرة على العثور على الأخطاء
في التقييمات السابقة، أثبت Mythos 5 بالفعل فعاليته المثيرة للإعجاب. وفي اختبار معتمد من مؤسسة موزيلا، حددت الخوارزمية 271 ثغرة أمنية في متصفح فايرفوكس، وهو أحد أكثر المتصفحات استخدامًا على مستوى العالم. وفي مواجهة المخاوف المتزايدة بشأن المخاطر الكامنة في مثل هذه الأداة القوية، قررت أنثروبيك تقييد الوصول إلى الخوارزمية، وجعلها متاحة فقط للباحثين والمؤسسات التي حصلت على موافقة محددة، في محاولة للسيطرة على استخدامها والتخفيف من المخاطر المحتملة. تسلط سياسة الوصول المحدود هذه الضوء على مسؤولية الشركة في التعامل مع التقنيات التي تتمتع بقدرة تأثير كبيرة.
إصدار Fable سريع الإصدار والإزالة
في 9 يونيو، أصدرت Anthropic Fable، وهي نسخة من المفترض أنها أكثر تحكمًا من Mythos 5، وتتضمن ضمانات مصممة لمنع الأعمال الخطيرة. ومع ذلك، كان توفر Fable قصيرًا للغاية. وبعد ثلاثة أيام فقط، في 12 يونيو/حزيران، تدخل البيت الأبيض مرة أخرى، وأصدر أمرًا بإزالة القالب على الفور من الموقع. تم إطلاق الإجراء السريع بسبب مزاعم بأن مهندسي أمازون اكتشفوا طرقًا للتحايل على وسائل الحماية هذه، مما أدى إلى تحذيرات من السلطات المختصة حول استمرار المخاطر، مما يدل على صعوبة إنشاء حواجز فعالة أمام قدرات الذكاء الاصطناعي المتقدمة.
إن تكرار الحظر، الآن بالنسبة لنسخة Fable، يوضح مدى الإلحاح والجدية التي تتعامل بها حكومة الولايات المتحدة مع مسألة السيطرة على أنظمة الذكاء الاصطناعي القوية. إن التدخل المباشر من جانب البيت الأبيض بعد فترة وجيزة من إطلاق النسخة “الآمنة” يعكس تصوراً مفاده أن مخاطر سوء الاستخدام في الوقت الحالي تفوق الفوائد الخاضعة للرقابة. تضيف هذه الحلقة فصلا مهما إلى النقاش حول حوكمة الذكاء الاصطناعي، وخاصة فيما يتعلق بالقدرة على التنبؤ وتحييد نقاط الضعف التي يمكن أن تخلقها التكنولوجيا نفسها.
الأنثروبي والنقاش حول السيطرة الأخلاقية على الذكاء الاصطناعي
لدى الأنثروبيك تاريخ ملحوظ في التحذير العلني من المخاطر المحتملة لذكائها الاصطناعي قبل إتاحتها، وهي ممارسة شوهدت في الإصدارات السابقة المستندة إلى نماذج مثل GPT-2 وGPT-3. ومع ذلك، يمثل Mythos 5 وFable تقدمًا تكنولوجيًا كبيرًا، حيث يُظهِران قدرات فائقة واحتمالية ضرر أكبر بكثير مقارنة بأسلافهما. تثير هذه القفزة في التعقيد والقوة مناقشات عميقة حول السيطرة والأخلاق في تطوير الذكاء الاصطناعي عالي الطاقة. تعمل الحوادث التي تنطوي على هذه الخوارزميات على تكثيف النقاش العالمي حول كيفية الموازنة بين الابتكار التكنولوجي والسلامة والمسؤولية، وهو التحدي الذي يتطلب التعاون من الحكومات والشركات والمجتمع العلمي لوضع معايير فعالة وضمان أن الذكاء الاصطناعي يفيد البشرية دون المساس بسلامتها.