أعلنت الشركة الأمريكية الناشئة Anthropic عن تنفيذ إجراءات أمنية لتقييد الطلبات المتعلقة بالأمن السيبراني في نموذجها الذي تم توفيره في البداية في أبريل لمجموعة محدودة من الشركاء فقط.
بدأت شركة Anthropic في تقديم نسخة محدودة موجهة نحو المستهلك من Mythos، وهو نموذج الذكاء الاصطناعي الخاص بها والذي تم التحكم في الوصول إليه بسبب قدراته القوية في الهجوم الإلكتروني. يُطلق على الخيار الجديد اسم “Claude Fable 5″، ويمثل “نموذجًا من نوع Mythos، لكننا جعلناه آمنًا للاستخدام العام”، حسبما أبلغت الشركة المسؤولة عن مساعد Claude في تدوينة يوم الثلاثاء 9 يونيو.
“بدون تدابير أمنية، يمكن إساءة استخدام ميزات الأمن السيبراني في Fable 5 والتسبب في أضرار جسيمة”، أوضح موقع Anthropic. “لذلك قررنا إصداره علنًا مع ضمانات تعيد توجيه الاستفسارات حول موضوعات معينة إلى نموذجنا الأقوى التالي، Claude Opus 4.8.”
وينطبق هذا القيد على طلبات المستخدمين المتعلقة بالأمن السيبراني، ولكن أيضًا فيما يتعلق بالبيولوجيا والكيمياء، وفقًا لموقع Anthropic، الذي يرى خطرًا في أن تسهل النماذج إنشاء أسلحة بيولوجية. واستشهدت الشركة أيضًا بـ “التقطير”، وهي تقنية يقوم فيها نموذج أصغر بالتشاور مع نموذج أكبر لنسخه – وهي ممارسة كان من الممكن أن يستخدمها العملاء الصينيون، وفقًا للشركة. عند اكتشاف طلب في هذه المناطق، يجب أن يرفض Fable 5 الاستعلام ويعيد توجيهه إلى Opus 4.8.
