Инновационный алгоритм искусственного интеллекта под названием Mythos 5, разработанный Anthropic, был быстро изъят из обращения по прямому указанию Белого дома. Эта мера конкретно запрещает иностранным организациям использовать этот инструмент на том основании, что модель, с ее исключительной способностью обнаруживать недостатки программного обеспечения, представляет высокий риск для национальной безопасности Соединенных Штатов. Это решение подчеркивает растущую обеспокоенность правительств по поводу разрушительного потенциала высокоразвитых технологий искусственного интеллекта.
Алгоритм Mythos 5 проникает в секретные системы ведомств за считанные часы
Неопубликованные и тревожные подробности инцидента опубликовал английский журнал The Economist, что еще больше усложнило ситуацию. Как сообщил генерал Джошуа Радд, занявший пост директора Агентства национальной безопасности (АНБ) в марте, Mythos 5 удалось получить доступ «практически ко всем» конфиденциальным системам агентства безопасности. Самым удивительным была скорость вторжения, которая заняла всего несколько часов, что резко контрастировало с неделями, которые можно было бы ожидать при обычных тестах безопасности. Об этом открытии было сообщено сенатору Марку Уорнеру, вице-председателю влиятельного комитета Сената США по разведке, что свидетельствует о серьезности, с которой к этому эпизоду относятся на самых высоких уровнях правительства.
Быстрота, с которой Mythos 5 преодолела барьеры безопасности АНБ, демонстрирует качественный скачок в возможностях анализа уязвимостей искусственного интеллекта. В то время как красные команды людей тратят недели или даже месяцы на выявление слабых мест в сложных системах, ИИ справился с задачей за небольшую часть этого времени. Этот факт поднимает неотложные вопросы об эффективности нынешних средств защиты от киберугроз, которые могут быть реализованы с помощью таких мощных алгоритмов, подчеркивая необходимость переоценки стратегий кибербезопасности и разработки столь же сложных контрмер.
Узнайте, как АНБ использовало искусственный интеллект в учениях по обеспечению безопасности
Несмотря на вторжение, важно уточнить, что искусственный интеллект не действовал автономно для атаки на системы. Первоначальная оценка предполагает, что АНБ использовало эту модель в учениях «красной команды». Это стандартная методология, в которой эксперты моделируют кибератаки для выявления и устранения уязвимостей в своих собственных сетях, стремясь повысить устойчивость защиты. Намерение состояло в том, чтобы проверить пределы барьеров безопасности, используя передовой инструмент для моделирования тактики изощренных противников. Несмотря на контроль, эффективность Mythos 5 в этой моделируемой среде вызвала предупреждение о том, что может случиться, если технология попадет в чужие руки или будет использована злонамеренно.
История алгоритма показывает способность находить ошибки
В предыдущих оценках Mythos 5 уже продемонстрировал свою впечатляющую эффективность. В ходе теста, санкционированного Mozilla Foundation, алгоритм выявил 271 уязвимость безопасности в браузере Firefox, одном из наиболее используемых в мире. Столкнувшись с растущей обеспокоенностью по поводу опасностей, присущих такому надежному инструменту, Anthropic решила ограничить доступ к алгоритму, сделав его доступным только исследователям и учреждениям, получившим специальное одобрение, в попытке контролировать его использование и снизить потенциальные риски. Эта политика ограниченного доступа подчеркивает ответственность компании за использование технологий, которые имеют столь значительное влияние.
Быстрое освобождение и удаление версии Fable
9 июня Anthropic выпустила Fable, предположительно более контролируемую версию Mythos 5, включающую меры безопасности, предназначенные для предотвращения опасных действий. Однако доступность Fable была крайне недолгой. Всего три дня спустя, 12 июня, Белый дом снова вмешался, отдав приказ немедленно удалить шаблон с сайта. Эти быстрые действия были вызваны обвинениями в том, что инженеры Amazon обнаружили методы обхода этой защиты, что привело к предупреждениям компетентных органов о сохранении рисков, демонстрируя сложность создания эффективных барьеров против передовых возможностей искусственного интеллекта.
Повторение запрета, теперь уже для версии Fable, демонстрирует срочность и серьезность, с которой правительство США относится к проблеме контроля над мощными ИИ. Прямое вмешательство Белого дома вскоре после выпуска «безопасной» версии отражает мнение о том, что в настоящее время риски неправильного использования перевешивают контролируемые выгоды. Этот эпизод добавляет важную главу к дискуссии об управлении искусственным интеллектом, особенно в отношении способности прогнозировать и нейтрализовать уязвимости, которые может создать сама технология.
Антропный и дискуссия об этическом контроле искусственного интеллекта
Anthropic имеет примечательную историю публичного предупреждения о потенциальной опасности своего собственного искусственного интеллекта, прежде чем сделать его доступным. Такая практика наблюдалась в предыдущих версиях, основанных на таких моделях, как GPT-2 и GPT-3. Тем не менее, Mythos 5 и Fable представляют собой значительный технологический прогресс, демонстрируя превосходные возможности и значительно больший потенциал ущерба по сравнению со своими предшественниками. Этот скачок в сложности и мощи вызывает глубокие дискуссии о контроле и этике при разработке мощного искусственного интеллекта. Инциденты, связанные с этими алгоритмами, обостряют глобальные дебаты о том, как сбалансировать технологические инновации с безопасностью и ответственностью. Эта задача требует сотрудничества правительств, бизнеса и научного сообщества для установления эффективных стандартов и обеспечения того, чтобы ИИ приносил пользу человечеству, не ставя под угрозу его безопасность.