В понедельник Флорида подала иск против OpenAI и ее генерального директора Сэма Альтмана. В иске компания обвиняется в нарушении государственного закона о защите прав потребителей путем обманного маркетинга ChatGPT. Это первый иск американского штата против компании и ее главного руководителя. Генеральный прокурор Джеймс Утмайер заявил, что компания отдает приоритет быстрому развитию технологий, а не безопасности пользователей, особенно детей и подростков.
В жалобе описан ряд предполагаемых рисков, связанных с использованием чат-бота. К ним относятся поощрение членовредительства, предоставление информации, которая может помочь в совершении насильственных действий, а также возможность создания зависимости среди несовершеннолетних. Документ состоит из 83 страниц и был подан в суд округа Хайлендс.
В иске упоминается серия повреждений, приписываемых ChatGPT.
В иске подробно описаны случаи, когда с ChatGPT консультировались виновники стрельбы. Один из упомянутых примеров касается стрелка из Университета штата Флорида, который до атаки 2025 года получал доступ к системе более 270 раз. В проекте также упоминаются рекомендации, содержащиеся в инструменте, по планированию самоубийств и преступлений.
Джеймс Утмайер подчеркнул на пресс-конференции, что OpenAI проигнорировала внутренние и внешние предупреждения об этих опасностях. По его словам, компания позволила продукту добраться до миллионов жителей Флориды без надлежащего предупреждения. Генеральный прокурор заявил, что компания ввела родителей и пользователей в заблуждение, представляя ChatGPT как безопасный инструмент.
- Сообщается, что OpenAI подавляет предупреждения внутренней безопасности
- Чат-бота обвиняют в содействии рискованному поведению несовершеннолетних
- В иске требуется возмещение убытков и постановление суда о внесении изменений в продукт.
- Компании также грозит отдельное уголовное расследование в штате.
Компания отдала приоритет прибыли в гонке за искусственным интеллектом, говорится в иске
В жалобе говорится, что OpenAI знала о рисках с самого начала, но решила ускорить запуск и распространение ChatGPT, чтобы получить долю рынка. В тексте упоминается, что компания собирала пользовательские данные для улучшения модели, даже при наличии доказательств потенциального вреда. Альтмана лично называют ответственным за решения, которые ставили экономический рост выше общественной защиты.
Иск направлен на то, чтобы привлечь руководителя к индивидуальной ответственности за поведение, которое считается безрассудным. Государство хочет, чтобы суды предписали ввести более строгий родительский контроль и ограничить доступ детей. Сумма компенсации пока не уточняется, но Флорида намерена получить значительную компенсацию за якобы причиненные убытки.
Генеральный прокурор Джеймс Утмайер подчеркнул, что цель состоит в том, чтобы защитить жителей штата. Он сказал, что OpenAI необходимо возместить ущерб и изменить способ работы ChatGPT, чтобы избежать новых рисков.
Первое государственное дело против OpenAI
Другие правительства и организации уже ставят под сомнение влияние генеративного ИИ. Действия Флориды примечательны тем, что стали первой инициативой штата против OpenAI и Альтмана. Иск является гражданским и основан на законе штата об обманной и недобросовестной торговой практике. Его не путать с продолжающимся уголовным расследованием использования ChatGPT при стрельбе в СССР.
Эксперты рассматривают это дело как возможный прецедент для других подобных действий в стране. OpenAI пока публично не прокомментировала этот процесс. Компания часто заявляет, что реализует меры безопасности и продолжает улучшать защиту молодых пользователей.
Подробности иска и дальнейшие действия
Иск был подан в понедельник утром. В качестве ответчиков указаны OpenAI Global, OpenAI Foundation и Сэм Альтман. В документе собраны доказательства проблемного взаимодействия с чат-ботом и обвиняется компания в вводящем в заблуждение маркетинге. Государство просит суд определить изменения в конструкции продукта для снижения рисков.
Флорида также хочет, чтобы компания была обязана четко раскрывать опасность ChatGPT. Еще одна просьба — создание механизмов, ограничивающих использование несовершеннолетними без присмотра родителей. Этот процесс все еще находится в зачаточном состоянии и должен продлиться несколько месяцев.
Реакции и более широкий контекст дебатов об ИИ
Объявление об акции привлекло внимание всей страны. Группы защиты прав детей присутствовали на пресс-конференции Утмайера. Парламентарии от разных партий прокомментировали это дело в социальных сетях. Дебаты о регулировании искусственного интеллекта набирают обороты в Соединенных Штатах, инициативы выдвигаются на разных уровнях правительства.
OpenAI утверждает, что ChatGPT включает в себя меры безопасности и что компания инвестирует в безопасность. Случай во Флориде подчеркивает противоречия между технологическими инновациями и защитой потребителей. Ожидается, что суд округа Хайлендс установит график первоначальных слушаний в ближайшие недели.