Florida väckte rättsliga åtgärder mot OpenAI och dess vd Sam Altman i måndags. Stämningen anklagar företaget för att bryta mot statliga konsumentskyddslagar genom att bedrägligt marknadsföra ChatGPT. Åtgärden är den första av en amerikansk stat mot företaget och dess chef. Attorney General James Uthmeier uppgav att företaget prioriterade den snabba utvecklingen av teknik framför säkerheten för användare, särskilt barn och tonåringar.
Klagomålet beskriver en rad påstådda risker förknippade med användningen av chatboten. Entre de är uppmuntran till självskadebeteende, tillhandahållande av information som kan hjälpa till vid våldsamma handlingar och potentialen att skapa beroende bland minderåriga. Dokumentet har 83 sidor och arkiverades hos Justiça eller Highlands County.
Ação citerar en rad skador som tillskrivs ChatGPT
Rättegången beskriver fall där ChatGPT rådfrågades av förövare av skottlossning. Ett av exemplen som nämns involverar Florida State University-skytten, som kom åt systemet mer än 270 gånger före attacken 2025. Åtgärden nämner också vägledning från verktyget om självmord och brottsplanering.
James Uthmeier lyfte på en presskonferens att OpenAI ignorerade interna och externa varningar om dessa faror. Segundo han, företaget tillät produkten att nå miljontals Floridianer utan ordentliga varningar. Justitieministern sa att företaget vilseledde föräldrar och användare genom att presentera ChatGPT som ett säkert verktyg.
- OpenAI har enligt uppgift undertryckt interna säkerhetsvarningar
- Chatboten anklagas för att ha underlättat riskbeteende hos minderåriga
- Rättegången kräver skadestånd och domstolsbeslut för ändringar av produkten
- Företaget står också inför separat brottsutredning i delstaten
Empresa prioriterade vinst i AI-race, säger rättegången
I klagomålet står det att OpenAI kände till riskerna från början, men valde att påskynda lanseringen och spridningen av ChatGPT för att ta marknadsandelar. Texten nämner att företaget samlade in användardata för att förbättra modellen, även med bevis på potentiell skada. Altman nämns personligen som ansvarig för beslut som ställer tillväxt över allmänhetens skydd.
Åtgärden syftar till att hålla den verkställande befattningshavaren individuellt ansvarig för beteende som anses hänsynslöst. Staten vill att Justiça ska beordra införandet av skärpta föräldrakontroller och begränsningar av barns tillgång. Ersättningsbeloppet är ännu inte specificerat, men Florida avser att få betydande ersättning för de påstådda förlusterna.
Attorney General James Uthmeier förstärkte att målet är att skydda statens invånare. Ele sa att OpenAI måste betala för skadorna och ändra hur ChatGPT fungerar för att undvika nya risker.
Processo är state first mot OpenAI
Outros regeringar och enheter ifrågasätter redan effekten av generativ AI. Florida:s åtgärd sticker ut för att vara det första statliga initiativet mot OpenAI och Altman specifikt. Rättegången är civilrättslig och baserad på statens lagar om vilseledande och orättvis handel. Ele förväxlas inte med den pågående brottsutredningen om användningen av ChatGPT i FSU-skjutningen.
Especialistas följer fallet som ett möjligt prejudikat för andra liknande handlingar i landet. OpenAI har ännu inte offentligt kommenterat processen. Företaget uppger ofta att det implementerar säkerhetsåtgärder och fortsätter att förbättra skyddet för unga användare.
Detalhes av rättegången och nästa steg
Åtalet lämnades in på måndagsmorgonen. Ela listar OpenAI Global, OpenAI Foundation och Sam Altman som åtalade. Dokumentet samlar bevis på problematiska interaktioner med chatboten och anklagar företaget för vilseledande marknadsföring. Staten ber Justiça att fastställa produktdesignändringar för att minska risken.
Florida vill också att företaget ska åläggas att tydligt avslöja farorna med ChatGPT. Outro:s begäran är att skapa mekanismer som begränsar användningen av minderåriga utan föräldrars tillsyn. Processen är fortfarande i sin linda och bör pågå i månader.
Reações och bredare sammanhang för AI-debatten
Tillkännagivandet av aktionen skapade nationell uppmärksamhet. Grupos från barnförsvaret deltog på Uthmeier:s presskonferens. Parlamentares från olika parter kommenterade fallet på sociala medier. Debatten om reglering av artificiell intelligens får styrka i Estados Unidos, med initiativ på olika myndighetsnivåer.
OpenAI hävdar att ChatGPT inkluderar skyddsåtgärder och att företaget investerar i säkerhet. Fallet Florida belyser spänningarna mellan teknisk innovation och konsumentskydd. Justiça av Highlands County förväntas fastställa det inledande utfrågningsschemat under de kommande veckorna.