Florida heeft maandag juridische stappen aangespannen tegen OpenAI en zijn CEO Sam Altman. De rechtszaak beschuldigt het bedrijf ervan de consumentenbeschermingswetten van de staat te schenden door op bedrieglijke wijze ChatGPT op de markt te brengen. De actie is de eerste van een Amerikaanse staat tegen het bedrijf en zijn belangrijkste leidinggevende. Procureur-generaal James Uthmeier verklaarde dat het bedrijf prioriteit gaf aan de snelle ontwikkeling van technologie boven de veiligheid van gebruikers, vooral kinderen en tieners.
De klacht beschrijft een reeks vermeende risico’s die verband houden met het gebruik van de chatbot. Entre ze zijn het aanmoedigen van zelfbeschadigend gedrag, het verstrekken van informatie die kan helpen bij gewelddadige handelingen en het potentieel om afhankelijkheid onder minderjarigen te creëren. Het document telt 83 pagina’s en is gearchiveerd met Justiça of Highlands County.
Ação haalt een reeks schadevergoedingen aan die aan ChatGPT worden toegeschreven
De rechtszaak beschrijft gevallen waarin ChatGPT werd geraadpleegd door daders van schietpartijen. Een van de genoemde voorbeelden betreft de Florida State University-shooter, die vóór de aanval van 2025 meer dan 270 keer toegang kreeg tot het systeem. In de actie wordt ook melding gemaakt van de begeleiding die de tool biedt op het gebied van zelfmoord- en misdaadplanning.
James Uthmeier benadrukte tijdens een persconferentie dat OpenAI interne en externe waarschuwingen over deze gevaren negeerde. Segundo Hij, het bedrijf, zorgde ervoor dat het product miljoenen inwoners van Florida bereikte zonder de juiste waarschuwingen. De procureur-generaal zei dat het bedrijf ouders en gebruikers heeft misleid door ChatGPT als een veilig hulpmiddel voor te stellen.
- OpenAI zou naar verluidt interne veiligheidswaarschuwingen hebben onderdrukt
- De chatbot wordt ervan beschuldigd risicovol gedrag bij minderjarigen te faciliteren
- De rechtszaak eist schadevergoeding en rechterlijke bevelen voor wijzigingen aan het product
- Het bedrijf wordt ook geconfronteerd met een afzonderlijk strafrechtelijk onderzoek in de staat
Empresa gaf prioriteit aan winst in de AI-race, aldus de rechtszaak
In de klacht staat dat OpenAI vanaf het begin op de hoogte was van de risico’s, maar ervoor koos om de lancering en verspreiding van ChatGPT te versnellen om marktaandeel te winnen. De tekst vermeldt dat het bedrijf gebruikersgegevens heeft verzameld om het model te verbeteren, zelfs met bewijs van mogelijke schade. Altman wordt persoonlijk aangehaald als verantwoordelijk voor beslissingen die groei boven publieke bescherming plaatsten.
De actie beoogt de uitvoerende macht individueel aansprakelijk te stellen voor gedrag dat als roekeloos wordt beschouwd. De staat wil dat Justiça opdracht geeft tot de implementatie van strengere ouderlijk toezicht en beperkingen op de toegang van kinderen. Het bedrag van de compensatie is nog niet gespecificeerd, maar Florida is van plan een aanzienlijke compensatie te verkrijgen voor de vermeende veroorzaakte verliezen.
Procureur-generaal James Uthmeier benadrukte dat het doel is om inwoners van de staat te beschermen. Ele zei dat OpenAI de schade moet betalen en de manier waarop ChatGPT werkt moet veranderen om nieuwe risico’s te voorkomen.
Processo staat op de eerste plaats tegen OpenAI
Outros-overheden en entiteiten stellen de impact van generatieve AI al in vraag. De actie van Florida valt op als het eerste staatsinitiatief tegen OpenAI en Altman in het bijzonder. De rechtszaak is civiel en gebaseerd op de wet op misleidende en oneerlijke handelspraktijken van de staat. Ele wordt niet verward met het lopende strafrechtelijk onderzoek naar het gebruik van ChatGPT bij de FSU-schietpartij.
Especialistas beschouwt de zaak als een mogelijk precedent voor andere soortgelijke acties in het land. OpenAI heeft nog niet publiekelijk gereageerd op het proces. Het bedrijf beweert vaak dat het beveiligingsmaatregelen implementeert en de bescherming voor jonge gebruikers blijft verbeteren.
Detalhes van de rechtszaak en volgende stappen
De rechtszaak werd maandagochtend ingediend. Ela noemt OpenAI Global, OpenAI Foundation en Sam Altman als gedaagden. Het document verzamelt bewijsmateriaal van problematische interacties met de chatbot en beschuldigt het bedrijf van misleidende marketing. De staat vraagt Justiça om wijzigingen in het productontwerp vast te stellen om de risico’s te verminderen.
Florida wil ook dat het bedrijf verplicht wordt de gevaren van ChatGPT duidelijk openbaar te maken. Het verzoek van Outro is om mechanismen te creëren die het gebruik door minderjarigen zonder ouderlijk toezicht beperken. Het proces staat nog in de kinderschoenen en zou maanden moeten duren.
Reações en bredere context van het AI-debat
De aankondiging van de actie genereerde landelijke aandacht. Grupos van de kinderbescherming was aanwezig bij de persconferentie van Uthmeier. Parlamentares van verschillende partijen gaf op sociale media commentaar op de zaak. Het debat over het reguleren van kunstmatige intelligentie wint aan kracht in Estados Unidos, met initiatieven op verschillende overheidsniveaus.
OpenAI stelt dat ChatGPT waarborgen bevat en dat het bedrijf investeert in beveiliging. Het geval van Florida benadrukt de spanningen tussen technologische innovatie en consumentenbescherming. Verwacht wordt dat Justiça van Highlands County in de komende weken het eerste gehoorschema zal opstellen.