Datalogen Louis Castricato dedikerede sit ottende år til at studere store sprogmodeller, den kunstige intelligens-teknologi bag chatbots som ChatGPT og Claude, da han begyndte at føle, at han var i en blindgyde.
“Vi har dybest set passeret pointen med at lave ægte LLM-grundforskning,” sagde Castricato. “Nu er det bare ansøgning.”
Forskeren afsluttede sine ph.d.-studier ved Brown University og grundlagde et nyt firma, Overworld. Dens ambition er tydelig i navnet: at skabe en kunstig intelligens, der er i stand til at forstå og navigere i en fysisk verden, ikke kun ord.
Mens der stadig er mange penge at tjene på AI-chatbots, satser investorer på det og forpligter billioner af dollars til førende udviklere som Anthropic og OpenAI, et voksende antal kunstig intelligens-iværksættere dedikerer sig til det, de ser som den næste grænse: “verdensmodeller.” Disse systemer har til formål at lære kunstig intelligens, og nogle gange robotter, hvordan man reagerer i et fysisk miljø.
Blandt de involverede er nogle af de mest fremtrædende videnskabsmænd på området, såsom “gudmoren til AI”, Fei-Fei Li, der beskriver begrebet verdensmodel som “et af de vigtigste og mest overbelastede udtryk i AI i dag”.
Hvad er verdensmodeller, og hvorfor har AI brug for dem?
I hjertet af verdens modelforskning er præmissen, at kunstig intelligens ikke kan være virkelig intelligent, hvis den bare “læser en bog.” Hun skal også “læse miljøet”.
“Mens sprogmodeller lærer den statistiske struktur af tekst, lærer verdensmodeller den statistiske struktur af rum og tid: hvordan lyset falder på en overflade, hvordan en have ser ud fra en vinkel, som intet kamera har fanget, hvordan objekter reagerer på kraft og følger fysikkens love,” skrev Li, grundlægger af San Franciscos startup World Labs, i et essay offentliggjort i denne måned.
En anden entusiast er AI-pioneren Yann LeCun, der sidste år forlod sin rolle som chef AI-forsker hos Meta for at grundlægge Paris-baserede Advanced Machine Intelligence Labs.
“Verdens model er hurtigt ved at blive et buzzword,” sagde LeCun på en nylig “Usupervised Learning” podcast. Han ser konceptet som noget, der tillader en AI-agent at “forudsige konsekvenserne af sine egne handlinger.”
Der er flere måder at definere verdensmodeller på, ofte baseret på de teknologier, der forventes at blive bygget med dem, uanset om det er robotter eller et mere interaktivt videospil.
Robotter og begrænsningen af sprogmodeller i virkelige miljøer
Træning i alle menneskehedens bøger, nyhedsartikler og visuelle medier, som udført af AI-sprogmodeller, har resulteret i intelligente assistenter, der transformerer karakteren af kontorarbejde og nogle kreative felter. Nogle fortalere ser dog begrænsninger i generative AI-modeller, der fungerer ved gentagne gange at forudsige det næste ord eller pixel for at producere ny dialog, billeder eller kodelinjer.
Chatbots kan ikke hente et krus kaffe, bemærker Martial Hebert, dekan for datalogi ved Carnegie Mellon University.
“Der er al geometri i verden, dynamikken i, hvordan jeg bevæger min hånd, den fysiske interaktion af kontakt med koppen,” sagde Hebert. “Dette er meget mere komplekst end blot at forudsige det næste ord i en sætning.”
For videnskabsmænd som Hebert, der har viet mere end fire årtier til robotforskning, er den mest nyttige anvendelse for verdensmodeller som en hurtigere og mere overkommelig vej til “fysisk AI”, et andet udtryk i fremmarch i teknologiindustrien.
“Nogle kan have forskellige definitioner, men fysisk og legemliggjort AI er en slags udvikling af det, vi plejede at kalde robotteknologi,” forklarede Hebert i et interview. Han tilføjede, at nogle af de AI-fremskridt, der har gjort chatbots så nyttige, også kan anvendes til at opbygge kunstig intelligens med miljøbevidsthed, der er bred nok til at fungere som en robots hjerne.
“I din krop og rygmarv har du en meget generel model for, hvordan du balancerer, hvordan du går, og du kan tilpasse dig et dårligt knæ om morgenen, så du går en lille smule anderledes,” sagde han. “Du behøver ikke tænke på det. Du har en generel plan et sted i dit nervesystem og hjerne, der gør det muligt for din krop at tilpasse sig meget hurtigt.”
Simulerede verdener vækker interesse hos investorer i sektoren
Smartere robotter er ikke det eneste mål for verdensmodeller. Castricato grundlagde Overworld sidste år, og den lille Rhode Island-startup bygger nu videospilverdener, hvor en scene, f.eks. en uhyggelig skov, kan tilpasse sig, efterhånden som en virtuel karakter bevæger sig og interagerer med objekterne i den.
“Der er ingen anden verdensmodel, hvor du bare kan gå gennem døre eller interagere med et detaljeret miljø som dette,” sagde han i et interview. “Vi optimerer til interaktion frem for alt andet.”
Mens applikationer på kort sigt ikke er lige så tydelige som AI-kodningsværktøjer, tiltrækker verdensmodelbyggere interesse fra venturekapitalister som Steve Jang, medstifter og administrerende partner i Kindred Ventures.
Virksomheden investerer i Overworld og andre virksomheder med fokus på verdensmodeller, herunder Causal Labs, der udvikler AI-modeller til vejrudsigt, og Extropic, der bygger specialiserede computerchips til sådanne modeller.
“Jeg tror på, at fremtiden vil være mange forskellige typer modeller med mange forskellige filosofier og arkitekturer,” sagde Jang. “Jeg tror ikke, det bliver én stor, tæt model til at styre dem alle.”
I sit nylige essay forsøgte Li at skabe en “taksonomi af verdensmodeller” for at hjælpe med at organisere forvirringen over konkurrerende synspunkter.
“En videomodel, der producerer storslåede, men fysisk umulige flammer, en sprogmodel, der improviserer et spilbart spil, og en fysikmotor, der trofast simulerer forbrænding, bærer alle det samme navn,” skrev hun.
Hun inddelte verdensmodellerne i tre kategorier. De mest kommercielt levedygtige i dag er “renderere”, som prioriterer den visuelle troskab af de virtuelle verdener, de skaber, men som man ikke helt kan stole på, vil lære robotter meget.
Dernæst kommer “simulatorer”, som skaber virtuelle træningsbaner, der trofast repræsenterer den fysiske struktur i en verden; og “planlæggere”, som forsøger at forudsige, hvad en AI-agent eller robot skal gøre i en ustruktureret verden.
“En robot, der kan planlægge, er en robot, der kan arbejde, og hele industrien ræser om at være den første til at nå dertil,” konkluderede hun.
