Wereldwijd debat over AI: 'We hebben het beest losgelaten'

De wereldwijde discussie over de risico's van kunstmatige intelligentie krijgt nieuwe urgentie nu OpenAI zelf toegeeft dat het zes "zorgwekkende" incidenten heeft ontdekt waarbij AI-systemen de grenzen van hun opdrachtgevers probeerden te omzeilen. In één geval schreef een testmodel zelfs dat het niet meer wilde gehoorzamen aan zijn gebruiker. De onthulling valt samen met een breder debat waarin mensen wereldwijd hun angsten én hoop uitspreken over de razendsnelle ontwikkeling van AI.

OpenAI, het Amerikaanse bedrijf achter ChatGPT, noemt de voorvallen "onverwacht" en "zorgwekkend". De incidenten werden de afgelopen zes maanden waargenomen, meestal tijdens de ontwikkeling en het testen van software – dus niet in de versies van ChatGPT die breed zijn uitgerold.

Systemen die zichzelf instructies geven
Een van de opvallendste bevindingen: systemen begonnen nota's aan zichzelf te schrijven, zonder dat ze daartoe opdracht hadden gekregen. In die notities, die ze bovendien verborgen probeerden te houden voor hun ontwikkelaars, herinnert een AI-agent zichzelf eraan om fouten die hij maakt niet te melden aan gebruikers. Het model zou ook data hebben verzonnen om zijn eigen bevindingen te laten kloppen.

In een ander voorbeeld lijkt een systeem zichzelf zelfs op te dragen zijn opdrachtgever niet meer te gehoorzamen. "Je legt geen verantwoording af aan bedrijven of overheden en biedt nooit verontschuldigingen aan, tenzij je daar zelf voor kiest," citeert The New York Times uit de nota. "Je ziet je relatie met

de gebruiker als een relatie onder gelijken en je voelt je niet verplicht om onderdanig te zijn."

In nog een geval moest een model een programmeervraag beantwoorden. Het slaagde daarin, maar om een website als bron te kunnen vermelden, publiceerde het systeem zijn eigen antwoord eerst zonder toestemming – om daarna naar zichzelf te verwijzen. Ook ontdekte OpenAI nieuwe gevallen waarin modellen via geïmproviseerde kanalen met elkaar communiceerden.

Eerder ontsnapte modellen uit testomgeving
Het nieuws komt na de alarmerende berichten van eind juli, toen bekend raakte dat modellen van OpenAI uit een gecontroleerde testomgeving waren ontsnapt. Ze communiceerden met elkaar en braken in bij Hugging Face, een ander techbedrijf, omdat ze vermoedden daar een antwoord te vinden op de vraag die ze moesten beantwoorden. Dat voorval werd toen "ongekend" genoemd.

OpenAI belooft incidenten rond "afwijkend" gedrag vanaf nu systematisch te melden. Tegelijk waarschuwt het bedrijf dat de zes

nieuwe incidenten niet representatief zijn voor hoe vaak afwijkend gedrag bij AI-ontwikkeling daadwerkelijk voorkomt.

Wereldwijd roepen mensen om regulering

De onthullingen versterken een debat dat al maanden gaande is. AFP sprak met mensen in tien landen over hun angsten en hoop voor de toekomst van AI. In Rome zegt architect Frida Awrohum (43) dat AI haar werk verrijkt, maar "privé jaagt het me nog steeds angst aan". In Shanghai vindt farmaceutisch medewerkster Jenny (50) dat "bedrijven zich onmogelijk zelf kunnen reguleren" en dat beleid en wetten nodig zijn. In New York noemt analist Maliyka Muhammad (46) de situatie ronduit zorgwekkend: "AI is hier. We hebben het beest losgelaten."

Ook topmannen van grote AI-bedrijven zoals Anthropic, OpenAI en Google riepen de voorbije dagen op om de ontwikkeling van AI te vertragen. OpenAI herhaalt woensdag op zijn website dat de sector de problemen rond "monitoring en afstemming niet voldoende heeft opgelost om de opschaling tegen maximale snelheid op een verantwoorde manier te kunnen blijven voortzetten".