Andrew Barto, een professor aan de Universiteit van Alberta, en Richard Sutton, voormalig onderzoeker bij Google DeepMind, ontwikkelden samen het concept reinforcement learning. Dit idee is gebaseerd op de psychologie en leerprincipes van de mens, waarbij AI-systemen beloond worden voor gewenst gedrag.

Google DeepMind gebruikte deze techniek om AlphaGo te ontwikkelen, dat menselijke spelers versloeg in het bordspel Go, een belangrijke mijlpaal in AI-onderzoek. Ook maakt OpenAI gebruik van een versie van reinforcement learning, waarbij menselijke feedback wordt ingeschakeld om modellen als ChatGPT te verbeteren.

Bezorgdheid over snelheid

Ook al is reinforcement learning een belangrijk onderdeel van de AI-revolutie, omdat het heeft geleid tot technologische vooruitgang, een nieuwe generatie onderzoekers en miljarden dollars aan investeringen, maken de twee wetenschappers zich zorgen over de manier waarop huidige bedrijven werken rond AI-ontwikkeling.

“Software uitbrengen zonder de juiste veiligheidsmaatregelen is geen verantwoorde ingenieurspraktijk”, vertelt Barto. Om de ernst van de situatie te schetsen, vergelijkt Barto de huidige aanpak van AI-bedrijven met het bouwen van een brug zonder nauwkeurige tests en het daarna onmiddellijk openstellen voor publiek gebruik.

De snelheid waarmee nieuwe AI-tools zich ontwikkelen is problematisch

De snelheid waarmee nieuwe AI-tools zich ontwikkelen is problematisch volgens de twee wetenschappers, omdat de AI-bedrijven zich daarbij te weinig richten op veiligheid en ethische verantwoordelijkheden. De risico’s zijn nu al zichtbaar. Bij ChatGPT en andere taalmodellen is het voor gebruikers moeilijker om desinformatie te controleren, en deze tools kunnen worden gemanipuleerd voor misbruik, zoals het genereren van nepnieuws of schadelijke deepfakes. Toch worden AI-modellen steeds breder ingezet in cruciale sectoren zoals gezondheidszorg, justitie en onderwijs, vaak zonder duidelijke regels of verantwoording.

Waarom zijn ze zo snel?

De waarschuwing van de twee onderzoekers komt op een moment waarop de AI-industrie miljarden investeert in nieuwe technologieën, voornamelijk gemotiveerd  door commerciële redenen in plaats van wetenschappelijke nieuwsgierigheid.

Een voorbeeld hiervan zijn de enorme financiële bijdragen aan datacenters en infrastructuur om AI uit te breiden. Zo wordt er in 2025 verwacht dat grote technologiebedrijven meer dan 320 miljard dollar zullen uitgeven aan AI. OpenAI is op zoek naar 40 miljard dollar aan nieuwe financiering, terwijl het bedrijf al 260 miljard dollar waard is.

“De drijfveer is niet langer het bevorderen van AI-onderzoek, maar eerder het opzetten van gigantische datacenters om vervolgens gebruikers te laten betalen voor toegang tot software”, stelt Barto.

Volgens de twee wetenschappers werd AI vroeger vooral ontwikkeld door onderzoekers die willen begrijpen hoe intelligentie werkt. Nu geven grote technologiebedrijven miljarden dollars uit om AI-systemen sneller en krachtiger te maken, maar niet per se slimmer of beter voor de samenleving.

AI-bedrijven krijgen meer geld om meer dataservers te bouwen, maar niet om meer mensen toegang te geven.

AI-bedrijven krijgen meer geld om meer dataservers te bouwen, maar niet om meer mensen toegang te geven. De AI-bedrijven gebruiken de financiële investeringen om er een commerciële zaak van te maken. De AI-sector is gericht op het maximaliseren van winst, in plaats van op wetenschappelijke vooruitgang, zeggen de onderzoekers.

AGI is een “marketinghype”

Barto en Sutton uiten ook kritiek op de manier waarop grote technologische bedrijven spreken over Artificial General Intelligence (AGI). AGI, kunstmatige algemene intelligentie, is een machine die de capaciteit heeft om even intelligent te zijn als een mens of zelfs intelligenter. Volgens OpenAI is het belangrijk om grote investeringen van technologische bedrijven te gebruiken om AGI te ontwikkelen “ten gunste van de mensheid”.

Sutton noemt de belofte van AGI echter slechts een “marketinghype” en vindt dat AI al een zoektocht is geweest naar het begrijpen van intelligentie. Hij denkt dat systemen die intelligenter zijn dan mensen ooit mogelijk zullen zijn, maar alleen door een beter begrip van de menselijke geest. De discussie over de vraag of AGI een realistisch en relevant doel is, ziet hij als een afleiding van de echte problemen rond AI, zoals de veiligheid en ethische verantwoordelijkheid bij de huidige systemen.

Trumps besparingen brengen wetenschap in gevaar

Naast kritiek op de tech-sector geven Barto en Sutton ook kritiek op Trump. Ze keuren zijn plannen af om te bezuinigen op wetenschappelijk onderzoek en personeel te ontslaan bij overheidsinstellingen. Volgens de twee onderzoekers zal dit de wetenschappelijke zelfstandigheid van de VS aantasten.

Barto benadrukt dat het zonder voldoende financiering moeilijk zal zijn om belangrijke ontdekkingen te doen, zoals ook het fundamentele onderzoek dat eerder heeft geleid tot de ontwikkeling van reinforcement learning.

Barto benadrukt dat het zonder voldoende financiering moeilijk zal zijn om belangrijke ontdekkingen te doen, zoals ook het fundamentele onderzoek dat eerder heeft geleid tot de ontwikkeling van reinforcement learning. “Een tragedie, niet alleen voor de VS, maar voor de hele wereld”, vertelt Barto.

Toch hoop

“Er zijn veel problemen in de wereld”, zegt Sutton, “maar een teveel aan intelligentie is daar niet één van.”

Ondanks hun zorgen blijven Barto en Sutton optimistisch over de toekomst van AI. Ze geloven dat technologie de wereld kan verbeteren, mits ze op de juiste manier wordt ontwikkeld en gereguleerd. Volgens Sutton kan AI zelfs bijdragen aan een meer bewuste en minder egoïstische samenleving.