AI-blunder door UGent-rector De Sutter: wat betekent AI voor betrouwbaarheid wetenschap?
Petra De Sutter, professor in de Geneeskunde, gerenommeerd onderzoeker en huidig rector van de UGent, slaagt er niet in om AI op een verantwoorde manier te gebruiken. Dit is de pijnlijke vaststelling nadat ze tijdens haar openingsrede herhaaldelijk foute citaten en hallucinaties van een chatbot gebruikte.
Het is ironisch, want deze fouten staan haaks op het eigen AI-beleid van de universiteit. Als een bedachtzame academica zoals De Sutter zich laat vangen door de valstrikken van AI, hoe kunnen we verwachten dat studenten er wel feilloos mee omgaan?
Bedreiging voor academische wereld
Laat mij duidelijk zijn: generatieve AI vormt een reële bedreiging voor de academische wereld. Deze technologie is inmiddels niet meer weg te denken uit het studentenleven. Meer nog, de UGent omarmt AI zonder voldoende kritische afstand. Men laat zich meeslepen door het optimistische narratief van de techmiljardairs en blijft blind voor de fundamentele risico’s.
UGent omarmt AI zonder voldoende kritische afstand
Aangezien de studenten, en dus de toekomstige onderzoekers, niet meer in staat zullen zijn om te werken zonder AI, lijkt het onvermijdelijk dat toekomstig wetenschappelijk werk steeds meer door AI gegenereerde teksten zal bevatten. Het is volstrekt onduidelijk hoe we kritisch zullen omgaan met dit AI-gebruik. Vorige maand nog verscheen er een artikel in het wetenschappelijk tijdschrift Nature waaruit blijkt dat meer dan de helft van de onderzoekers AI gebruikt voor het peer-review-proces.
Dit is een zorgwekkende vaststelling die het academische principe van kritische beoordeling onderuit haalt. Het gevolg is dat we toekomstig (of zelfs huidig) onderzoek steeds vaker met een flinke korrel zout gaan moeten nemen. Onderzoek dreigt onbetrouwbaar te worden, simpelweg omdat chatbots getraind worden op data die zelf al vervuild zijn door AI-fouten.
Het vooruitzicht dat we niet meer gaan kunnen vertrouwen op wetenschappelijke en zelfs medische papers, is verontrustend. Wetenschappelijk onderzoek vormt de basis voor beleidskeuzes, medische behandelingen en innovaties. Het idee dat zelfs medische studies aan geloofwaardigheid gaan moeten inboeten, zou iedereen zorgen moeten baren.
AI reproduceert eigen fouten
Met deze vaststellingen lijk het optimisme dat AI alleen nog maar beter zal worden, naïef. AI ‘kent’ nagenoeg al alle teksten ooit geschreven. Teksten die het nu nog bijleert, zijn steeds vaker al door AI zelf geproduceerd. Het systeem begint dus zijn eigen fouten te reproduceren en versterken.
Natuurlijk moeten we studenten onderwijzen over kritisch AI-gebruik. Dat betekent echter niet dat we het zomaar moeten toelaten bij het schrijven van academisch werk, laat staan dat universiteiten het moeten omarmen.
Ik pleit voor totaalverbod op gebruik van AI
Ik pleit daarom voor een totaalverbod op het gebruik van generatieve AI in de academische wereld. Omdat AI-gebruik in teksten zeer moeilijk te detecteren is (huidige detectoren geven nog te vaak valspositieven en -negatieven) stel ik de introductie van een AI-paspoort voor. Dit systeem is equivalent aan het dopingpaspoort in de sport en houdt de schrijfstijl en teksten van een student of onderzoeker bij. Onregelmatigheden in het taalgebruik zullen zo meteen opvallen, waardoor controle eindelijk mogelijk wordt.
AI zal de wetenschap niet vooruithelpen zoals de grote technologiebedrijven beweren. Als we nu geen duidelijke grenzen trekken, verdwijnt de betrouwbaarheid van de wetenschap en daarmee ook het vertrouwen in onze universiteiten. Een algoritme kan het menselijke denken nooit vervangen. Dat zelfs de rector van de UGent dit aan den lijve ondervonden heeft, bewijst dat er dringend actie moet worden ondernomen.
Niels Brugghe is student filosofie aan de UGent
