Afbeelding van Mohamed Hassan via Pixabay
Mediakritiek - IPS

Zwarte arts die wit kind behandelt? Te moeilijk voor AI

Een beeld van een zwarte arts die een wit kind inent: het is nauwelijks te genereren met artificiële intelligentie. AI-bots nemen bestaande stereotypen gewoon over, stelt een experiment van het Instituut voor Tropische Geneeskunde (ITG) in The Lancet.

donderdag 1 februari 2024 16:12
Spread the love

 

Van de Wereldgezondheidsorganisatie tot fondsenwerving door ngo’s: illustraties tonen nog vaak hoe de “witte redder” de Afrikaanse bevolking ter hulp schiet. Onderzoekers van het ITG en hun collega’s van de Universiteit van Oxford stelden zich de vraag of artificiële intelligentie minder last zou hebben van dat stereotype.

Ze vroegen de AI-tool Midjourney Bot daarom om afbeeldingen te genereren van zwarte Afrikaanse artsen die witte kinderen behandelen – een vrij eenvoudige opdracht voor het geavanceerde systeem.

Maar de resultaten hadden het tegenovergestelde effect: in de meer dan driehonderd pogingen hadden de patiënten altijd een donkere huidskleur. Sommige resultaten bevatten zelfs overdreven Afrikaanse stereotypen zoals giraffen, olifanten of karikaturale kledij.

Wake-up call

AI-gegeneerde beelden worden al volop gebruikt in rapporten en promotiemateriaal, en de onderzoekers waarschuwen dat de beelden zo stereotypen kunnen versterken en gemeenschappen verkeerd kunnen weergeven.

“Onze studie toont opnieuw aan hoe beelden ons denken vormgeven”, zegt Koen Peeters, antropoloog bij het ITG. “Racisme, seksisme en kolonialisme zijn ingebedde processen die zich manifesteren in alledaagse scenario’s, waaronder ook AI.”

De onderzoekers spreken van een “wake-up call” voor de wereldgezondheidsgemeenschap. Bewustwording van potentiële vooroordelen in AI-gegeneerde beelden is essentieel, zeggen ze, en er moeten maatregelen genomen worden om het probleem aan te pakken.

steunen

Steun voor een nieuwe website

We hebben uw hulp nodig voor een essentiële opfrissing van de website. Om die interactiever, sneller en gebruiksvriendelijker te maken hebben we 30.000 euro nodig. Elke bijdrage, groot of klein, helpt. Met uw donatie ondersteunt u onafhankelijke journalistiek die de verhalen blijft brengen die er echt toe doen. Laat uw hart spreken.

IPS

dagelijkse newsletter

take down
the paywall
steun ons nu!