Het wereldwijde debat over AI-ethiek wordt gedomineerd door Silicon Valley. Maar volgens Kristy Claassen, onderzoeker aan de Universiteit Twente, stellen zij de verkeerde vragen. Ze heeft jarenlang onderzoek gedaan naar hoe AI de waarden en identiteiten van mensen in verschillende culturen beïnvloedt. “We worden allemaal langzaam maar zeker tot hetzelfde soort mens gevormd.”
AI leert van data, maar die data vertegenwoordigt niet iedereen op gelijke wijze. Grote taalmodellen worden overwegend getraind op Engelstalige tekst. Dit betekent dat de ideeën en denkwijzen grotendeels tot één traditie behoren. Alles wordt bekeken door een Amerikaans perspectief. Wanneer AI wereldwijd wordt ingezet, verandert het op subtiele wijze de manier waarop mensen zich uitdrukken.
Claassen betoogt dat het probleem dieper ligt dan alleen vertekende data. In de Ubuntu-filosofie (een traditie die geworteld is in Afrika ten zuiden van de Sahara) word je een persoon door gemeenschap, cultuur en taal. Als je deze niet-westerse culturen en talen reduceert tot één wereldwijd herkenbare versie, verlies je het proces van menswording.
Claassen reisde naar Zuid-Afrika om focusgroepen te houden met Ubuntu-beoefenaars en vroeg hen welke waarden ze associeerden met AI. “De gangbare AI-ethiek richt zich meestal op het voorkomen van schade, maar ze noemden steeds weer zaken als creativiteit en diversiteit”, legt ze uit. “Stel je voor dat AI je identiteit afneemt”, zei een van de deelnemers.
Claassen heeft nu een raamwerk dat andere vragen stelt. In plaats van “Is dit AI-systeem eerlijk?”, vraagt Ubuntu: Helpt deze technologie je om meer mens te worden? Versterkt het de relaties en gemeenschappen waardoor je je als persoon ontwikkelt? Beschermt het de diversiteit aan culturen en talen die ons uniek maken? Dit zijn geen gemakkelijke vragen. Maar het zijn wel de juiste vragen om mee te beginnen.
Lees het hele bericht op de site van de UTwente.
