Wie krijgt de schuld als AI de verkeerde kant opgaat? En wie is er verantwoordelijk voor het voorkomen van eventuele negatieve gevolgen? In haar proefschrift “A Showing of Hands: Making Visible the Ethical Agency of AI Developers” richt Tricia Griffin zich op de mensen achter de technologie en de clichés. Volgens Griffin moeten we deze mensen zien als professionals die morele keuzes maken via hun code.
“Laten we de hype wat temperen. De apocalyps van volledig ontwikkelde robots staat echt niet voor de deur. We zouden er allemaal goed aan doen ons te realiseren dat tech-CEO’s er financieel veel baat bij hebben als ze doen alsof Artificial General Intelligence (AGI) om de hoek ligt – zolang ze daarmee maar een nieuwe smak investeringsgeld binnenhalen,” legt Tricia Griffin uit. “Maar ingenieurs die al jarenlang in de robotica werken, zijn het erover eens: dat punt hebben we nog lang niet bereikt. En als we dan toch met de vinger willen wijzen, moeten we echt een genuanceerdere blik ontwikkelen.”
Griffin maakt een onderscheid tussen degenen die verantwoordelijk zijn (dat wil zeggen: wettelijk aansprakelijk en onderworpen aan democratische controle) en een bredere groep van mensen die rekenschap zouden moeten afleggen. Om verschillende praktische redenen is ze het ermee eens dat de juridische verantwoordelijkheid bij de bedrijven of CEO’s die AI-systemen inzetten moet liggen. Maar ze betoogt dat AI-ontwikkelaars, als morele actoren, wél verantwoordelijk gehouden moeten worden voor de keuzes die ze maken. Hier stuiten we op het probleem van vele handen, oftewel de moeilijkheid om schuld aan te wijzen in situaties waarin meerdere personen bijdragen aan een resultaat. Dit is onvermijdelijk bij AI-ontwikkeling, waarbij mogelijk honderden mensen bijdragen aan een product. Dat betekent echter niet dat het individu wordt vrijgepleit. (…) “Er bestaat een aanzienlijke disbalans in machtsverhoudingen.”
Lees het hele stuk op de site van Maastricht University.
Tricia Griffin is docent Global Health, Biomedical Ethics, AI Ethics aan de Faculty of Health, Medicine & Life Sciences. Ze promoveerde aan de Faculty of Science and Engineering. Lees meer en bekijk haar verdediging.
