Beperk de techniek-ethiek niet tot AI

Ik hou me bezig met ethische vragen rond technologie. Zo’n vijftien tot twintig jaar geleden stortten velen zich ineens op ethische vragen rond nanotechnologie, een technisch vakgebied dat veel aandacht trok en waar veel financiering voor was. Het leidde zelfs tot een wetenschappelijk tijdschrift speciaal voor de ethiek van nanotechnologie: Nanoethics. Het tijdschrift bestaat nog steeds, maar het merendeel van de artikelen gaat niet over nanotechnologie; in plaats daarvan richt het zich nu op ‘studies of new and emerging technologies’ zoals de ondertitel luidt. Wie terugkijkt kan zien dat de aandacht voor ethische vragen nanotechnologie min of meer parallel loopt met de publieke aandacht voor deze technologie, van een hype zo’n 15-20 jaar geleden naar gemiddelde aandacht nu.

In lijn met de ontwikkelingen rond nanotechnologie spreken sommigen wel van een hype cycle. Volgens dit model, aanvankelijk ontwikkeld door een adviesbureau, gaat de maatschappelijke zichtbaarheid van een bepaalde technologie door een aantal fases. Na een technologische trigger neemt de maatschappelijke aandacht toe, leidend tot een ‘peak of inflated expectations’. Daarna valt het vaak tegen: de technologie ontwikkelt zich niet zo snel als gedacht of blijkt toch niet alle maatschappelijke problemen te kunnen oplossen zoals geclaimd. Dit leidt tot een val in maatschappelijke zichtbaarheid en een zogenaamde ’trough of disillusionment’. Gelukkig eindigt het verhaal goed – althans volgende de hype cycle – en volgen nog een ‘slope of enlightenment’,  eindigend in een ‘plateau of productivity’.

Met het voorgaande in gedachten, antwoordde ik dit jaar in een interview met Quest voor een artikel over Artificial Intelligence (AI), dat ik verwachtte dat we in de toekomst zullen terug kijken op de huidige aandacht voor AI als een hype, wat overigens niet wil zeggen dat er ook veel toepassingen zouden zijn die de technologie gebruiken. Ik kon de verbazing aan de andere kant van de telefoonlijn bijna horen. De ontwikkelingen in AI buitelen immers nog steeds over elkaar heen, met de introductie van ChatGPT als voorlopig hoogtepunt. Die technische ontwikkeling kwam zo onverwacht dat de opstellers van de voorgestelde Europese Artificial Intelligence Act er geen rekening mee hadden gehouden en er nu aanpassingen nodig zijn in het wetsvoorstel.

Hoewel ik denk dat de huidige aandacht voor AI een hype is, vraag ik me tegelijkertijd af of ik in de toekomst hier niet anders over zal denken. Natuurlijk, ik heb het hype cycle model aan mijn zijde. Ik zou er zelfs op kunnen wijzen dat AI al in de tweede helft van de vorige eeuw door een dergelijke hype cycle ging; met hoge verwachtingen die langzamer dan verwacht werden waargemaakt. Zo duurde het langer dan verwacht voordat de eerste computer de wereldkampioen schaken versloeg. Tegenwoordig wordt de AI die in die tijd ontwikkeld werd, met een mengeling van nostalgie en meewarigheid soms aangeduid als GOFAI: Good Old-Fashioned Artificial Intelligence.

Maar zoals de filosoof David Hume al zei de menselijke neiging om in de wereld om ons heen oorzaken en gevolgen, en terugkerende patronen te zien is misschien vooral dat: een menselijke neiging. Dus misschien kijken we in de toekomst terug op de huidige aandacht voor KI als het begin van een nieuw tijdperk en niet als een hype en vergis ik me. De geschiedenis zal het leren.

Doet het er toe? Ik denk dat er tenminste een opzicht waarin het uitmaakt. De laatste decennia is het vakgebied ethiek van de techniek enorm gegroeid, maar ik denk toch dat uiteindelijk middelen beperkt zijn er er keuzes gemaakt (moeten) worden waar ethici van de techniek zich wel en niet op richten. Aandacht voor bepaalde technieken en vragen kan dus ten koste van anderen.

Voor de duidelijkheid: ik geloof dat AI belangrijk en in sommige opzichten unieke ethische vragen oproept die het ook rechtvaardigen dat er meer aandacht is voor deze technologie in de ethiek dan voor sommige andere. Tegelijkertijd is er een  serieus risico dat andere technieken te weinig aandacht krijgen, denk aan energie- en klimaattechnologieën of aan een opkomende technologie zoals kwantumtechnologie.

Ook binnen het domein van digitale technologie is er wel heel eenzijdig aandacht voor ethische vragen rond AI. In een studie die we vorige jaar deden voor STOA, het Technology Assessment bureau van het Europees Parlement bleek dat artikelen in ethische tijdschriften die aandacht besteden aan digitale technologieën vrijwel uitsluitend focussen op AI en – in mindere  mate – robotica; er is bijvoorbeeld nauwelijks aandacht voor belangrijke ontwikkelingen als Internet of Things, Virtual and Augmented Reality en Blockchain, terwijl in de technische literatuur AI niet de meest besproken technologie is (dat is robotica), en Internet of Things en Virtual and Augmented Reality er ongeveer evenveel aandacht krijgen als AI. Dus of AI nu een hype is of niet, we doen er goed aan als ethici van de techniek ons niet alleen op die technologie blind te staren.