Dat technologie maatschappelijke gevolgen heeft en ons handelen beïnvloedt is genoegzaam bekend. Vaak denken we over die invloed in termen van gevolgen en risico’s. We stellen ons dan vragen als: wat is de kans dat deze brug instort? Levert deze chemische stof een risico voor de volksgezondheid op? Tasten sociale media onze democratie aan? Hoe groot is de kans dat een AI systeem om fraude op te sporen de mensenrechten aantast?
Dit zijn belangrijk en noodzakelijke vragen. Maar soms, en in toenemende, mate is technologie ook disruptief voor ons handelen en denken. Dan doorbreekt technologie bestaande praktijken, gewoontes of afspraken, of heeft het potentieel dat te doen. Denk aan zelfrijdende auto’s. Hoewel die nu in Nederland nog slechts onder strenge voorwaarden zijn toegelaten op de openbare weg, kunnen ze op langere termijn sociaal disruptief zijn. Moeten we bijvoorbeeld (wettelijk) blijven vereisen dat auto’s altijd een bestuurder hebben? En moet die bestuurder in de toekomst nog een rijbewijs hebben? En zo ja, moet dat rijbewijs misschien aan andere vereisten voldoen in de toekomst? Hoe regelen we (wettelijke) aansprakelijkheid en verzekeringen als er een ongeluk gebeurt? Enzovoorts.
In dit soort gevallen gaat het niet zo zeer om de impact of risico’s van een technologie maar veel meer over hoe we de zich ontwikkelde relatie tussen een technologie en de rest van de maatschappij het beste vorm kunnen geven. Zijn er bijvoorbeeld nieuwe vaardigheden, afspraken of wettelijke regels nodig? Dat kan overigens ook leiden tot eisen aan het ontwerp van een technologie of randvoorwaarden voor het gebruik, en soms zelfs tot de conclusie dat we bepaalde technologie helemaal niet willen.
Sommige technologie is niet alleen sociaal maar ook conceptueel disruptief. Dat is het geval als een technologie, of het gebruik ervan, bestaande denkkaders, onze concepten en waarden ter discussie stelt. Een voorbeeld is de invoering van mechanische beademing in ziekenhuizen vanaf de jaren 1950.Hierdoor waren er ineens patiënten van wie het hart nog klopte en het bloed door de bloedvaten stroomde, maar van wie de hersenfuncties, soms onherstelbaar, beschadigd waren. Doktoren waren destijds onzeker of deze mensen ‘dood’ of ‘levend’ waren en hoe ze moesten behandelen. Moesten ze in ‘leven’ gehouden worden ondanks dat ze misschien nooit meer uit een coma zouden ontwaken? Gedurende een aantal jaren was er geen algemeen geaccepteerd antwoord op dergelijke vragen. Sommige artsen richtten zich in 1957 zelfs tot de toenmalige paus, maar die verwees de vraag hoe ‘dood’ precies te definiëren terug naar de medische beroepsgroep. Uiteindelijk stelde in 1968 een interdisciplinaire commissie van de Harvard Medical School voor om het concept hersendood (‘brain death’) te introduceren.
Dit is een voorbeeld van conceptuele disruptie omdat – door technische ontwikkelingen – bestaande concepten (zoals ‘dood’ en ‘levend’) niet meer goed toepasbaar waren en ook niet meer behulpzaam in de vraag hoe artsen ethisch verantwoord konden handelen. In dit geval werd het probleem opgelost door het invoeren van een nieuw concept (‘hersendood’) maar ook andere strategieën zijn denkbaar zoals het herdefiniëren van bestaande concepten of het geheel vervangen van een bestaand concept door een nieuwe.
De vraag hoe we concepten moeten definiëren is al eeuwenoud. Plato en Aristoteles vroegen zich al af wat we bedoelen met ‘moed’ of ‘rechtvaardigheid.’ En een term als ‘intelligentie’ heeft in de loop der geschiedenis felle debatten opgeleverd. Maar er is pas vrij recent meer systematisch aandacht in de filosofie voor de vraag hoe we onze concepten kunnen of zouden moeten herzien. Nog recenter is de aandacht voor technologie en conceptuele disruptie. In Nederland krijgt dit nu vooral aandacht in het zwaartekrachtprogramma Ethics of Socially Disruptive Technologies (ESDiT).
Een belangrijke vraag daarbij is wat een concept een goed concept maakt. Een mogelijk antwoord is dat concepten ons zo goed mogelijk moeten helpen de wereld te beschrijven. Hersendood is dan een goed concept voor zover het een goede beschrijving is van een nieuw fenomeen dat zich voordoet sinds de invoering van mechanische beademing. Een andere (aanvullend) antwoord is dat concepten ons moeten helpen bepaalde dingen te doen, bijvoorbeeld praktische of ethische vragen te beantwoorden. In dat geval gaat het er vooral om of het concept ‘hersendood’ artsen helpt bij medische beslissingen, bijvoorbeeld hoe lang, of onder welke voorwaarden, een medische behandeling voort te zetten.
Als maatschappij worden we in toenemende mate met dit soort conceptuele vragen geconfronteerd. Denk bijvoorbeeld aan de vraag of ChatGPT de ‘auteur’ van een tekst kan zijn, en zo ja, of het dan ook ‘copyright’ of ‘intellectueel eigendom’ kan bezitten. En in het geval van de zelfrijdende auto’s: kunnen we dergelijke auto’s ‘vertrouwen’ en kunnen ze ‘verantwoordelijk’ zijn voor een ongeluk of zijn ‘vertrouwen’ en ‘verantwoordelijkheid’ concepten die alleen op van toepassing zijn op mensen?
Een vervolgvraag is dan: wie kan of mag het antwoord geven op dergelijke conceptuele vragen met name als ze grote maatschappelijke consequenties hebben? Is dat aan filosofen en andere vakspecialisten (zoals in het geval van hersendood) of is een vorm van democratische besluitvorming nodig? Dat lijkt misschien voor de hand te liggen maar willen we dat het Europees Parlement bepaalt wat wel en niet ‘vlees’ mag heten of dat de Amerikaanse president bepaalt dat we het concept ‘gender’ maar beter in de ban kunnen doen?
Kortom voor wie onderkent dat technologie conceptueel disruptief kan zijn ligt er een scala aan uitdagende en lastige vragen voor het oprapen.
Meer informatie over het onderzoeksprogramma ESDiT is te vinden op: https://www.esdit.nl/
