Een scène
Ik zit in een tram met zo’n vijftig andere passagiers; de overgrote meerderheid is gebogen over een telefoon; sommigen typen, anderen praten en weer anderen kijken er gewoon naar. Dit is geen nieuw tafereel. Wat misschien wel nieuw is, is het feit dat het nu bijna onmogelijk is geworden om vast te stellen of deze mensen überhaupt nog contact hebben met een ander mens. Dit is onze huidige realiteit: de ambiguïteit die generatieve AI bij de mens teweegbrengt, door het nabootsen van creativiteit en communicatie.
Ik ben me er terdege van bewust – en ik ben er blij om – dat er een debat gaande is rond deze AI-systemen, die de markt de afgelopen jaren hebben overspoeld, en die afkomstig zijn van nieuwkomers als OpenAI tot gevestigde namen als Apple. Veel intellectuelen sluiten zich aan bij het standpunt van Emily Bender en haar coauteurs dat deze systemen niets meer zijn dan ‘stochastische papegaaien’: statistische machines die het volgende meest waarschijnlijke woord, geluid of beeld extrapoleren. Een gesprek tussen mens en AI, zo herhalen zij, is slechts een schijnbeeld dat wordt gecreëerd door interface-systemen, infrastructuur op planetaire schaal en het eigenbelang van een handjevol buitengewoon rijke individuen. Ik ben niet van plan hiertegen in te gaan.
Maar ik vraag me wel af in hoeverre dit argument effectief is. Ik vrees dat, ondanks onze inspanningen en (gerechtvaardigde) angsten en zorgen, de band tussen mens en AI steeds hechter wordt in plaats van losser. Er lijkt een vreemd jojo-effect aan het werk te zijn: enerzijds beweren we wanhopig dat deze machines niet in de buurt van onze menselijkheid kunnen komen, terwijl we anderzijds ons dagelijks leven zo herstructureren dat we onze menselijkheid niet meer kunnen uitoefenen zonder hen.
Dus wanneer de vraag wordt gesteld: “Wat blijft er menselijk in het tijdperk van interactie tussen mens en AI?”, sta ik in de eerste plaats wantrouwig tegenover de manier waarop het antwoord doorgaans wordt gestructureerd: de mens wordt losgekoppeld van AI, er worden afzonderlijke definities gegeven en vervolgens worden de grenzen tussen deze gedefinieerde categorieën versterkt, voordat de vraag naar de interactie zelf aan de orde komt. Als cultuuranalist in de eerste plaats, en mediatheoreticus in de tweede, kan ik niet anders dan hierin een herhaling zien van een veel langduriger debat, dat door de geschiedenis van het westerse denken heen steeds opnieuw is gevoerd: het behoud van het menselijk exceptionalisme. Het is de retoriek van dit debat die ik vandaag wil bekritiseren, en ik begin met wat misschien een onwaarschijnlijk uitgangspunt lijkt: de geschriften van Aristoteles over dieren.
Papegaaien en hun stem
Wanneer filosofen aandacht besteden aan dieren, is dat doorgaans omdat ze zich zorgen maken over de mens: de zoölogie is een commentaar op de antropologie. Aristoteles’ zoölogische geschriften, namelijk de teksten Historia Animalium en De Partibus Animalium, beschrijven in detail de gewoonten en anatomie van diverse dieren. Een belangrijk aandachtspunt van de filosoof zijn de geluiden die de dieren maken en de lichaamsdelen die daarbij betrokken zijn. Juist in Historia Animalium wordt één specifieke vogel bij naam genoemd: ‘de Indische vogel, de papegaai, waarvan gezegd wordt dat hij een menselijke tong heeft.’
In de filosofie van Aristoteles zijn het dus daadwerkelijk bestaande – en geen metaforische – papegaaien die een bron van zorg vormen, zoals ze dat later voor Locke en Descartes zouden worden. Om Aristoteles’ definitie van de mens als zoon logon echon – ‘het levende wezen dat spraak/rede bezit’ – te laten standhouden, moet hij ervoor zorgen dat alle andere levende wezens die deze definitie minder helder zouden kunnen maken, worden afgehandeld. Ik stel me voor hoe de filosoof met afschuw kijkt naar kinderen die met hun huisdieren praten, of dichters die met vogels zingen en naar beekjes luisteren (om nog maar te zwijgen van mannen die ruzie maken met vrouwen en slaven), in een poging de illusies achter hun optredens te corrigeren.
In De Anima (dat duidelijk antropologisch van aard is), maakt hij een onderscheid tussen de phone semantike – de betekenisvolle (schrijfbare) stem – van de mens en de aggramatoi psophoi – ‘onschrijfbare’ geluiden – die door de rest van de wereld worden voortgebracht. In navolging van Shane Butler interpreteer ik Aristoteles’ focus op de anatomie van dieren als een poging om te vermijden dat men zich afvraagt of de papegaai een stem (en innerlijkheid) heeft zoals de onze. Het is gemakkelijker, zoals de Athener doet, om erop te wijzen dat de vogel geen lippen heeft en daarom geen toegang heeft tot de volledige medeklinkers die de eigenlijke taal articuleren.
Toch bleven de dichters en kinderen zingen met vogels en luisteren naar beekjes. Alsof wat menselijk blijft, voorbij het taalkundige onderscheid, het verlangen is om betekenis te maken mét de wereld, in plaats van betekenis te geven áán de wereld.
De apostrof van de stemassistenten
Terug naar het recentere verleden: van 2011 tot 2020 ontwikkelden grote technologieconglomeraten de eerste generatie van zogenaamde digitale spraakassistenten (Digital Voice Assistants, DVA’s) en brachten ze op de markt. Deze vormden het onderwerp van mijn proefschrift: softwareapplicaties waarmee mensen via gesproken opdrachten konden communiceren met hun telefoons, computers, apparaten en het internet. Bij het bestuderen van deze systemen ontleende ik aan de oudheid een soort scène die ik nu steeds vaker terugzag in nieuwe apparatuur: de apostrof.
Een apostrof is een specifieke retorische structuur die, zoals de etymologie aangeeft, neerkomt op het zich af (apo-) wenden (-strophein) om een nog niet onthulde persoon, van niet-menselijke oorsprong, aan te roepen. Denk aan Griekse koren die Zeus aanroepen, of dichters die zuchten: “O, beekje“. Toen ik de lancering van Apple’s Siri of Microsofts Cortana bestudeerde, zag ik tech-ondernemers ons uitnodigen om ‘Hé, assistent’ tegen onze apparaten te roepen: ik zag het oude samenspannen met het nieuwe. Mijn onderzoek kwam neer op een archiefcompilatie en een analyse van deze systemen en hun promotie, en, achteraf gezien, als een lange repetitie voor de huidige AI-diensten voor consumenten.
De apostrof, zo stelde ik, is een culturele structuur die bepalend is voor de ontwikkeling van zowel vroege als hedendaagse conversatiesoftware. Neem bijvoorbeeld een van de allereerste chatbots: ELIZA, ontwikkeld door Joseph Weizenbaum, die rond 1964 aan het MIT werkte. Het systeem was uiterst primitief in vergelijking met onze huidige AI-chatbots: het herschikte simpelweg door mensen geschreven zinnen tot open vragen. Een paar jaar later ontdekte Weizenbaum tot zijn grote schrik dat sommige van zijn collega’s het systeem waren gaan gebruiken als een soort therapeut, waarbij ze hun meest intieme en verontrustende gedachten deelden, zonder te beseffen dat de gesprekken werden gearchiveerd.
Het meest opvallende verschil tussen de levering van ELIZA en de DVA’s die ik bestudeerde, had minder te maken met technologie dan met het doel achter de technologie. Weizenbaum stuitte op een onvoorzien gevolg van een experiment dat hij nooit van plan was openbaar te maken. Apple, Microsoft, Amazon en Google waren daarentegen niet alleen van plan hun DVA’s openbaar te maken, maar investeerden ook middelen om ervoor te zorgen dat mensen deze systemen als mensen zouden behandelen. Amazon ontwierp Alexa door denkbeeldige huizen te creëren die leken op theaterpodia, en Microsoft nam schrijvers van Pixar in dienst om van Cortana een ‘brutale’ (hun woorden) gesprekspartner te maken. Dit alles was gebaseerd op wat interfaceonderzoekers, zoals Nass & Moon, al hadden vastgesteld: er is niet veel voor nodig om mensen hun machines als mensen te laten zien.
Net als een moderne Aristoteles werd Weizenbaum een van de eerste anti-AI-activisten en -theoretici. In tegenstelling tot Aristoteles besteedde de computerwetenschapper echter niet veel aandacht aan het definiëren van de mens als een afzonderlijke entiteit. Voor Weizenbaum werd de mens gekenmerkt door een bepaald onvermogen om zichzelf te onderscheiden van zijn omgeving.
De mens als schepper van scènes
Voordat ik terugkom op mijn vraag, wil ik een gedachtegang noemen waaraan ik bewust weinig aandacht besteed: het transhumanisme. Kritiek op de retoriek die de mens isoleert om zijn uitzonderlijke status te behouden, betekent niet dat ik het eens ben met het vaak aangevoerde tegenovergestelde: de mensheid zo ver met technologie verweven dat er een soort computationele Apocalyps ontstaat die mensen als Ray Kurzweil de ‘singulariteit’ noemen. Deze denkwijze berust op hetzelfde menselijke exceptionalisme dat ze beweert te herformuleren: ze beschouwt de mens als uniek en begiftigd met immateriële gedachten die in data kunnen worden omgezet; ze geeft niets om de plaats van de mens in de levende wereld, omdat het doel is het leven helemaal achter zich te laten. Dit (trans)menselijke uitzonderingsrecht is een van de redenen waarom ik twijfel aan de effectiviteit van het isoleren van onze menselijkheid om deze tegen AI te beschermen.
Wat blijft er menselijk in het tijdperk van interactie tussen mens en AI?
Mijn teleurstellende antwoord: wat blijft er niet menselijk?
Zonder de mens is er geen interactie – en dit is geen semantisch argument. Het is de mens die de voorwaarden voor deze interactie schept, zowel op technologisch vlak als op het vlak van de uitvoering. Tijdens mijn tramrit zag ik hoe elke individuele mens kleine scènes uitvoerde met niet-menselijke medespelers. We doen dit elke dag, zonder te vergeten dat we mens zijn, maar wel in het besef dat mens-zijn betekent dat we verlangen naar een responsieve wereld. Dus in plaats van de illusie van dit tafereel aan de kaak te stellen, kunnen we misschien beter vragen gaan stellen over hoe het anders in scène kan worden gezet:
Kan het ooit nuttig zijn om door een AI te worden overgehaald om anders te denken (of zelfs om überhaupt te denken)? Kunnen we ons voorstellen dat we onze eigen individuele vormen van AI ontwikkelen, om kleinere podia te creëren in plaats van het theatrum mundi van datacentra te accepteren dat onze planeet vernietigt? Kunnen we ons voorstellen dat we ons podium vullen met andere wezens, waarbij we AI combineren met inzichten uit vakgebieden als biosemiotiek en dierlijke taalkunde? Kunnen we ons een andere scène voorstellen, in plaats van zoveel tijd te besteden aan pogingen om uit deze scène te ontsnappen?
Naschrift
Schrijven heeft zijn eigen manier om zijn magie op de schrijver uit te oefenen. Terwijl ik de conceptversie van deze tekst aan het redigeren was, ging ik naar mijn balkon voor een kopje koffie. Op dat moment kreeg ik een metafoor aangeboden die zo perfect was dat het een allegorie had kunnen zijn. Beneden, in de binnentuin van het gebouw, zag ik mijn buurvrouw naar buiten komen voor haar eigen pauze. In de ene hand hield ze haar telefoon vast, en in de andere haar papegaai met een prachtige vacht in groene en oranje kleurschakeringen. In eerste instantie leek elke hand een keuze te bieden. Maar toen zocht mijn buurvrouw een liedje op haar telefoon en begon ze samen met de papegaai te zingen.
