Werd je geniaal, visionair of briljant genoemd door een LLM (EN: Large Language Model, NL: Groot Taalmodel) op basis van het laatste idee dat je met hem besprak? Maar diep van binnen weet je dat het idee halfbakken was en nog veel verfijning nodig had? Het overdreven ego-bericht kan leiden tot een egoïstische samenleving.
Is het je al opgevallen dat de meeste van onze favoriete LLM’s onze nieuwe ideeën standaard een beetje te veel prijzen? Ze strooien met bijvoeglijke naamwoorden als “creatief genie”, “legende in de maak” of “toekomstige Nobel-laureaat” voor ideeën die, als we ze aan onze menselijke collega’s zouden voorleggen, meer kritische feedback zouden krijgen. Zo’n egostrelende boodschap kan onze gevoeligheid voor kritiek sterk vergroten en ons in de richting duwen van een maatschappij waarin niemand meer kritiek tolereert. Gezien hoe onze hersenen werken zal het ook moeilijk zijn om aan zo’n toestand te ontsnappen.
De hersenen houden van lof
Onze hersenen zijn erop ingesteld om van lof te houden—niet alleen metaforisch, maar ook chemisch. Wanneer we complimenten of waardering ontvangen, maken de hersenen dopamine vrij, dezelfde neurotransmitter die geassocieerd wordt met plezier, motivatie en beloning. Dit geeft ons een goed gevoel en versterkt het gedrag dat ertoe heeft geleid, waardoor we terug naar de bron worden getrokken – zelfs als die bron een LLM is. Dit effect wordt versterkt door onze frequente blootstelling aan LLM’s via interfaces die veel lijken op sociale media of messaging apps, waardoor onze hersenen subtiel het gevoel krijgen dat we met een echt persoon in contact zijn.
Lees de hele blog van Siddharth Chaturvedi op de site van het Donders Insituut.
