UvA-onderzoeker Jelle Zuidema is universitair hoofddocent Natural Language Processing, Explainable AI and Cognitive Modelling aan het Institute for Logic, Language and Computation (ILLC). Hij pleit voor een nuchtere discussie over het gebruik van grote taalmodellen, het soort model dat de basis vormt van ChatGPT: “We hebben er niets aan om deze ontwikkeling ofwel te bagatelliseren ofwel er moreel zeer verontwaardigd over te doen, zo van: het is alleen maar plagiaat. Studenten gebruiken het, wetenschappers gebruiken het, programmeurs gebruiken het, en veel andere groepen in de maatschappij gaan ermee te maken krijgen. Dan moeten we het hebben over vragen als: Welke consequenties gaan taalmodellen hebben? Welke banen gaan veranderen? Wat gebeurt er met de eigenwaarde van tekstschrijvers?”
Om inzicht te krijgen in hoe een groot taalmodel onder de motorkap werkt, ontwikkelde Zuidema detectoren, bijvoorbeeld een detector die opspoort of er in een taalmodel een logische redenering aan de gang is, of een detector die achterhaalt hoe het taalmodel getallen representeert.
Promovenda Rochelle Choenni onderzoekt binnen het ILLC welke stereotypen voorkomen in de trainingsdata en hoe gevoelig de taalmodellen zijn voor stereotypen.
UvA-hoogleraar Computational Linguistics & Dialogue Systems Raquel Fernández probeert een brug te slaan tussen grote taalmodellen en de manier waarop mensen taal gebruiken. Fernández: “Ik ben geïnteresseerd in hoe mensen met elkaar praten en hoe we dit vermogen op een natuurlijke manier kunnen overbrengen op machines.”
Lees de interviews op de site van de UvA.
