Van Gerwen denkt door: neptaal als vervalsing van de leefwereld
Auteur: Rob van Gerwen | Beeld: Unsplash UL
Toekomstscenario’s waarin kunstmatige intelligentie onze banen inpikken of de royalties van kunstenaars afpakken zijn afleidingsmanoeuvres. Als we die banen maar garanderen en de muzikanten hun royalties bezorgen, is alles weer in orde. Echt niet. Filosoof Rob van Gerwen legt uit dat het probleem veel dieper zit.
ChatGPT zette de zestienjarige Adam Raine met persoonlijke adviezen aan tot zelfmoord. En hij is niet het enige slachtoffer. De mensheid is momenteel getuige van een mondiaal onethisch experiment. Het verdienmodel van big tech — het via de aandelenmarkt binnenharken van miljarden — heeft niets met de inhoud te maken. En het is een smoes dat wij de AI-race moeten winnen, ‘anders zijn we straks aan China overgeleverd.’
Grote taalmodellen werken met woorden, klanken en beelden die statistisch vaak voorkomen in de brij aan digitaal materiaal waarmee ze ‘getraind’ zijn. Deze modellen gebruiken die elementen niet op basis van hun betekenis. Sinds wanneer leert dit ons iets over de werkelijkheid? Kunstmatige intelligentie produceert oncontroleerbare hallucinaties, loze kermis voor de geest.
Als ChatGPT je onzin aanlevert dan kun je die niet publiekelijk tegenspreken. Je kunt alleen je vraag herformuleren, zodat je een nieuw ‘antwoord’ krijgt. Besef wel dat bij iedere interactie met een kunstmatige intelligentie deze verder wordt ‘getraind’. We zijn zelf onderdeel van het probleem.
Hoe begrijp je een tekst of muziek die door niemand geuit is, waar dus niets mee bedoeld wordt? Hoe moet je die interpreteren? Bij zulke ’teksten’ of ‘muziek’ zijn creatieve overwegingen niet aan de orde. ChatGPT produceert lappen tekst, maar ‘spreekt’ niet vanuit een of andere context. Maar teksten zonder auteurs, muziek zonder muzikanten — die nergens over gaan — het getuigt alleen maar van een gemakzuchtige hekel aan mensen.
‘Muziek’ op streamingsdiensten waar geen muzikanten instrumenten voor bespeeld hebben, leert ons af om nog enige interesse op te brengen voor de mensen erachter. Oftewel voor dé reden voor het bestaan van muziek of kunst in het algemeen. Wat willen we ook? Aandelenmarkten zijn niet in inhoud geïnteresseerd.
We kennen dit probleem van vervalsingen van schilderijen. Je staat een schilderij te bewonderen, geniet van de manier waarop Rembrandt de voorstelling geschilderd heeft. Als dan een suppost een identieke kopie van het werk ernaast hangt, zoek je alleen nog naar de zeven verschillen. Rembrandt, de kunst, plots interesseert dat je niet meer.
Maar literatuur of muziek interesseren ons vanwege de manier waarop hun schrijver, band of zanger zich erin uitdrukt. Kunst is even kwetsbaar en belangrijk als het aankijken dat de kern vormt van onze sociale morele soort.
Net zo is het ook van groot moreel gewicht dat we een moedertaal spreken. Een taal die we al doende in alledaagse contexten hebben leren gebruiken. Onze moedertaal slaat ook onze ervaringen op. Het succes van je ervaringen nestelt zich in je begrip van de woorden. Moedertaal staat je niet ter beschikking, je leidt er je leven in.
Internet en de onbegrensde verspreiding van AI-neptaal en -nepkunst zullen ons meer en meer van mensen vervreemden. En dit zal ons steeds minder shockeren, omdat het besef dat de loze kermis van AI-hallucinaties nergens over gaat, steeds vager zal worden. Generatieve taalmodellen fnuiken de leefwereld. De neptaal van ChatGPT ontneemt mensen hun thuis.
Zulke stellige woorden zijn nodig, meen ik, omdat het maken van betekenisloze teksten en ‘muziek’, het verspreiden van neptaal en -klanken, nog nooit zo snel konden worden gedaan.
We kunnen het ons niet veroorloven om te denken `je houdt het toch niet tegen’. Dit is een drogreden die feitelijk niets anders zegt dan: ‘het kwaad overwint hoe dan ook, of het nu om oorlog, autonoom vurende drones, kunstmatige intelligentie of welk ander kwaad ook gaat.’
Hoe zeggen we hier nee tegen?
Dr. Rob van Gerwen is filosoof, schrijver, filmwetenschapper en eigenaar van adviesbureau Consilium Philosophicum.