Column: Kaap Schermer

‘Het verkleinen van het risico van uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico's op maatschappelijke schaal, zoals pandemieën en een nucleaire oorlog’, aldus een open brief aan het Amerikaanse congres.’ Eindelijk een betoog om alle servers uit te zetten om megatonnen CO2-uitstoot te beperken? Helaas niet, blijkt in Kaap Schermer #39.
Kaap Schermer

‘Het verkleinen van het risico van uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico’s op maatschappelijke schaal, zoals pandemieën en een nucleaire oorlog’, aldus een open brief aan het Amerikaanse congres. Ha! Eindelijk een betoog om alle servers uit te zetten om megatonnen CO2-uitstoot te beperken?

Helaas. De brief, ondertekend door meer dan 350 experts uit de tech-industrie, was een vraag om regulering, teneinde de robot-apocalyps af te wenden. Een artificieel superbrein is een potentieel gevaar voor de mensheid, is het idee, omdat het slimmer is dan de mens (en mogelijk mens-hatend), en zich, eenmaal uit de fles, niet meer terug laat stoppen. Dit soort waarschuwingen zijn er wel vaker, maar wat opvalt, is dat als ze uit de tech-hoek zelf komen, de geschetste gevaren altijd existentialistisch van aard zijn. Dat grijpt de aandacht, maar leidt ook af van AI-gevaren dichter bij huis, zoals alledaagse zaken als nepnieuws, racisme en verlies van banen. Door AI nu al overal in te proppen – er zijn al een tijdje koelkasten met AI op de markt – juist vóórdat er regulering is, is het binnenkort genormaliseerd en niet meer weg te denken. Een effect dat verder wordt versterkt door AI te vatten in menselijke termen, en het zo minder ‘anders’ en bedreigend te maken; denk ‘intelligentie’, ‘leren’, ‘hallucineren’. Dat laatste is de term voor een zelfverzekerde reactie van een AI die niet lijkt te kloppen met zijn trainingsgegevens. Let wel, reacties die buiten de verwachting vallen van de programmeurs, die daarmee eigenlijk zeggen dat ze (nog steeds) niet volledig begrijpen hoe hun creaties werken (of hoe de trainingsdata er in detail uit ziet). Mooi voorbeeld is de Amerikaanse advocaat die recent tijdens een zaak jurisprudentie aandroeg die volledig bleek verzonnen – door ChatGPT.

Zulk gedrag staat een veilige implementatie in de weg; als de AI in een koelkast in de zomer opeens besluit dat hij wel koud genoeg is en zich uitzet, wil niemand hem meer hebben. Desondanks gaat de invoering van AI overal rustig verder. Zo heeft de nieuwste versie van Photoshop iets dat ‘generative fill’ heet, waarmee lege vlakken rondom een foto automatisch kunnen worden opgevuld. Net als apps als Dall-E en Midjourney verzint AI een afbeelding op basis van een opdracht van de gebruiker, en zorgt Photoshop ervoor dat het gegenereerde beeld netjes aansluit op de beginafbeelding. In een oogwenk vlogen breed uitgevulde versie van de Mona Lisa en andere beroemde schilderijen over Twitter, en ook expanded editions van platenhoezen lieten niet lang op zich wachten. De ‘Nevermind’-baby zwom opeens in de oceaan en The Clash’ Paul Simonon stond op het punt zijn bas stuk te slaan op een Londense straat. Een journalist in Gizmodo maakte zich boos over hoe ‘simpele pro-AI-zielen op Twitter de grenzen van artiesten overschreden’, en dat niemand iets werkelijk nieuws bedacht. Om een Twitter-trend van een halve dag meteen als creatieve heiligschennis te zien leek me vooral getuigen van overgevoeligheid voor de aandachtseconomie, maar met het tweede punt ben ik het wel een beetje eens. Metallica’s ‘Master Of Puppets’ opgewerkt naar een enorme verjaardagscake vond ik nog wel origineel (en ook nietszeggend, al hoop ik dat er een inside joke in zat die aan me voorbij ging), maar veel was nogal voorspelbaar. Ik heb geen toegang tot deze Photoshop, maar misschien kun je er een moderne versie van cadavre exquis mee spelen: de door de surrealisten bedachte techniek waarbij iemand een tekening maakt, het blad omvouwt zodat alleen het randje nog zichtbaar is en het vervolgens doorgeeft aan de volgende tekenaar, die er een aansluitend deel aan tekent, en zo verder. De surrealisten hoopten zo kunst te maken vanuit het onderbewuste, onbevooroordeeld en ongeremd. Ik ben benieuwd wat ‘generative fill’ zou maken van alleen een paar lijnuiteinden en een maagdelijk canvas. Misschien kunnen we zo een AI werkelijk zien hallucineren. Al denk ik dat het wel heel wild moet worden voordat iemand dat wil reguleren.

Nog meer nieuws krijgen over muziek en kunst?

Schrijf je in op de Gonzo (circus)-nieuwsbrief!