Hoewel techgiganten ons voortdurend anders willen doen geloven is technologie allerminst objectief. Voor ‘Big Bias, de eerste aflevering van de vierde reeks ‘Coded Matter(s)’ in Vlaams Cultuurhuis de Brakke Grond, nodigde curator FIBER drie uiteenlopende kunstenaars uit om schokkende vooroordelen te onthullen die de technologieën die ons leven beheersen, in zich verbergen.

‘When looking through the crystal balls of silicon valley police have taken the place of spirits in traditional metric mysticism through analytic platforms for future visualisation and prediction’

In technologische context is een bias een onzichtbare, ingebouwde afwijking in een systeem dat geacht wordt neutraal te zijn in zijn berekeningen. De spanning tussen die ondoorzichtige definitie en de term ‘vooroordeel’, die net zo toepasselijk is, is een mooie metafoor voor hoe technische oplossingen als objectief-want-zonder-menselijke-invloed wordt gepresenteerd. En dat blijkt allerminst het geval.

(De-)constructie

In de reeks Coded Matter(s) 4 van FIBER, die de titel ‘Worldbuilding’ heeft meegekregen, wordt vanuit verschillende invalshoeken het ontwerp van hedendaagse wereldvisies bevraagd. ‘Worldbuilding is the process of constructing an imaginary world, sometimes associated with a whole fictional universe. The resulting world may be called a constructed world’, luidt de definitie op Wikipedia. Want waar zouden we zonder internet en Wikipedia zijn? Daarover verder meer.

Hoe de maatschappij is ingericht draagt sterk bij tot groeiende sociaal-economische ongelijkheid en de vernietiging van onze planeet. Veel van die wereldvisies worden voortgedreven en gestuurd door een technologisch narratief. Voor allerhande problemen wordt inmiddels gezocht naar een technologische oplossing, inclusief grote vraagstukken rond zorg, energie en milieu. Technologiebedrijven zijn daar uiteraard blij mee, en winnen aan invloed, omvang en waarde.

Tegelijk met de constante innovaties op de gebieden van robottechnologie, kunstmatige intelligentie, big data en internet of things-netwerken, komen die technologieën, en daarmee de bedrijven die ze ontwikkelen en uitbaten, steeds dichter bij in ons dagelijks leven. De invloed die ze daarmee hebben wordt maar gedeeltelijk in balans gehouden door regelgeving en controle, terwijl die bedrijven zelf er wel steeds nadrukkelijker politieke ideeën op na houden – hoe zeer ze zelf ook zeggen dat hun oplossingen juist a-politiek zijn, en daardoor wel werken.

‘Missing data’

De eerste spreker was Mimi Onuoha, die als kunstenaar en onderzoeker zich bezighoudt met de manieren waarop mensen worden geabstraheerd en geclassificeerd, op het snijvlak van cultuur en technologie. Een belangrijk deel van haar werk gaat over datasets die ontbreken: gegevens die om een of andere reden niet verzameld zijn. Iets dat steeds zeldzamer wordt, in een wereld waarin alles meer en meer gekwantificeerd en in data gevangen wordt, om verschillende redenen. Onuoha benoemt er vier:

• Zij die de middelen hebben om de data te verzamelen, hebben er geen reden toe (of vice versa).
• De gegevens die verzameld zouden moeten worden, laten zich niet goed kwantificeren.
• Het kost meer moeite om de data te verzamelen dan dat hij verwacht wordt op te leveren.
• Er zijn voordelen aan het niet bestaan van de data.

Op haar Github-pagina documenteert Onuoha haar speurtocht en mijmeringen hierbij. Dat leidde tot verwondering in de zaal: is github niet die plek waar nerds stukjes computercode delen in een soort van geheimtaal. Het is meteen duidelijk dat Onuoha met verwachtingen speelt.

Geweld

Onuoha hanteert de term ‘algorithmic violence’, waarmee ze refereert aan het sociologische begrip ‘structural violence’, een aanduiding voor hoe de manier waarop sociale structuren en instellingen in elkaar zitten bepaalde groepen kunnen schaden, doordat ze worden beperkt in hun toegang tot basisbehoeften. Voorbeelden zijn racisme, seksisme en nationalisme. De naamgever van de term, socioloog Johan Galtung, beschreef structureel geweld als een ‘vermijdbare aantasting van fundamentele menselijke behoeften’.

Op een vergelijkbare manier beïnvloedt algoritmisch geweld de manier waarop en de mate waarin mensen in staat zijn hun dagelijkse leven te leiden zoals ze dat zelf willen. Verborgen bias en klassen [categorieën? ik weet wat je bedoelt maar voor leken is dat wellicht onbegrijpelijk] in data werken door in de algoritmes die er gebruik van maken, en legitimeren op die manier ongelijkheid en diverse hiërarchische verhoudingen.

Transgenders

Die impliciete legitimiteit wordt extra versterkt doordat algoritmes los lijken te staan van de mens, geabstraheerd zijn, louter gestuurd worden door getallen, feiten, meetgegevens, wat ze een objectieve status, en daarmee autoriteit geven. Maar ieder algoritme is door iemand geschreven, en de gebruikte data is door mensen gekozen. Mensen met hun eigen agenda’s, blinde vlekken, tekortkomingen en vooroordelen, die in het proces allemaal verdoezeld worden.

Algoritmisch geweld neemt vele vormen aan, zoals het incident waarbij uit een combinatie van zoekgegevens bleek dat een tienermeisje zwanger was, en vervolgens kortingsbonnen voor babyartikelen ontving, terwijl haar vader nog van niks wist. Een actie die de toekomstige moeder in gevaar had kunnen brengen als ze in een precaire thuisomgeving had gewoond. Iets vergelijkbaar geldt voor transgenders, die hun identiteit mogelijk met reden niet openbaar hebben gemaakt. Algoritmisch geweld is een goede term om te gebruiken in het denken over bias en vooroordelen in algoritmes, omdat de schadelijkheid die erdoor benadrukt wordt gewoonlijk ver buiten beeld blijft.

Elleboog

Wat doen we met de vooroordelen die in de schijnbaar alles omvattende digitale systemen zijn geslopen waardoor (geautomatiseerde) data-analyse net zo onbetrouwbaar wordt als analyse door medisch specialisten? Het is een fascinatie die bij kunstenaar Femke Snelting begon door het onderzoeken van het proces en de resultaten van medische beeldvorming zoals MRI-scanners.

Wat denken we te zien als we een scan zien van een inwendig lichaamsonderdeel? In tegenstelling tot een foto is een scan geen beeld maar een berekening gebaseerd op de coördinaten van stralen. Kunnen we er dan wel op vertrouwen dat een specialist hetzelfde ziet als wanneer hij ons post-mortem opensnijdt? En als een scan van je elleboog wordt gemaakt, verwacht je dat dit objectieve kennis van over dat lichaamsgewricht oplevert. Is het gebroken? Zo ja, waar? Of is er sprake van een scheefgroei? En wat kan eraan gedaan worden?

Nu is een elleboog nog redelijk neutraal al kan het zomaar zijn dat mannen- en vrouwenellebogen anders in elkaar zitten, maar – zo ontdekte Snelting tijdens haar onderzoek – medische beeldvorming is nog steeds bijvoorbeeld niet goed in staat om de vrouwelijke geslachtsorganen in beeld te brengen. Medische beeldvorming gebruikt – door menselijke interventie – als uitgangspunt nog steeds de gezonde doorsnee witte man van een jaar of veertig. Net zoals dat bij het testen van medicijnen het geval is. Afwijkingen van die ‘norm’ – gebaseerd op gender, etnische afkomst of leeftijd – worden daardoor niet gedetecteerd. Deze praktijk vormt dus een serieuze bedreiging voor de gezondheid van eenieder die afwijkt van de ‘norm’ oftewel: een groot deel van de wereldbevolking.

Bias

Op een ander niveau betekent deze praktijk gewoon de voortzetting van de eeuwenoude blik op het vrouwenlichaam. Een lichaam dat niet toebehoort aan de vrouw, maar aan degene met de macht. In dit geval de macht die ‘belichaamd’ wordt door het medische establishment. Snelting vertelde dat ze getracht had dit in vraag te stellen bij de beroepsgroep, maar dat deze de eigen vooroordelen – die in de technologie waren geslopen – simpelweg niet ziet. Sneltings onderzoek legt systemisch geweld binnen een discipline bloot.

Boeiend was ook dat ze voor haar onderzoek teruggreep naar de etymologie van het woord ‘bias’. Elke vorm van geweven textiel bezit een draadrichting. Bias verwijst naar ‘schuin op draad’: als je uit een geweven stuk textiel een diagonale strook knipt dan bekom je een zeer rekbaar stuk stof dat vaak wordt gebruikt als een biesbandje om een zoom te verfraaien. Van die schuine draad was het een korte sprong naar ‘een kant op gericht’ zijn, eenzijdig zijn en dus bevooroordeeld zijn.

Alchemie

Het piece-de-résistance van de avond was een performance – geen vragen aub – van de Amerikaanse kunstenaar Zach Blas. Het werk van deze kunstenaar – onderzoek bijvoorbeeld naar hoe gezichtsherkenning nare consequenties kan hebben – was al eerder te zien op onder andere Sonic Acts. En nog tot 8 juli is in MU in Eindhoven zijn installatie ‘The Objectivist Drug Party’ te zien. Een betere clickbait-titel had de curator niet kunnen bedenken.

In een soms onnavolgbare kettingredenering legt Zach Blas de overeenkomsten bloot tussen John Dee en Peter Thiel. Dee (1527-1608) was een homo universalis die zich onder meer bezighield met humanisme, filosofie, wiskunde en astrologie. Daarbij was hij adviseur was van de Engelse koningin Elizabeth I terwijl hij zich ook wijdde aan esoterische zaken als alchemie, wichelarij en hermetische filosofie. Peter Thiel (1967) was een van de oprichters van PayPal, vergaarde miljarden als venture capitalist, en richtte Palantir op, een grote speler in algoritmische Big Data-analyse. En Thiel, op zijn beurt, is een uitgesproken supporter van de Republikeinen – een zeldzaamheid in Silicon Valley – en adviseert President Trump, zoals Dee dat zijn koningin deed.

Dat algoritmes ‘overal’ zijn mag gevoeglijk bekend zijn, dat zelfs de ontwerpers en programmeurs ervan vaak maar ten dele begrijpen hoe ze precies werken is iets waar niet iedereen zich altijd even bewust van is. Dat geeft ze een zweem van mystiek, die nog verergerd wordt door de utopische beweringen van solutionisten dat ze gaan helpen ons van al onze problemen te verlossen. Algoritmes als moderne magie. Tegelijk zouden ze volstrekt objectief zijn en transparant, want ontdaan van menselijke wispelturigheid en onvoorspelbaarheid.

Palantir

Via onder meer fragmenten uit Derek Jarmans ‘Jubilee’, bedrijfsfilms van Palantir, vergelijkingen tussen Dee’s sigil en Palantirs website iconen, Lord of The Rings (waar de naam ‘palantir’ vandaan komt: een soort verrekijker-kristal, dat weer verdacht veel overeenkomsten heeft met de magische ‘scrying mirrors’ uit Dee’s tijd) en Trump met zijn handen op een oplichtende aardbol in Saoedie-Arabië bij de inhuldiging van een datacentrum ten behoeve van ‘counter-terrorism’ laat Blas de parallellen zien tussen John Dee en Peter Thiel, twee mystical mathematicians in het centrum van de macht. Aan het einde houdt Blas een grijszilverbrok silicium omhoog, de grondstof waar computerchips van gemaakt worden, als symbool voor ondoorzichtigheid, in plaats van alle gepropageerde transparantie.

Als je binnentreedt in de duistere tentoonstellingsruimte bij MU wordt je eerst overvallen door visuele clichés die data-verzameling, – verwerking en – presentatie. Het maakt deel uit van zijn omvattende project Contra-Internet. Vervolgens treed je binnen in het heiligdom waar Blas zijn magie verfijnt. In de grote donkere ruimte wordt tegen de achterwand het videokunstwerk geprojecteerd, ervoor is in groen fluorescerend tape een Palantir symbool op de grond aangebracht, aan beide zijden van het scherm staat een kristallen bol opgesteld en als je de ruimte betreedt vind je in een glazen schrijn het brokje silicium naast een boek met als titel ‘The end of the internet (as we knew it)’.

LSD

In de film leest Ayn Rand, auteur van het enigmatische boek ‘Atlas Shrugged’ dat als bijbel van tech-believers en ultra-conservatie neo-liberale kapitalisten geldt – voor aan haar acolieten Alan Greenspan – die later onder George Bush sr. en  Bill Clinton voorzitter van de Amerikaanse Federal Reserve was – en Joan Mitchell, een abstract expressionistisch schilder die korte tijd met Greenspan gehuwd was.
Om anno 1995 verder te kunnen kijken dat het visioen dat Rand in ‘Atlas Shrugged’ schetst, neemt het drietal LSD. Blas laat ze niet bepaald ‘microdosen’. In het hiernavolgende visioen zijn fragmenten verwerkt die ook in de lezing aan bod kwamen zoals Jarmans ‘Jubilee’. Centraal staat de toenemende allesomvattende controle – een Aziatisch hologram dat je van ‘s ochtends tot ‘s avonds ‘nudges’ geeft voor een ‘voorbeeldig’ leven wat uiteindelijk niet ver afstaat van de Alexa’s en Siri’s die onze wereld al bevolken en die uiteindelijk in 2033 op een orgie van geweld tegen techgiganten en de ondergang van het internet uitdraait. Even opzoeken op Wikipedia wat ‘worldbuilding’ precies inhoudt, is er niet meer bij.

Andrea Bocelli

Aan het einde van de video leest een in zilveren bodypaint gehulde hermafrodiet leest voor het boek ‘The end of the internet as we know it’. In de ultieme nachtmerrie komt het drietal in een grid terecht waar de hermafrodiet met een eeuwigdurend orgasme een acrobatisch dansje uitvoert op de tonen van ‘Con te partirò’ van Andrea Bocelli. Ook zonder ‘worldbuilding’, speculatieve fictie en dystopie is dat een nachtmerrie. Uiteindelijk ziet Rand in de spiegel hoe ze met ‘Atlas Shrugged’ de box van pandora vol zwarte magie heeft geopend die onze wereld heeft ontmenselijkt. Met de killer kater die meestal volgt op een drug party loopt het drietal ontnuchterd over het strand, in de internetloze wereld van 2033. Of de menselijke maat dan is teruggekeerd, laat Blas ongewis.

‘Any sufficiently advanced technology is indistinguishable from magic’, schreef Arthur C. Clarke in zijn essay ‘Hazards of Prophecy: The Failure of Imagination’. Een adagium dat vandaag de dag nog net zo waar is als in 1962. Het is hoog tijd – zo toonde deze ‘Coded (Matter)s’ overtuigend aan – dat de technologie wordt opengebroken en wordt teruggebracht naar menselijke proporties.

Gezien:
Coded Matter(s) #4 – Wordlbuilding: Big Bias, Vlaams Cultuurhuis De Brakke Grond, 17/05/2018
Zach Blas, ‘The Objectivist Drug Party’, Mu, Eindhoven, nog tot 8 juli 2018

De volgende edite van Coded Matter(s) vindt plaats op 27 september 2018. Het thema is dan ‘Terra Fiction’.

Tekst: Maarten Schermer en Ruth Timmermans, met dank aan Rose Dodd.