Zijn we de infocalyps nabij?
Eind oktober pakte De Correspondent uit met een video waarin ontslagnemend premier Mark Rutte het eerlijke verhaal over het klimaat lijkt te vertellen. ‘Lijkt’ is het juiste woord want De Correspondent liet ook meteen weten dat het om een deepfakevideo ging. Mediaspecialiste en ethica Nicoletta Iacobacci bepleitte hier op Re-story eerder al dat het misschien tijd is voor ‘deep fake for good’. De video van De Correspondent zet de discussies over fake news en het manipuleren van de media weer hoog op de agenda. Vandaar dat we aan Ari Stein, de oprichter van het nieuwsplatform 52 Insights vroegen of we een aantal van de inzichten die Nina Schick, die onderzoek doet naar de manier waarop technologie de geopolitiek en de samenleving verandert, op zijn nieuwsplatform deelde mochten overnemen. En dat stond hij met plezier toe.
Het levensverhaal van Nina Schick lijkt zo uit een groot avonturenboek te komen. Haar vader was een Duitse advocaat die in de jaren zeventig op een blauwe maandag met de motor naar Nepal vertrok, toen de grenzen daar pas waren geopend. Hij besloot er te blijven om er zich te verdiepen in de cultuur van de Himalaya. Maar hij vond er ook de liefde. De moeder van Nina was in haar kindertijd nooit naar school gegaan omdat onderwijs in Nepal verboden was voor meisjes en was opgegroeid zonder sanitair, elektriciteit of stromend water. “Ik heb daardoor een zeer ongewone, maar ook zeer brede achtergrond”, zegt Nina, “die door haar ouders werd aangespoord om een brede culturele kennis op te bouwen.
Ze studeerde onder meer geschiedenis en filosofie in Cambridge. En de combinatie van haar talenkennis en talent bleef niet onopgemerkt. Schick was politiek adviseur voor de Britse regering over de Brexit en de immigratiecrisis. Ook werkte ze voor de verkiezingscampagne van de Franse president Emmanuel Macron. Tegenwoordig is ze schrijver en onafhankelijk politiek commentator voor onder meer de BBC, CNN en Al Jazeera.
“De succesvolste desinformatiecampagne van 2020 was niet afkomstig van Russische trollen, antivaxers of QAnon-aanhangers, maar kwam uit het Witte Huis zelf.”
“Met mijn boek Deepfakes and the Infocalypse – What You Urgently Need to Know, dat vlak voor de Amerikaanse presidentsverkiezingen verscheen, wilde ik de aandacht vestigen op het feit dat de succesvolste desinformatiecampagne van 2020 niet afkomstig was van Russische trollen, antivaxers of QAnon-aanhangers, maar uit het Witte Huis zelf kwam”, zegt ze. “In maart begonnen president Trump en zijn aanhang met het verspreiden van het verhaal dat de verkiezingen doorgestoken kaart waren. Hoewel er tot nu toe geen bewijs voor is gevonden, wist Trump ruim 70 procent van de Republikeinen te overtuigen dat er grootschalige verkiezingsfraude is gepleegd.”
Desinformatie en misinformatie
Volgens Nina Schick stevenen we af op een infocalyps, een samenleving waarin desinformatie en misinformatie welig tieren en verschillende groepen uit de bevolking tegen elkaar kunnen opzetten.
“Desinformatie is bewust gemaakt om mensen te misleiden, misinformatie is slechte informatie die goedbedoeld wordt verspreid.”
“Ik denk dat het belangrijk blijft om tussen die twee het onderscheid te maken. Desinformatie is bewust gemaakt om mensen te misleiden, en misinformatie is slechte informatie die goedbedoeld wordt verspreid. Leugens zijn natuurlijk zo oud als de mensheid en stadslegendes, broodjeaapverhalen en complottheorieën ook. Relatief nieuw is de technologie waarmee ze zich net als correcte informatie razendsnel verspreiden: sociale media en berichtendiensten zoals WhatsApp.
Daardoor ontstaat een cocktail die we volgens mij inderdaad een infocalyps mogen noemen en is het steeds moeilijker om echt nieuws van nepnieuws te onderscheiden en om een consensus te bereiken. Het gevolg is een almaar toenemende polarisatie. Of het nu over Sinterklaas en zwarte Piet gaat, over het knielen voor het begin van een voetbalwedstrijd om Black Lives Matter onder de aandacht te brengen, of om de vaccinaties tegen het coronavirus, het voelt altijd aan alsof iedereen partij moet kiezen en dat het over en weer schelden en verwijten dan pas goed kan beginnen.”
Nepnieuws en synthetische media
Nina Schick staat er trouwens op om erop te wijzen dat ze de term infocalyps niet zelf heeft bedacht. “Technologieonderzoeker Aviv Ovadya is daar in 2016 mee op de proppen gekomen toen hij ervoor waarschuwde dat een samenleving kapot kan gaan door een vloedgolf van slechte informatie.
“Een vloedgolf van desinformatie kan een samenleving helemaal kapot maken.”
De regeerperiode van Donald Trump bewees, met als toppunt de bestorming van het Capitool, het gelijk van Ovadya. Dat Trump zo succesvol was bij het zaaien van verdeeldheid over de verkiezingsfraude, zal in de geschiedenis ongetwijfeld een kantelpunt worden genoemd. Daarmee is een zaadje geplant dat zal blijven groeien. Maar eigenlijk zijn de synthetische media, die we beter kennen als deep fakes nog een groter gevaar dan nepnieuws. Het gaat om afbeeldingen, stukken tekst, audio- of videofragmenten die zijn aangepast of zelfs helemaal gegenereerd door kunstmatige intelligentie.”
Ze zien er, zoals in de video van Rutte, zo echt uit dat het echt moeilijk wordt om nog te zien of iemand zich al dan niet in bepaalde termen heeft uitgelaten.
En dan rijst onvermijdelijk de ethische vraag of dergelijke deep fakes ook gerechtvaardigd zijn om boodschappen zoals die over het klimaat te verspreiden. Mediaspecialiste en ethica Nicoletta Iacobacci vond eerder op Re-story alvast van wel.
Allemaal consument en producent
Nina Schick wijst er ook op dat niet alles aan de synthetische media die tot deep fake kunnen leiden per definitie slecht is. “De film- en de mode-industrie kunnen ervan profiteren. Tieners zullen over tien jaar met hun smartphone hetzelfde soort visuele effecten kunnen creëren als deze waar Hollywoodstudio’s nu nog miljoenen voor uittrekken. We kunnen eigenlijk allemaal consument en producent worden van door artificiële intelligentie gegenereerde media en dat stimuleert zeker onze creativiteit. Helaas betekent dit ook dat iedereen tekst en beelden kan produceren die een grotere rol kunnen spelen bij de verspreiding van desinformatie. De zogenaamde face swaps leken eigenlijk een onschuldig spelletje, maar ze hebben de aanzet gevormd om verder te gaan, zodat iedereen er nu als iemand anders kan uitzien en ook als die persoon kan klinken. Dat was niet mogelijk met de computereffecten die voordien beschikbaar waren.
Een paar muisklikken maken het nu bijvoorbeeld mogelijk om via synthetische media een boodschap in verschillende talen uit te spreken. Dat kan positief zijn, maar ook potentieel gevaarlijk, een beetje zoals bij elke doorbraak van een bepaalde technologie. De vraag blijft altijd wat de mens er uiteindelijk mee doet.”
Schade voor mens en bedrijf
Ondertussen zijn al diverse gevallen bekend van mensen en bedrijven die het slachtoffer worden van deep fakes. Zo maakten tegenstanders van de Indiase journaliste en moslima Rana Ayyub een deepfakepornovideo van haar. En zij is lang niet de enige vrouw die dat lot heeft moeten ondergaan. Een Brits energiebedrijf raakte 250.000 euro kwijt aan oplichters die een deepfake hadden gebruikt met de stem van de Duitse directeur van het bedrijf. Wat De Correspondent met de deepfakevideo van Mark Rutte deed, was gelukkig iets heel anders. Met achteraf ook nog duiding bij het waarom het volgens de makers verantwoord was om van de deepfaketechnologie gebruik te maken.
“Je kan synthetische media inzetten om een grotere groep mensen te bereiken zolang je het maar duidelijk aangeeft en mensen niet voor de gek houdt.”
Toen Extinction Rebellion een deepfake maakte met toenmalig premier Sophie Wilmès, maakte de beweging volgens ons de fout daar niet dadelijk transparant over te zijn. “Je kan synthetische media best inzetten om een grotere groep mensen te bereiken”, zegt Nina Schick daarover, “zolang je het maar duidelijk aangeeft en mensen niet voor de gek houdt. Het is belangrijk dat we hier een gesprek over aangaan nu de technologie nog in de kinderschoenen staat. Nu kunnen we nog bepalen hoe het mag worden gebruikt. Het duurt nog een paar jaar voordat het alomtegenwoordig zal zijn, maar dát het alomtegenwoordig zal zijn, staat vast.”
Grote invloed op de geopolitiek
Nina Schick maakt zich vooral zorgen over de invloed van desinformatie op de wereldpolitiek. “Tijdens mijn jeugd in Nepal maakte ik een burgeroorlog mee en een maoïstisch bewind. De westerse democratie die ik dankzij mijn vader leerde kennen, leek echter wel te functioneren. Maar het politieke systeem is toch brozer dan we vaak denken. Ondertussen heb ik immers gemerkt dat de infocalyps ook de wereldpolitiek sterk beïnvloedt. In 2013 is in Rusland een nieuw IRA opgericht, geen Iers republikeins leger, maar een ‘internet research agency’, een onderdeel van de geheime dienst, met als missie via sociale media te infiltreren in het publieke debat in westerse landen.
Met behulp van trollen, nepnieuws en nep-Facebookgroepen wisten de Russen verdeeldheid te zaaien over onder meer de Krimoorlog, de immigratiecrisis, het Brexitreferendum en de Amerikaanse verkiezingen van 2016. Ook de presidentscampagne van Emmanuel Macron kreeg te maken met een Russische hackoperatie, waarbij gestolen documenten van het campagneteam samen met nepdocumenten online werden gezet. Net als Trump heeft Vladimir Poetin dus boter op het hoofd. Maar grote tech-oprichters als Jack Dorsey van Twitter, Mark Zuckerberg van Facebook en de oprichters van Instagram zullen over tientallen jaren misschien als de echte schurken worden gezien, de mensen die als het ware de distributienetwerken en de spoorwegen hebben opgezet die dit allemaal mogelijk maken.
Hoewel we in het westen niet bepaald goed zijn omgegaan met desinformatie, zijn de instellingen redelijk sterk, zoals we na de Amerikaanse presidentsverkiezingen zagen. Zelfs nieuwszender Fox durfde het toen niet aan om de leugen te verspreiden dat Trump die gewonnen had. Maar in grote delen van de wereld leven in arme landen zoals Nepal de mensen nog grotendeels zoals pakweg honderdvijftig jaar geleden. Alleen hebben ze wel allemaal een smartphone. Van digitale geletterdheid is geen sprake en dat kan tot heel gevaarlijke situaties leiden.”
Manieren om deepfakes aan te pakken
Volgens Nina Schick is er niet één manier om deepfakes aan te pakken. “Het is vooral belangrijk dat zoveel mogelijk mensen begrijpen hoezeer ze in het medialandschap aan het doordringen zijn. Voor techneuten en nerds ligt er werk op plank om detectiesoftware te ontwikkelen die laat zien waar en wanneer iets is gemaakt. Maar de oplossing kan zeker niet alleen van de technologie komen.
“Journalisten en wetenschappers hebben volgens mij de plicht en verantwoordelijkheid om desinformatie in kaart te brengen.”
Journalisten en wetenschappers hebben volgens mij de plicht en verantwoordelijkheid om desinformatie in kaart te brengen. En natuurlijk is ook het onderwijs van cruciaal belang om kinderen te leren dat niet alles wat ze op internet vinden de waarheid is. Hoe sterker we onze kritische geest ontwikkelen en hoe dikker de psychologische verdedigingsmuur is die we tegen nepnieuws en deepfakes kunnen bouwen, hoe moeilijker het voor de desinformatie zal zijn om ons te beïnvloeden. Ik weet dat het niet makkelijk zal zijn, maar als we echt niet meer kunnen geloven wat we zien en horen, zullen mensen ook bij correcte berichtgeving vragen stellen. Dat geeft slechteriken te veel speelruimte.
Nogal wat republikeinen hebben in de Verenigde Staten niet geaarzeld om te zeggen dat de video waarin we zien hoe een agent met zijn knie op de nek van George Floyd drukt een deepfake is. In de toekomst zullen we veel van dat soort geluiden horen. Dus ja, we moeten kritischer worden, maar in geen geval cynisch. Anders gaan we alleen nog geloven wat past bij onze overtuigingen. Daarom moeten we blijven hopen dat we net als in het verleden is gebeurd in staat zullen blijven om leugens te ontmaskeren.”
Bron: 52 Insights interview: Nina Schick – Is Seeing Still Believing?
