We leven in het ‘post-truth’-tijdperk

Allereerst even over de term nepnieuws. Die wordt tegenwoordig te pas en te onpas gebruikt, stelt Alexander Pleijter. Hij is universitair docent aan de Universiteit Leiden en expert op het gebied van online journalistiek en factchecking. ‘Het gaat om informatie die als nieuws wordt gebracht, maar feitelijk is verzonnen met een vooropgezet plan. Het doel is commercieel of politiek. Bovendien zijn het verhalen waar mensen het bij de koffieautomaat met elkaar over kunnen hebben. Deze sociale functie heeft het nieuws altijd gehad. Zelfs als het nieuws niet klopt.’

De hype

De term nepnieuws kreeg volgens Pleijter lading tijdens de Amerikaanse presidentsverkiezing in 2016. ‘Daarvoor werd de term nauwelijks gebruikt. Trump ging de term fake news gebruiken om de gevestigde media weg te zetten, te kleineren. Hij noemde journalistieke organisaties als CNN, The New York Times en The Washington Post fake news media. Zo raakte de term nepnieuws bekend bij het grote publiek.’

'Tegenwoordig kan iedereen een overtuigend ogende nieuwswebsite beginnen'

Hoewel de huidige Amerikaanse president de term mateloos populariseerde, is nepnieuws volgens de Leidse onderzoeker van alle tijden. ‘Historici die zich daar mee bezig houden, gaan terug naar de Romeinse tijd’, vertelt Pleijter. ‘Door de komst van nieuwe technologie, zoals het internet, is het tegenwoordig makkelijker om nepnieuws te verspreiden. Vroeger moest een organisatie over enig kapitaal beschikken voor een drukpers. Deze barrière is door het internet helemaal weggevallen. De digitalisering heeft natuurlijk gezorgd voor een enorme toename van de hoeveelheid informatie, en die informatie bevat ook nepnieuws.’

De onderliggende factoren

Iris van Ooijen, UT-onderzoeker aan de faculteit BMS, sluit zich bij die woorden aan. Ze doet onderzoek naar de rol van informatie in onze data-gedreven samenleving. ‘Op internet is de nieuwsvoorziening ontzettend gedemocratiseerd. Vroeger was het zo klaar als een klontje van wie nieuws kwam: de overheid, kranten en de kerk, oftewel de traditionele instituten. Tegenwoordig kan iedereen een overtuigend ogende nieuwswebsite beginnen. Daarbij helpen sociale media door iedereen de mogelijkheid te geven daar content van te delen. Nepnieuws is duidelijk een keerzijde van deze ontwikkeling.’

Uit onderzoek is gebleken dat mensen het heel lastig vinden om nepnieuws te ontmaskeren, voegt Pleijter daaraan toe. ‘Omdat het qua vorm niet of nauwelijks verschilt van een normaal nieuwsbericht. Ook hebben mensen de natuurlijke neiging om te geloven wat ze horen, zeker als het via bekende kanalen komt. Nieuwsconsumenten weten dat er veel onzin rondgaat op het internet, maar als het om gedeelde berichten van familie en vrienden gaat, trekken ze de informatie minder snel in twijfel. Dat mensen berichten afkomstig van bekenden minder snel wantrouwen, is niet gek: een samenleving is gebouwd op vertrouwen.’

Vertrouwen is niet de enige bepalende factor online, stelt Van Ooijen. Op de achtergrond spelen tal van algoritmes een rol in wat je wel en niet te zien krijgt. ‘Grote spelers als Facebook en Google zorgen ervoor dat legio partijen met veelal commerciële motieven ons weten te targeten. Een algoritme pikt bijvoorbeeld op of je geïnteresseerd bent in ‘rechts’ nieuws en op een gegeven moment krijg je bijna alleen maar artikelen vanuit die hoek voorgeschoteld. Je komt in feite in een zogeheten filter bubbel terecht. Ik kan met enige zekerheid zeggen dat als filter bubbels er niet zouden zijn, mensen een meer gebalanceerde stroom aan informatie binnenkrijgen.’

De volgende stap is volgens de BMS-onderzoeker dat zo’n filter bubbel slim inspeelt op de confirmation bias van mensen. ‘Iemand is eerder geneigd informatie te accepteren die in lijn is met zijn of haar eigen denkbeelden. Dat reikt zelfs tot het punt dat ambigue informatie – die niet bepaald uitgesproken is de ene of de andere kant op – ook wordt geïnterpreteerd in het straatje van de denkbeelden van een persoon.’ Stap drie is volgens Van Ooijen de echo chamber waarin mensen terechtkomen. ‘Doordat dezelfde meningen elkaar blijven vinden, resoneren ze en ontstaat een echo van elkaar versterkende opvattingen.’

'Berichten van kwaliteitsmedia worden extremer van aard, met sensationelere koppen'

De sensatiezucht

Het medialandschap, dat sinds de komst van het internet grondig is veranderd, bedient zich van een geheel nieuwe vorm. Voor Van Ooijen en Pleijter bewijst de dagelijkse praktijk dat partijen slim inspelen op de drietrapsraket van filter bubbels, voorkeursbevestiging en echo chambers. Waar een systeem is, met zijn eigen mores, zien mensen mogelijkheden om dat systeem te exploiteren. ‘Nepnieuwsberichten maken doorgaans gebruik van sensationele koppen en inhoud. Dat is iets wat op het internet veelvuldig gebeurt, ook als het gaat om ‘echt’ nieuws.’ Het is internet-eigen, ziet Pleijter. Zo merkt hij op dat de meeste grote mediaorganisaties zogeheten pulpnieuws produceren; sensationele berichten die veel clicks genereren via de onlinekanalen. ‘Over het algemeen is dit nieuws gewoon waar, in tegenstelling tot nepnieuws. Ook bij pulpnieuws gaat het om sensationele berichten, die geld in het laatje brengen. De verpakking is sensationeel, om mensen naar de website te lokken. Een voorbeeld van deze spectaculaire verpakking zijn de dubbele clickbait-koppen, waar online nieuwsorganisatie Upworthy mee is begonnen: ‘Ze dacht een lekke band te hebben en stapte uit de auto. Wat er toen gebeurde zal je verbazen!’ – dit is nou een typische clickbaitkop.’

Volgens Van Ooijen presenteren niet alleen de nieuwe online-spelers hun nieuws op een sensationele manier, ook traditionele mediaorganisaties gaan voor de clicks. ‘Je moet iets doen om eruit te springen tussen een gigantische hoeveelheid aan informatie. Berichten van kwaliteitsmedia worden extremer van aard, met sensationelere koppen. Dat zie je zelfs terug bij de NOS, met controversiële quotes als headline. Er is een information overload, wie het hardst schreeuwt krijgt de aandacht.’ Dat dwingt de onderzoeker tot de volgende conclusie: ‘De onderliggende maatschappelijke mechanismes zijn tegenwoordig polariserende meningen, verdeeldheid en minder eenheidsgevoel. De cues die daarop inspelen zijn sensatie: hoe meer clicks of foto’s die emoties aanspreken, hoe effectiever ze zijn.’

Motieven

Waarom nepnieuws wordt verspreid is volgens Pleijter en Van Ooijen zeker niet eenduidig. Zoveel partijen er zijn, zoveel motieven, blijkt uit de Amerikaanse presidentsverkiezingen van 2016. Zo maakten Macedonische jongeren dankbaar gebruik van de hype rondom de verkiezingen. ‘Ze schreven duizenden nepnieuwsberichten over de strijd tussen Clinton en Trump. Niet zonder succes: miljoenen Amerikanen werden bereikt en bij de Macedonische jongeren rinkelde de kassa’, stelt Pleijter. ‘Daarnaast verzonnen Trump-aanhangers nieuws vanuit politiek oogpunt, om Clinton in een kwaad daglicht te zetten. Andersom gebeurde het trouwens ook: aanhangers van de Democraten hebben nepnieuws verspreid over Trump.’

'Wanneer mensen al hun informatie uit één WhatsAppgroep halen, en dat nieuws is ook nog eens verzonnen, dan kan het leiden tot lynchpartijen'

Vooral het resultaat van de campagne bracht nepnieuws extra onder de aandacht. Trump won de verkiezingen: een aardverschuiving in het Amerikaanse politieke landschap. Volgens Pleijter kwam nepnieuws vanaf dat moment nog meer in de schijnwerpers te staan: ‘Hoe kon dit gebeuren, vroeg de pers zich af. Het nepnieuws, dat veelvuldig is verspreid tijdens de campagne, was volgens hen een van de mogelijke verklaringen. Daar kwamen de verhalen over Russische inmenging nog bovenop. Overigens is nooit bewezen dat Trump dankzij nepnieuws de verkiezingen heeft gewonnen.’

Moord

Hoewel nepnieuws de gemoederen in Amerika flink bezighoudt, heeft het vooralsnog nog niet tot bewezen catastrofes geleid. Volgens Pleijter wordt nepnieuws pas écht gevaarlijk wanneer nieuwsconsumenten hun informatie alleen via kanalen zoals Facebook of WhatsApp halen. ‘In Mexico of India zijn de desastreuze gevolgen daarvan bekend. Wanneer mensen al hun informatie uit één WhatsAppgroep halen, en dat nieuws is ook nog eens verzonnen, dan kan het leiden tot lynchpartijen. In India werd via WhatsApp het gerucht verspreid dat er kinderlokkers actief waren, waardoor bezorgde ouders het heft in eigen handen namen: meerdere onschuldige mensen werden vermoord.’

'Volgens mij is de term nepnieuws eufemistisch. Het is propaganda om mensen te manipuleren'

Djoerd Hiemstra, datawetenschapper bij de faculteit EWI van de UT, legt de schuldvraag neer bij de internetreuzen. ‘Organisaties als Facebook, Apple, Amazon en Google doen te weinig om nepnieuws te voorkomen. Vooralsnog staan de economische motieven bij deze bedrijven voorop. Het draait uiteindelijk allemaal om data, want de internetgebruiker is het product. Wie data verzamelt, heeft macht.’ Hij noemt als schrijnend voorbeeld het geweld in Myanmar, waar inwoners na een jarenlang militair bewind, met censuur en beperkte persvrijheid, in sneltreinvaart op het internet belandden. ‘Mensen zijn via het internet tegen elkaar opgezet en het nepnieuws werd via Facebook verspreid. In die zin heeft het sociale netwerk bloed aan de handen. Volgens mij is de term nepnieuws dan nog eufemistisch. Het is propaganda om mensen te manipuleren.’

Het nepnieuws over de moslimminderheid Rohingya in Myanmar tierde sinds de openstelling van het internet welig op Facebook en faciliteerde daarmee het etnisch geweld tegen de groep. Facebook heeft openlijk erkend dat het te weinig deed om de gebeurtenissen in Myanmar te voorkomen. Naar aanleiding van het geweld in Myanmar liet het bedrijf onderzoek doen naar haar eigen rol. In 2018 concludeerde Facebook in een blog over het onderzoek: ‘Prior to this year, we weren’t doing enough to help prevent our platform from being used to foment division and incite offline violence. We agree that we can and should do more.’

Het Nederlandse landschap

In Nederland is zo’n escalatie minder waarschijnlijk, stelt Pleijter. ‘We hebben een behoorlijk gevarieerd medialandschap. Er zijn weinig mensen die hun nieuws alleen van Facebook of WhatsApp halen. Bovendien zijn er goede journalisten die elkaar onderling corrigeren. Dat is essentieel voor een gebalanceerde nieuwsvoorziening. Ook is het vertrouwen in de journalistiek betrekkelijk groot. In een land als de VS ligt dat heel anders. Daar zijn de media volledig gepolariseerd tussen linkse en rechtse nieuwsorganisaties. In Nederland zijn er ook wel mensen die zich afkeren van de gevestigde media. Zij noemen de NOS een staatsomroep en denken dat alle journalisten onder één hoedje spelen, maar deze groep is relatief klein. Zij noemen de gevestigde journalistiek de mainstream media en halen hun nieuws van alternatieve websites.’

Samen met collega-onderzoeker Peter Burger begon Pleijter in 2009 met het project Nieuwscheckers. ‘Niet zozeer om nepnieuws op te sporen – zoals gezegd, die term bestond nog niet. We wilden factchecken. Het was vooral een project waarvan we dachten dat het leerzaam voor onze studenten journalistiek zou zijn. De studenten moesten in een werkgroep kritisch de media volgen, zich afvragen of verhalen wel klopten en vervolgens uitzoeken hoe het wel zat. Een journalist moet natuurlijk van tevoren de feiten checken, maar als onderwijsvorm is het achteraf beoordelen van berichten heel waardevol.’

'Als wij gaan controleren wat iemand mag publiceren, dan wordt het pas echt gevaarlijk'

‘Al snel bleek dat Nederlandse artikelen wel degelijk onwaarden bevatten. Onze studenten belden achteraf met de journalist die het artikel had geschreven, om te vragen hoe het stukje tot stand is gekomen. Uit de bevinden van onze studenten kwam naar voren dat in de dagelijkse praktijk van de journalistiek lang niet alles wordt gecheckt. Dan kregen ze te horen: ‘We hadden nog even een stukje nodig.’ Of: ‘Dit is gewoon een leuk bericht; het is geen zwaar journalistiek onderwerp.’ Voor onze studenten is het heel leerzaam om deze processen te ondervinden. Bovendien merkten we dat redacties hun richtlijnen gingen aanpassen, nadat ze door ons onder de loep waren genomen.’

Na de Amerikaanse presidentsverkiezingen in 2016, toen de bekendheid van de term nepnieuws naar ongekende hoogtes steeg, en de Tweede Kamerverkiezingen voor de deur stonden, besloot Pleijter in 2017 de Nederlandse verkiezingen met zijn studenten te gaan factchecken. Ze controleerden niet de media, maar de politici. Wat zeiden de verschillende partijen tijdens de campagne en welke onwaarheden bevatten hun beweringen?

Niet lang na de start van dit initiatief, werd Pleijter benaderd door Facebook. Ongeveer een jaar werkten de nieuwscheckers uit Leiden samen met Facebook. Onjuiste artikelen werden door de feitenjagers voorzien van een link naar een website. ‘Op deze website stond een second opinion, een uitleg waarom het artikel op Facebook niet klopt. Ook werden de onjuiste berichten minder zichtbaar op Facebook, maar verwijderen deden we niet. Het staat iedereen vrij om te publiceren wat ze willen. Als wij gaan controleren wat iemand mag publiceren, dan wordt het pas echt gevaarlijk. Na verloop van tijd kwam Facebook met een ander contract. Wij hebben het voorgelegd aan de juristen van de universiteit, die er na lang onderhandelen niet uitkwamen met Facebook. De aansprakelijkheid was uiteindelijk het grootste struikelblok.’

Wat is echt?

Facebook neemt dus mondjesmaat stappen om nepnieuws te bestrijden. Maar wat als technologie het steeds moeilijker maakt voor ons om te geloven wat echt en wat nep is? Wat origineel begon als een manier om de gezichten van beroemdheden op die van pornoactrices te ‘plakken’, kennen we vandaag de dag steeds meer als Deep Fake Videos: nepvideo’s die bijna niet van echte te onderscheiden zijn. Bloomberg-journalist Jeremy Kahn noemt de technologie potentieel ‘fake news on steroids’. UT-onderzoeker en gezichtsherkenningsexpert Luuk Spreeuwers ziet de trend dat deep fake video’s steeds makkelijker te maken en moeilijker te detecteren zijn. ‘Maar als je goed let op bepaalde delen van gezichten, is zo’n video nog wel te herkennen. Vaak bewegen bepaalde onderdelen niet mee, ontbreken details of zie je een bepaalde ruis in de video.’

'Als je een krachtig netwerk en genoeg trainingsmateriaal hebt, kun je een heel overtuigend en complex model creëren'

Slimmere kunstmatige intelligentie zorgt er echter voor dat de video’s steeds overtuigender worden, zegt Spreeuwers. ‘De onderliggende technologie van het ene gezicht op een ander plakken bestaat al zo’n dertig jaar, door middel van simpele lokale geometrische vervorming. Vandaag de dag is het mogelijk om een zogeheten convolutional neural network expliciet te trainen in gezichtsuitdrukkingen. Dat komt simpel gezegd neer op het inladen van heel veel verschillende gezichtsuitdrukkingen in zo’n netwerk en het te trainen. Als het neurale netwerk de juiste uitdrukkingen herkent en verwerkt in een video, komt er niets anders bij kijken dan goed gedrag van zo’n netwerk belonen en de fouten proberen te minimaliseren. Dus als je een krachtig netwerk en genoeg trainingsmateriaal hebt, kun je een heel overtuigend en complex model creëren.’

Bestrijden

Kenmerkend voor het opkomende fenomeen nepnieuws is dat de vier geïnterviewde onderzoekers onafhankelijk van elkaar pogen nepnieuws te bestrijden – of dat al een tijdje doen. Pleijter staat sinds 2009 bekend als ‘factchecker’, Van Ooijen heeft verregaande plannen om een mastervak over nepnieuws aan te bieden, terwijl Spreeuwers zich in zijn onderzoek meer wil richten op het ontwikkelen van technieken om nepbeelden te detecteren. ‘Ik zie het als een reëel en maatschappelijk ontzettend relevant probleem. We waren sinds de uitvinding van de televisie gewend dat we de opgenomen beelden die we met onze eigen ogen waarnemen kunnen vertrouwen. Ik denk dat we ten opzichte van beelden een soortgelijke kritische houding moeten aannemen, net als bij geschreven tekst. Daarom wil ik graag een technologie ontwikkelen die op basis van technische kenmerken van video’s kan detecteren of ze echt of nep zijn.’

Datawetenschapper Hiemstra doet onderzoek naar federatieve zoekmachines en netwerken, waarin hij ook oplossingen ziet om nepnieuws te bestrijden. Deze netwerken kunnen volgens hem de (commerciële) macht van grote technologiebedrijven breken. ‘Aan de UT heb ik met Mastodon ons eigen federatieve netwerk opgericht. De functies van het platform lijken op die van Twitter, maar in tegenstelling tot de grote, commerciële netwerken is Mastodon decentraal: niemand is eigenaar. Het netwerk heeft eigen regels, en gebruikers die zich misdragen, bijvoorbeeld door nepnieuws te verspreiden, worden verwijderd. Zie het als een klein dorp, waarin iedereen elkaar kent. Er is net als in de echte wereld sociale controle.’

Mark Zuckerberg van Mastodon

Inmiddels zitten er zo’n twee miljoen mensen op Mastodon. ‘Het grootste voordeel is dat het netwerk niet is gedreven door winst. Ik ben de moderator, maar ik hoef geen data te verkopen. Er is geen Mark Zuckerberg van Mastodon. Volgens mij is de techniek achter dit netwerk de toekomst voor sociale netwerken. Wat dat betreft lopen we voor op de UT: het is de eerste Nederlandse universiteit met zo’n netwerk. Toch blijft een leven zonder de grote technologiebedrijven lastig. Ik ben nota bene gepromoveerd in de informatica, maar een leven zonder Google lukt ook mij niet.’

Ook Van Ooijen is zich bewust van de rol van de techgiganten. ‘Ik doe zelf onderzoek naar dataverzameling door bedrijven en hoe ze dat toetsen aan regelgeving zoals de AVG. Daarbij zie ik ook dat de technologie steeds verder vooruit rent en de wet erachteraan hobbelt. Nee, Facebook gaat zijn algoritme niet afschaffen. Dat bedrijf is zo groot geworden en ze willen gebruik blijven maken van de sterke behoefte van mensen aan sociaal contact. Alternatieven zoals Diaspora zijn niet doorgebroken bij het grote publiek. Het sociale aspect is blijkbaar zo’n belangrijk onderdeel van ons leven dat we dat belangrijker vinden dan het verlies van onze privacy.’

'Veel van ons online gedrag is irrationeel en uit zich onbewust'

Desalniettemin relativeert Pleijter de rol van technologie, die volgens hem wordt geproblematiseerd. ‘In de begintijd van het internet zeiden de pioniers: dit gaat de democratie vernieuwen, iedereen kan deelnemen aan het publieke debat. Nu ligt de nadruk meer op de desastreuze gevolgen van de digitalisering.’ Ook Van Ooijen ziet nog volop heil in het internet en sociale media in hun huidige vorm. ‘We hebben plotseling vrije toegang gekregen tot heel veel informatie. Maar het heeft ook zeker neveneffecten: partijen proberen te profiteren van de huidige situatie en het autonoom denken van mensen te ondermijnen. Mensen hebben vaak niet door hoe ver het gaat; in dataverzameling gaat het zelfs tot aan unieke persoonlijkheidseigenschappen aan toe. De basiskennis en bewustwording groeit bij mensen, maar veel van ons online gedrag is irrationeel en uit zich onbewust. We worden niet vaak genoeg geconfronteerd met ons eigen online gedrag.’

Nieuwe beroepsgroep

Het sleutelwoord in de gehele discussie over nepnieuws is misschien wel verantwoordelijkheid. Pleijter legt die vooral bij journalisten neer en vermoedt zelfs dat er een nieuwe beroepsgroep zal ontstaan, in de vorm van feitencheckers. Spreeuwers denkt dat er verantwoordelijkheid in technologie te bouwen is, in de vorm van video-encryptie en verificatiemethoden om mensen te beschermen. Hiemstra vindt vooral dat de techgiganten hun verantwoordelijkheid moeten pakken om bescherming te bieden. En voor Van Ooijen is het een mix van verantwoordelijkheidsvraagstukken. Moeten de grote bedrijven hun algoritmes aanpassen? Moet de wet ingrijpen? Of moeten wij als mensen zelf de verantwoordelijkheid nemen om bewuster te worden van de gevaren die op de loer liggen in de immense online wereld? Ze vat het treffend samen: ‘Al met al moeten we ons afvragen welke wereld er aan onze voeten ligt, in dit post-truth tijdperk.’