Ethische vraagstukken van de metaverse

Wat betekent het voor onze psyche als we straks een deel van ons leven kunnen doorbrengen in de metaverse, een virtuele wereld die nauwelijks van echt te onderscheiden is? Om die vraag draait het voorstel dat neuropsycholoog en AI-expert Wijnand IJsselsteijn indiende voor het aan hem toegekende Distinguished NIAS-Lorentz Fellowship. Volgend jaar trekt de TU/e-hoogleraar Human-Technology Interaction zich terug in het Amsterdamse NIAS-hoofdkwartier, om zich te verdiepen in de langetermijneffecten van Zuckerbergs metaverse-droom.

door
foto Damir Khabirov / iStock

“Je eigen onderzoek, dat waar je hart sneller van gaat kloppen, is helaas het eerste wat blijft liggen in de drukte van alledag. Ik hou van de dynamiek op de faculteit, maar ik kijk ernaar uit om weer eens in alle rust te lezen, na te denken en een paper te schrijven.”

Hij moet wel nog even wachten: pas in september 2024 begint het Distinguished NIAS-Lorentz Fellowship van Wijnand IJsselsteijn. Er waren veel kandidaatstellingen voor het fellowship en ook van hoge kwaliteit, waardoor het selectiecomité besloot twee voorstellen te honoreren: dat van IJsselsteijn en dat van neurowetenschapper Eveline Crone (Erasmus Universiteit), voor onderzoek naar nieuwsgierigheid. Crones fellowship begint komende september, dat van IJsselsteijn een jaar later.

Interdisciplinair

Het NIAS-Lorentz Fellowship is bedoeld voor wetenschappers die interdisciplinair onderzoek verrichten op het snijvlak van letteren of sociale wetenschappen met natuur- of technologische wetenschappen. Het Netherlands Institute for Advanced Study (NIAS) is onderdeel van de KNAW. Het instituut huisvest en faciliteert een community van wetenschappers, schrijvers en andere denkers.

Tijdens zijn fellowship zal IJsselsteijn vijf maanden lang, ten minste vier dagen per week in Amsterdam bij NIAS te gast zijn. “Behalve naar de rust en focus kijk ik ook uit naar de change of scenery en het deel uitmaken van de inspirerende gemeenschap daar.”

Naast het verblijf bij NIAS, maakt ook een vijfdaagse, door IJsselsteijn te organiseren workshop in het Leidse Lorentz Center deel uit van het fellowship. “Tijdens die dagen kan ik mijn ideeën toetsen aan de inbreng van de specialisten die komen spreken en van de jonge wetenschappers die deelnemen.”  

Lange termijn

De metaverse dus. Ook wel het metaversum. Wat is het ook weer? “Het is een immersief (omringend, onderdompelend, red.) internet. Je ziet geen plaatje op een beeldscherm, maar een realistische, driedimensionale wereld om je heen, waar je zelf deel van uitmaakt”, vertelt IJsselsteijn.

Door extended reality (XR) – een verzamelnaam voor virtual reality (VR) en augmented reality (AR) – lijkt het of je echt in een andere wereld vertoeft. “In plaats van een gemist popconcert terug te kijken op een schermpje, kun je het ervaren alsof je in het publiek stond.”

Facebook is ermee begonnen – Mark Zuckerberg heeft zijn bedrijf zelfs omgedoopt tot Meta – en de andere techreuzen volgden snel. “De technologie is er, nu is het wachten tot de markt rijp is voor opschaling.” IJsselsteijn is onder de indruk van de mogelijkheden van de Oculus Quest-headset waarmee zijn kinderen gamen, in vergelijking met de eerste VR-techniek die hij eind jaren negentig bij zijn onderzoek gebruikte.

De combinatie van XR met AI maakt de metaverse tot een ongelooflijke krachtig instrument: de ultieme marketingmachine

Wijnand IJsselsteijn

Mooi speelgoed dus, maar: “We weten nog weinig van de effecten. Er zijn onderzoeken gedaan in labsettings, maar we weten niet wat de impact op de lange termijn is. Wat gebeurt er als – vooral – jongeren er structureel tijd gaan doorbrengen om te gamen, maar ook voor sociale interactie, zoals nu op social media? Welke invloed heeft dat op hoe zij zichzelf, hun leefwereld en hun sociale relaties beleven? Welke normen worden daar gesteld, welke meningen beïnvloed en welke gedragingen aangeleerd?”

Kleinste oogbeweging

Wat de metaverse straks een ongelooflijk krachtig instrument gaat maken, is de combinatie van XR met die andere afkorting: AI ofwel artificial intelligence. Dat zal de metaverse het vermogen geven tot wat IJsselsteijn hyperpersuasion noemt, en veranderen in “de ultieme marketingmachine”.

Als je ziet wat Facebook en andere marketingbedrijven – want dat zijn social media, benadrukt IJsselsteijn: ze verkopen advertenties en zijn uit op jouw clicks en aankopen – nu al kunnen afleiden uit bijvoorbeeld je muisbewegingen, bedenk dan wat ze straks, als jij in avatarvorm rondloopt in een driedimensionale virtuele wereld, kunnen concluderen op grond van je handelingen, tot de kleinste oogbeweging aan toe.

Die macht om de minste interesse te signaleren, misschien zelfs voor je je er zelf bewust van bent, combineert de metaverse vervolgens met een nooit eerder vertoond arsenaal aan subtiele methoden om die kennis te gebruiken om je te beïnvloeden.

Spijkerbroek

“In de metaverse kun je op alle knoppen tegelijk drukken. Denk aan productplacement: pikt het algoritme op dat jij een bepaalde avatar tof vindt, dan kan men daarmee de advertentiemarkt op en drinkt de avatar vervolgens Coca-Cola, draagt ze een Levi’s-spijkerbroek of rijdt ze een Tesla.”

Ook kunnen adverteerders hun merk verbinden aan positieve ervaringen die jij opdoet in de metaverse, zodat je brein een link gaat leggen tussen dat prettige gevoel – als je iets wint, of iemand je positieve aandacht geeft – en de advertentie die dan toevallig steeds net in beeld is. “Dat is een vorm van klassieke conditionering: leren door associatie met een beloning, bekend van de Pavlov-hond”

Behalve merken en producten kunnen ook ideeën worden verkocht. In zijn onderzoeksvoorstel voor het fellowship geeft IJsselsteijn een voorbeeld van een virtuele politieke rally, waarbij de metaverse-gebruiker terechtkomt in een spreekwoordelijk warm bad: een gevoel van saamhorigheid dat hem verbindt met de andere toeschouwers, een politicus die hem aankijkt en een speech die precies aansluit bij zijn eigen opvattingen …

“In de echte wereld kan een spreker maar één boodschap tegelijk uitzenden – die dan maar net moet aansluiten bij wat jij wilt horen – en maar één toehoorder tegelijk aankijken. In de metaverse kan een speech aangepast worden op de thema’s waarvan bekend is dat die de kijker aanspreken, en kan elke toeschouwer zijn eigen persoonlijke, warme ervaring krijgen.”

Misdaad

De wereld van de metaverse is niet echt, maar de ervaringen die we er opdoen zijn dat wél, wil IJsselsteijn maar zeggen. De kans is groot dat de psychologische effecten ervan vergelijkbaar zijn met die van wat we in de echte wereld meemaken.

IJsselsteijn haalt pesten aan als voorbeeld. “Vroeger gebeurde dat op school of op straat. Sinds social media wijdverbreid zijn, kunnen slachtoffers op elk moment en overal nare berichten krijgen. Maar dat zijn woorden en emoji’s – wat als je straks in de metaverse (zo goed als) echt in je gezicht gespuugd kan worden door je pesters? Dat zal evenveel impact hebben als wanneer het op school gebeurt.”

Je denkt een keuze te hebben gemaakt uit vrije wil, maar bent in werkelijkheid gestuurd door een veelheid aan externe factoren. En dat effect wordt in de metaverse nog veel sterker

Wijnand IJsselsteijn

Hij trekt het door naar ander onwenselijk gedrag zoals vreemdgaan of misdaad. Als je iemand vermoordt in de metaverse, is er in de echte wereld niemand dood. Maar ‘telt’ het dan ook niet als misdaad? En als jouw avatar ‘vreemdgaat’ met de avatar van iemand anders, met alles erop en eraan, wat zou je partner daar dan van vinden? Wat zijn de ethische implicaties van zo’n virtuele daad? “Als je iets keer op keer ziet, draagt dat bij aan de normalisering ervan.”

Je gaat het normaler vinden. Zo worden er al discussies gevoerd over virtuele kinderporno, weet IJsselsteijn. “Het maken daarvan schaadt geen kinderen, want het is niet echt. Maar de beschikbaarheid ervan kan dat op den duur wel doen.” Want de mogelijke gevolgen van die beschikbaarheid – gewenning en desensitivering – gelden wellicht ook voor echte kinderporno.

Zelfbeeld

Hetzelfde psychologische effect – dat je normaal gaat vinden wat je veel ziet – kan bijvoorbeeld ook optreden bij games waarin veel geweld voorkomt. “Of waarin vrouwen er altijd heel sexy uitzien. Wat voor invloed heeft dat op het vrouwbeeld van jonge spelers?” vraagt IJsselsteijn zich af.

En, breder, welk effect heeft de metaverse op het zelfbeeld van jongeren? “De XR-wereld ziet er nu vaak nog wat comic-achtig uit, maar de ontwikkelingen gaan razendsnel, waardoor avatars straks niet meer van echt te onderscheiden zullen zijn, inclusief levensechte mimiek en gebaren.”

Dat kan gaan zorgen voor de overtreffende trap van de Instagram-filters die schoonheidsfoutjes verbergen, vreest IJsselsteijn. “Wat doet het met je zelfbeeld als je een groot deel van de dag in de metaverse rondloopt als een hyperrealistische maar net iets mooiere en strakkere versie van jezelf? Hoe kijk je dan vervolgens in de – echte – spiegel? Als puber ben je erg bezig met geaccepteerd worden. De metaverse kan nieuwe normen gaan creëren over wat we als normaal of afwijkend beschouwen”

Vrije wil

Gedurende de maanden bij NIAS wil IJsselsteijn zich ook verdiepen in de ethische implicaties van dit alles: van de extreme overtuigingskracht (hyperpersuasion) van de metaverse en van de psychologische effecten die optreden wanneer je veel tijd doorbrengt in zo’n onechte echte wereld (reality perception).

“Ik wil onderzoeken hoe onwenselijke effecten tegengegaan kunnen worden, in het ontwerp van de metaverse, maar ook op beleidsniveau.” Goed beleid is belangrijk, benadrukt IJsselsteijn, omdat we veel sterker op allerlei manieren worden beïnvloed dan we in de gaten hebben. “Je denkt een keuze te hebben gemaakt uit vrije wil, maar bent in werkelijkheid gestuurd door een veelheid aan externe factoren. Wij mensen onderschatten typisch de sturende kracht van de sociale en fysieke context waarin we ons bevinden. En dat effect wordt in de metaverse nog veel sterker.”

Marktwerking moet dus niet de enige prikkel zijn. IJsselsteijn noemt als slecht voorbeeld de privacywetgeving, die misschien juridisch gezien wel goed is dichtgetimmerd, maar die in psychologisch opzicht helemaal niet werkt. Want we klikken – geef maar toe – nog veel te vaak op ‘agree’ om dat irritante en onleesbare cookie-statement maar uit beeld te krijgen. Om daarmee onbewust de marketeers te voeden met onze felbegeerde data.

“Ik kijk er al naar uit hierover van gedachten te wisselen met de deelnemers aan de Lorentz-workshop”, besluit IJsselsteijn. Over dik anderhalf jaar is het zover.

Deel dit artikel