De ‘Leiden Declaration on Artificial Intelligence and Mathematics’ – zoals de verklaring voluit heet – heeft haar naam de danken aan een workshop die in september op een conferentie in Leiden plaatsvond. 

Maar het idee ontstond al eerder, vertelt Jim Portegies, assistant professor aan de TU/e-faculteit Mathematisch & Computer Science. “In een pub, tijdens een conferentie in Cambridge.” 

Wiskundigen Ursula Martin (Oxford), Michael Harris (Columbia) en Rodrigo Ochigame (Leiden) besloten daar, om bij de volgende conferentie waar ze elkaar zouden treffen – in Leiden – een workshop te organiseren om met de gemeenschap een document op te stellen.

Naast wiskundigen waren in Leiden ook informatici, filosofen, historici en sociale wetenschappers aanwezig. “Hoewel de meningen sterk uiteenliepen, voelde iedereen de urgentie van het onderwerp”, zegt Portegies, die door de initiatiefnemers werd gevraagd het schrijfproces te begeleiden van de Leiden Declaration.

In die hoedanigheid ging hij op zoek naar de gemene delers: “Ik heb geprobeerd zoveel mogelijk overeenkomsten te vinden in de verschillende meningen binnen de schrijfgroep.”

Minder autonomie

En die gedeelde zorgen bleken er te zijn, vijf maar liefst, waaronder: onbetrouwbare resultaten, gebrekkige bronvermelding, geen helderheid over methoden, afhankelijkheid van commerciële AI, en daardoor groeiende ongelijkheid onder wiskundigen. En steeds minder autonomie voor onderzoekers, omdat diezelfde commercie grip krijgt op de wetenschappelijke agenda.

“Bovenop deze vijf bedreigingen komt nog dat veel wiskundigen via AI ineens verwikkeld raken in ethische kwesties,” voegt Portegies toe. “Hun werk kan AI-modellen beter maken, maar deze AI-modellen kunnen vervolgens ingezet worden voor oorlogsvoering, voor verstoring van politieke systemen, voor massaspionage ... En ze hebben een enorme impact op het milieu.”

Zegen

Maar AI weet wiskundige problemen op te lossen waar knappe koppen al decennialang hun tanden op stukbijten. Is AI niet juist een zegen voor de wiskunde? “Het is wetenschappelijk gezien enorm interessant dat steeds meer wiskundige problemen opgelost kunnen worden met AI”, bevestigt Portegies.

Maar: “Het is wel belangrijk dit eerlijk te duiden: AI-systemen kunnen bepaalde dingen binnen de wiskunde heel goed, zoals problemen oplossen door ideeën vanuit één deel van het vakgebied toe te passen in een ander deel. Met andere dingen heeft AI veel meer moeite, zoals het ontwikkelen van nieuwe theorie.”

“En kijken we naar hoe AI presteert op niet-wiskundige vraagstukken, dan zijn die limitaties nog vele malen groter.” Maar dat is niet het verhaal dat AI bedrijven vertellen, zegt Portegies. 

“Die suggereren graag dat als hun model wiskundeproblemen kan oplossen, dat het dan álles kan oplossen, en dat AGI (Artificial General Intelligence, red.) dan om de hoek ligt. Dat is overtrokken en schept een misplaatst vertrouwen in wat AI nu kan.”

Resoneren

Wat willen de schrijvers bereiken met de Leiden Declaration? “We sporen wiskundigen, overheden en ook commerciële spelers aan om in actie te komen, in solidariteit met andere vakgebieden en maatschappelijke instanties. Uiteindelijk gaat dit veel verder dan de wiskunde zelf, en zullen we moeten samenwerken om AI in goede banen te leiden.”

“De International Mathematical Union heeft de Declaration onderschreven, en meer dan 1500 wetenschappers van over de hele wereld hebben de Declaration ondertekend. De tekst lijkt in de gemeenschap te resoneren en we voelen enorm veel internationale steun”, besluit Portegies.