Kay Firth-Butterfield, hoofdspreker op de Bett 2024, is onlangs door Time Magazine uitgeroepen tot een van de slechts vier personen die worden erkend vanwege hun invloed op AI. Hier reflecteert de CEO van Good Tech Advisory LLC op de vooringenomenheid in gegevens, die – als er niets aan wordt gedaan – het potentieel van AI om goed te doen zou kunnen beperken.

We hechten waarde aan onderwijs, niet alleen vanwege de kennis die het oplevert, maar ook omdat het de financiële situatie van individuen verbetert en sociale mobiliteit mogelijk maakt. Door middel van gepersonaliseerd onderwijs kan kunstmatige intelligentie ervoor zorgen dat meer mensen nog meer uit hun opleiding halen, wat leidt tot een betere toekomst. Maar zal dit in de praktijk ook echt voor iedereen gelden?

Laten we eerst eens naar de gegevens kijken. In 1817 zei Anne Elliot, de hoofdpersoon uit Jane Austens roman *Persuasion*, dat ze nooit boeken zou raadplegen om de emoties van vrouwen te verklaren, omdat die allemaal door mannen waren geschreven. Toen hadden we al een probleem met de gegevens, en dat hebben we vandaag de dag nog steeds.

Taalleermodellen hebben het potentieel om onze onderwijservaring ingrijpend te veranderen, maar ze zijn gebaseerd op gegevens die voornamelijk zijn verzameld onder blanke mannen uit het mondiale Noorden. Dit komt doordat zij het langst de touwtjes in handen hebben gehad, waardoor zij het grootste deel van de gegevens hebben gegenereerd waarop deze modellen zijn gebaseerd.

Laat me een persoonlijk voorbeeld geven. Onze dochter is piloot bij de Amerikaanse luchtmacht. Ongeveer 6,5% van de piloten is vrouw en slechts ongeveer 3% vliegt in straaljagers. De gegevens waarop een groot deel van de ervaringen van onze dochter als vrouwelijke militaire piloot is gebaseerd, zijn overwegend mannelijk. Als het gaat om vliegtuiguitrusting of, nog belangrijker, medische zorg in geval van letsel, is de mannelijke ervaring de norm. Als we erin willen slagen om met AI betere economische vooruitzichten voor iedereen te creëren, moeten we beter omgaan met gegevens.

Momenteel hebben ongeveer 3 miljard mensen geen toegang tot het internet, en hebben nog eens miljarden mensen niet voldoende data achtergelaten om hun bijdrage door generatieve AI te laten versterken zonder zeer precieze aanwijzingen. Sommigen zouden zeggen dat dit nu eenmaal zo is in onze wereld – en daar zit een kern van waarheid in. Maar juist omdat dit het potentieel en het gevaar van AI is, mogen we de beperkingen en vooroordelen van onze huidige wereld niet zomaar accepteren. Om AI-onderwijs voor iedereen te laten slagen, moeten we inderdaad meer doen.

Naar schatting zullen we volgend jaar elke 15 minuten meer gegevens produceren dan we ooit eerder hebben gegenereerd. Dit zal deels door mensen worden gegenereerd en deels bestaan uit ‘AI-kannibalisme’ (gegevens die door grote taalmodellen (LLM’s) worden gegenereerd wanneer ze vragen van mensen beantwoorden). Als we niets doen om vooringenomenheid tegen te gaan, zal dit vrouwen en minderheden nog verder marginaliseren.

Er wordt vaak gezegd dat we niets leren van de geschiedenis – een uitspraak die wordt toegeschreven aan de Duitse filosoof Georg Hegel. Maar als we de traditie van „De overwinnaar krijgt de buit“ willen vermijden, moeten we meer doen, anders zullen de gemeenschappen die weinig of geen gegevens hebben gegenereerd, over het hoofd worden gezien en gedwongen worden te leren van datasets die hun ervaringen niet omvatten.

Om in het onderwijs echt tegemoet te komen aan de behoeften van individuen en gemeenschappen, moeten we ervoor zorgen dat we AI met grote zorgvuldigheid ontwerpen, ontwikkelen en inzetten. Verantwoord gebruik van AI is de enige manier waarop we allemaal vooruitgang kunnen boeken en ten volle kunnen profiteren van de voordelen die AI te bieden heeft.