Kay Firth-Butterfield, Hauptrednerin der Bett 2024, wurde kürzlich vom Time Magazine als eine von nur vier Personen ausgezeichnet, die für ihren Einfluss auf den Bereich der künstlichen Intelligenz gewürdigt wurden. Hier reflektiert die Geschäftsführerin von Good Tech Advisory LLC über die Verzerrungen in den Daten, die – wenn sie nicht behoben werden – das Potenzial der KI, Gutes zu bewirken, einschränken könnten.

Wir schätzen Bildung nicht nur wegen des Wissens, das sie vermittelt, sondern auch, weil sie die finanzielle Situation des Einzelnen verbessert und soziale Mobilität ermöglicht. Durch personalisierte Bildung hat künstliche Intelligenz das Potenzial, mehr Menschen dabei zu helfen, noch mehr aus ihrer Bildung herauszuholen, was zu einer besseren Zukunft führt. Aber wird dies in der Realität tatsächlich für alle gelten?

Zunächst sollten wir uns mit den Daten befassen. Im Jahr 1817 sagte Jane Austens Protagonistin Anne Elliot in dem Roman „Überredung“, sie würde niemals auf Bücher zurückgreifen, um die Gefühle von Frauen zu erklären, da diese alle von Männern geschrieben worden seien. Damals hatten wir ein Datenproblem, und das haben wir auch heute noch.

Sprachlernmodelle haben das Potenzial, unsere Erfahrungen mit Bildung zu revolutionieren, stützen sich jedoch auf Daten, die hauptsächlich von weißen Männern aus dem Globalen Norden erhoben wurden. Das liegt daran, dass diese am längsten das Sagen hatten und somit den Großteil der Daten geschaffen haben, auf die diese Modelle zurückgreifen.

Nehmen wir ein persönliches Beispiel. Unsere Tochter ist Pilotin bei der US-Luftwaffe. Etwa 6,5 % der Piloten sind Frauen, und nur etwa 3 % fliegen Kampfflugzeuge. Die Daten, auf denen ein Großteil der Erfahrungen unserer Tochter als weibliche Militärpilotin basiert, stammen überwiegend von Männern. Wenn es um Flugausrüstung oder – was besonders wichtig ist – um die medizinische Versorgung im Falle einer Verletzung geht, sind die Erfahrungen von Männern die Norm. Wenn wir mit KI erfolgreich bessere wirtschaftliche Perspektiven für alle schaffen wollen, müssen wir im Umgang mit Daten besser werden.

Derzeit haben etwa 3 Milliarden Menschen keinen Zugang zum Internet, und weitere Milliarden haben noch nicht genügend Daten hinterlassen, als dass ihr Beitrag von generativer KI ohne sehr präzise Vorgaben hervorgehoben werden könnte. Manche würden argumentieren, dass unsere Welt nun einmal so ist – und da ist ein Funken Wahrheit drin. Doch genau darin liegen das Potenzial und die Gefahr der KI: Wir sollten die Grenzen und Vorurteile unserer heutigen Welt nicht einfach hinnehmen. Damit KI-Bildung für alle funktioniert, müssen wir in der Tat mehr tun.

Schätzungen zufolge werden wir ab dem nächsten Jahr alle 15 Minuten mehr Daten produzieren als jemals zuvor. Diese Daten werden zum Teil von Menschen erstellt und zum großen Teil durch „KI-Kannibalismus“ entstehen (Daten, die von großen Sprachmodellen (LLMs) erzeugt werden, wenn diese Fragen von Menschen beantworten). Wenn wir nichts unternehmen, um Verzerrungen zu korrigieren, wird dies Frauen und Minderheiten weiter an den Rand drängen.

Es wird oft gesagt, dass wir nichts aus der Geschichte lernen – ein Zitat, das dem deutschen Philosophen Georg Hegel zugeschrieben wird. Wenn wir jedoch die Tradition des „Der Sieger bekommt die Beute“ vermeiden wollen, müssen wir mehr tun; andernfalls werden die Gemeinschaften, die nur wenige oder gar keine Daten erstellt haben, übersehen und dazu gezwungen sein, aus Datensätzen zu lernen, die ihre Erfahrungen nicht abdecken.

Damit der Bildungsbereich den Bedürfnissen des Einzelnen und der Gemeinschaften wirklich gerecht wird, müssen wir darauf achten, KI mit großer Sorgfalt zu konzipieren, zu entwickeln und einzusetzen. Nur durch einen verantwortungsvollen Umgang mit KI können wir alle gemeinsam vorankommen und die Vorteile, die KI bietet, in vollem Umfang nutzen.