Bett 2024 기조 연설자인 케이 퍼스-버터필드는 최근 타임지(Time Magazine)가 선정한 ‘인공지능(AI) 분야에 지대한 영향을 미친 인물’ 4명 중 한 명으로 이름을 올렸습니다. 굿 테크 어드바이저리(Good Tech Advisory LLC)의 CEO인 그녀는 이 글에서, 해결되지 않을 경우 AI가 선한 목적을 달성할 수 있는 잠재력을 제한할 수 있는 데이터 내의 편향성에 대해 고찰합니다.

우리는 교육이 지식을 전달한다는 점뿐만 아니라, 개인의 경제적 상황을 개선하고 사회적 이동성을 가능하게 한다는 점에서도 교육의 가치를 높이 평가합니다. 인공지능을 활용한 맞춤형 교육을 통해 더 많은 사람들이 교육을 통해 더 큰 성과를 거둘 수 있도록 돕고, 결과적으로 더 나은 미래를 만들어갈 잠재력이 있습니다. 하지만 현실적으로 이것이 정말 모든 사람에게 해당될까요?

먼저 데이터를 살펴봐야 합니다. 1817년, 제인 오스틴의 소설 『설득』에 등장하는 주인공 앤 엘리엇은 여성의 감정을 설명하기 위해 책을 참고하지 않겠다고 말했습니다. 그 이유는 모든 책이 남성들에 의해 쓰였기 때문이라고 했죠. 당시에도 데이터 문제가 있었고, 오늘날에도 여전히 그 문제가 남아 있습니다.

언어 학습 모델은 우리의 교육 경험에 혁명을 일으킬 잠재력을 지니고 있지만, 주로 북반구 출신의 백인 남성들로부터 수집된 데이터에 의존하고 있습니다. 이는 그들이 가장 오랫동안 주도권을 쥐어왔기 때문이며, 결과적으로 이러한 모델에 활용되는 데이터의 대부분을 그들이 만들어냈기 때문입니다.

제 개인적인 사례를 하나 들어보겠습니다. 저희 딸은 미 공군 조종사입니다. 조종사 중 여성 비율은 약 6.5%이며, 전투기를 조종하는 여성은 약 3%에 불과합니다. 여성 군 조종사로서 저희 딸이 겪는 경험의 상당 부분을 뒷받침하는 데이터는 압도적으로 남성을 기준으로 하고 있습니다. 비행 장비나, 무엇보다도 부상 시의 의료 서비스와 같은 측면에서 남성의 경험이 표준으로 간주되고 있습니다. AI를 통해 모두를 위한 더 나은 경제적 전망을 만들어내려면, 데이터 활용 방식을 개선해야 합니다.

현재 약 30억 명의 사람들이 인터넷에 접속할 수 없으며, 수십억 명은 매우 정밀한 프롬프트 없이는 생성형 AI가 그들의 기여를 제대로 활용하기에는 데이터 흔적이 충분히 쌓이지 않은 상태입니다. 어떤 이들은 이것이 바로 우리 세상의 현실이라고 주장할 수도 있으며, 그 말에도 일리가 있습니다. 하지만 이것이 바로 AI가 지닌 잠재력이자 위험이기도 하므로, 우리는 현재 세상의 한계와 편향을 그대로 받아들여서는 안 됩니다. 실제로, AI 교육이 모든 사람에게 도움이 되려면 우리는 더 많은 노력을 기울여야 합니다.

내년이 되면, 우리는 15분마다 지금까지 생성된 전체 데이터보다 더 많은 데이터를 생산하게 될 것으로 추정됩니다. 이 데이터 중 일부는 인간이 생성한 것이겠지만, 상당 부분은 AI의 ‘자기 복제’(대규모 언어 모델(LLM)이 인간의 질문에 답할 때 생성되는 데이터)에서 비롯될 것입니다. 만약 편향을 바로잡기 위한 조치를 취하지 않는다면, 이는 여성과 소수 집단을 더욱 주변화시킬 것입니다.

우리는 역사에서 교훈을 얻지 못한다는 말이 자주 나오는데, 이는 독일 철학자 게오르크 헤겔의 말로 알려져 있다. 하지만 “승자에게 전리품이 돌아간다”는 관행을 피하고자 한다면 우리는 더 많은 노력을 기울여야 한다. 그렇지 않으면 데이터를 거의 또는 전혀 생성하지 못한 공동체들은 소외당하게 될 것이며, 자신들의 경험을 반영하지 못하는 데이터 세트만을 통해 배워야만 할 처지에 놓이게 될 것이다.

교육 분야에서 개인과 지역사회의 요구를 진정으로 충족시키기 위해서는 AI를 설계하고 개발하며 활용하는 데 각별한 주의를 기울여야 합니다. AI를 책임감 있게 사용하는 것만이 우리 모두가 AI가 가져다줄 수 있는 모든 혜택을 누리며 함께 발전해 나갈 수 있는 유일한 길입니다.