EdSAFE AI 얼라이언스는 교육 단체, 교육 기관, 연구 및 표준 기구로 구성된 글로벌 연합체로, AI 혁신을 바탕으로 더 안전하고, 더 공정하며, 더 신뢰할 수 있는 교육 생태계를 구축하는 것을 사명으로 삼고 있습니다. 베스 하빙가(Beth Havinga) 전무이사는 이 얼라이언스가 발표한 글로벌 서약의 중요성과 교육자 및 정책 입안자들이 이에 서명해야 하는 이유를 설명합니다.

“다른 모든 사람들과 마찬가지로 저도 AI가 가져올 가능성에 큰 기대를 걸고 있습니다. 다만 AI가 안전하게 활용될 수 있도록 보장해야 합니다.” 베스는 베트(Bett)에 이같이 말했다. “이 분야를 위해 에드테크(EdTech) 업계 최고의 인재들이 힘을 쏟고 있지만, 기술 발전 속도는 어지러울 정도로 빠릅니다. 지난 11월 이후로 우리는 실제 상황이 발생하기 직전에 위협 요소를 파악하며, 항상 약 1주 반 정도 앞서 대응해 왔습니다.”

이 연합은 서명국들이 해결하기로 약속한 10가지 우려 사항을 제시했다. 여기에는 다음이 포함된다:

1. 시스템의 투명성

솔루션 제공업체는 자사의 AI 시스템이 어떻게 학습하거나 훈련되는지 설명해야 합니다. 그래야만 AI 도구를 안전하게 사용할 수 있습니다.

2. 데이터 사용량

솔루션 제공업체는 AI 도구가 어떻게 만들어지는지 이해할 뿐만 아니라, 해당 도구가 데이터를 어떻게 활용하는지, 그리고 그 데이터가 어떤 용도로 사용되는지에 대해서도 투명하게 공개해야 합니다.

3. 사전 동의

데이터 이용 약관이 마련되어 있어야 합니다. 특히 미성년자와 관련된 모든 동의 절차는 접근성이 보장되고 명확해야 합니다.

4. 개인정보 보호

AI의 학습 방식상, AI에게 제공한 정보를 절대 삭제할 수 없습니다(이로 인해 GDPR 법규를 준수하는 것이 불가능해집니다). 이러한 맥락에서 개인정보 보호는 물론, 사용자의 정정권을 보장하기 위한 적절한 조치와 절차 역시 핵심적인 관심사입니다.

5. 안전 및 보안

AI 도구가 아무리 무해해 보일지라도 보안은 최우선으로 고려해야 할 사항입니다. 개인 데이터의 기밀성을 보장하기 위해서는 시스템이 외부 위협에 견딜 수 있어야 합니다.

6. 편향과 학습의 한계

특정 사용자 유형이나 집단에 대한 (의도적이든 아니든) 편향이나 한계를 파악하고, 평가하며, 완화하기 위해서는 솔루션 제공업체와 사용자가 각별히 주의를 기울여야 합니다. 남용을 방지하기 위해서는 설계 단계부터 포용성을 중시하고, 차별 없는 관행, 공정성 및 형평성에 중점을 둔 프로세스가 필요합니다.

7. 책임성

책임과 의무의 범위가 명확히 규정되어야만, 위반 사항이 발생했을 때 이를 시정할 수 있는 명확한 절차가 마련될 수 있습니다.

8. 휴먼-인-더-루프

기계에 모든 것을 맡겨둘 수는 없습니다. 교육 및 학습 환경에서 AI를 활용할 때는 윤리적이고 인간 중심의 사용을 보장하기 위해 핵심적인 결정과 행동에 대한 인간의 감독이 필수적입니다.

9. 검증 가능성

또한 내부 AI 지표 등을 포함하여 AI 시스템과 사용자(특히 미성년자) 간의 상호작용을 검토하기 위해서는 사람의 감독이 필요합니다.

10. 이해관계자의 지지

학습 환경에서 인공지능(AI)이 가져다주는 기회와 과제를 더 깊이 이해하기 위해서는 교육자, 학습자, 그리고 더 넓은 교육계가 교육 문제의 파악과 해결책 마련에 함께 참여해야 합니다.

이 모든 것이 걱정거리가 많게 들릴 수도 있겠지만, 실제로도 그렇습니다. 하지만 AI가 제공하는 막대한 혜택을 안전하게 누리려면 이 과정을 피할 수 없습니다. 베스는 일부 지역에서는 규제 당국이 뒤처지지 않도록 잠시 멈춤 버튼을 누르는 것이 타당할 수도 있지만, 일부 관할 구역에서 선택한 것처럼 기술을 아예 금지해서는 안 된다고 말합니다.

EdSAFE AI Alliance는 정책 입안자, 교육자, 학습 도구 및 시스템 제공업체, 연구자 등 모든 이해관계자들이 이곳에서확인할 수 있는 서약서에 서명할 것을 촉구하고 있습니다 .이 서약서에 담긴 고려 사항은 국가, 지역 및 국제 당국이 일반적인 지침을 수립하는 데 도움이 될 뿐만 아니라, 개별 기관과 교사들이 각자의 환경에 대한 책임을 다하기 위해 무엇을 고려해야 하는지 인식하는 데에도 기여할 것입니다.

에드테크(EdTech) 분야에 대한 더 많은 정보를 얻고, Bett와 관련된 모든 소식을 최신으로 받아보시려면 여기에서 뉴스레터를 구독해 주세요.