기술 기업들의 교육 분야 책임 있는 AI 약속

이번 여름 백악관은 주요 기술 기업 7곳이 인공지능(AI)의 책임 있는 개발을 위해 상당한 약속을 하도록 설득하는 데 성공했습니다. 이 노력은 9월 초 추가 8개 기업이 이 이니셔티브에 합류하면서 더욱 강화되었습니다.

그들의 집단적 약속 은 특히 편향성과 개인정보 보호 문제와 같은 쟁점들을 해결함으로써 AI의 사회적 영향을 연구하겠다는 약속을 중심으로 합니다. 이 발전은 AI가 교육과 학습을 혁신할 잠재력을 가진 K-12 교육 맥락에서 특히 중요합니다. 그러나 이러한 약속과 함께 교육 환경에서 AI의 책임 있는 사용을 보장하기 위한 입법 규제의 필요성이 대두됩니다.

교육 분야의 AI는 특히 음성 인식 기술과 같은 분야에서 막대한 가능성을 지니고 있습니다. 이 기술은 학생들이 읽기, 철자법, 언어 능력 평가와 같은 작업을 위해 음성을 사용하고 실시간 피드백을 받을 수 있게 함으로써 교실을 변화시킬 수 있습니다. 이러한 상호작용에서 생성된 데이터는 수업 계획과 지도를 맞춤화하는 데 교육자에게 귀중한 자원이 될 수 있습니다. 그러나 동일한 AI 도구는 오늘날 교실에서 발견되는 다양한 발화 패턴과 방언을 고려하지 않을 때 기존 불평등을 악화시킬 수 있습니다.

투명성과 책임성의 필요성

교육 분야의 AI가 모든 학생에게 혜택을 주기 위해서는 AI 도구 개발 과정의 투명성이 필수적입니다. 이러한 투명성은 도구의 설계와 기능뿐만 아니라 학습에 사용되는 데이터셋까지 포괄해야 합니다. 학생들의 다양성을 반영하는 대표성 있는 데이터셋이 없으면, AI 기반 교육 도구는 학생들의 발언을 오해하거나 잘못 해석할 위험이 있으며, 이는 지식 평가의 부정확성으로 이어질 수 있습니다.

이러한 과제에 대응하려면 정책 입안자, 교육 

지도자, 그리고 기술 개발자가 협력해야 합니다. 정책 입안자는 AI의 정확성과 형평성에 대한 높은 기준을 설정하고 개인 데이터와 프라이버시를 보호하는 정책을 수립하고 시행하는 데 우선순위를 두어야 합니다.

규제 프레임워크 부재 속에서의 행동

규제가 혁신을 뒤따랐던 이전의 일부 기술 발전과 달리, 교육 분야의 AI는 선제적인 접근이 시급합니다. 교육 리더들은 포괄적인 입법이 시행되기를 기다릴 수 없습니다. 대신 AI 기반 교육 기술 사용에 대한 자체 가이드라인을 설정해야 합니다. 이는 먼저 EdTech 기업들이 AI 기반 도구의 학습 데이터셋 인구통계학적 구성과 편향 완화 노력 등 중요한 질문에 대해 명확한 답변을 제공하는 것에서 시작됩니다.

지구 리더들은 강력한 안전 장치를 갖춘 기술 도입을 고려해야 합니다. 비영리 단체인 EdTech Equity Project는 지구 리더들을 위한 조달 가이드를 제공하며, 여기에는 AI 기반 EdTech 솔루션을 평가하기 위한 평가지가 포함되어 있습니다. EdTech 기업들은 교실에 도입하기 전에 AI 도구가 정확하고 편향되지 않았는지 확인해야 합니다. 이는 다양한 학생 인구통계학적 특성에 걸쳐 접근성과 포용성을 보장하기 위한 지속적인 테스트와 평가를 포함합니다.

AI의 편향에 대한 독립적인 평가는 AI를 사용하는 EdTech 기업들에게 중요한 표준으로 인정받고 있습니다. Digital Promise와 같은 조직은 AI 기반 도구가 편향에서 자유롭도록 평가하기 위한 인증을 제공합니다. 이러한 노력들은 집단적으로 주관적 판단을 최소화하고 모든 배경의 학생들에게 공평한 기회를 제공하는 새로운 세대의 AI 기반 교육 도구를 만들어냅니다.

AI 기반 도구를 통한 교육의 형평성

이러한 이니셔티브의 궁극적인 목표는 인간의 편향을 줄이고, 교육자를 가르침에 지원하며, 학생들의 개별 학습 수준에 맞춰지는 AI 기반 교육 도구를 만드는 것입니다. 이러한 도구는 교육의 평등을 실현하여 모든 아이들에게 공평한 기회를 제공할 잠재력을 지니고 있습니다. AI와 이를 둘러싼 입법이 계속 진화함에 따라, 이 기술의 미래에 대한 불확실성을 인지하는 것이 중요합니다.