Технологические компании обязуются ответственно использовать ИИ в образовании

В ходе значимого шага этим летом Белый дом успешно убедил семь крупных технологических компаний принять существенные обязательства по ответственному развитию искусственного интеллекта (ИИ). Эти усилия были дополнительно усилены в начале сентября, когда к инициативе присоединились еще восемь компаний.

Их коллективный обет вращается вокруг обязательства исследовать социальные последствия ИИ, особенно в решении таких проблем, как предвзятость и вопросы конфиденциальности. Это развитие особенно важно в контексте образования K-12, где ИИ имеет потенциал революционизировать преподавание и обучение. Однако вместе с этим обещанием возникает необходимость законодательного регулирования для обеспечения ответственного использования ИИ в образовательной среде.

ИИ в образовании обладает огромным потенциалом, особенно в таких областях, как технологии распознавания речи. Эта технология может трансформировать классную комнату, позволив студентам использовать свой голос для таких задач, как чтение, правописание или оценка языковых навыков, получая обратную связь в реальном времени. Данные, генерируемые в ходе этих взаимодействий, могут быть бесценными для преподавателей при адаптации учебных планов и инструкций. Однако те же самые инструменты ИИ могут усугубить существующее неравенство, особенно если они не учитывают разнообразные речевые паттерны и диалекты, присутствующие в современных классах.

Необходимость прозрачности и подотчетности

Чтобы гарантировать, что ИИ в образовании приносит пользу всем студентам, существует острая необходимость в прозрачности при разработке инструментов ИИ. Эта прозрачность должна охватывать не только дизайн и функционирование этих инструментов, но и наборы данных, используемые для их обучения. Без репрезентативного набора данных, отражающего разнообразие голосов студентов, инструменты ИИ для образования рискуют неправильно понять и интерпретировать то, что говорят студенты, что потенциально может привести к неточным оценкам их знаний.

Решение этих проблем требует совместных усилий политиков, образовательных 

лидеров и разработчиков технологий. Политики должны уделять приоритетное внимание разработке и принятию политик, которые устанавливают высокие стандарты точности и справедливости ИИ, одновременно защищая личные данные и конфиденциальность.

Принятие мер в отсутствие регуляторных рамок

В отличие от некоторых предыдущих технологических достижений, где регулирование отставало от инноваций, срочность внедрения ИИ в образовании требует проактивного подхода. Лидеры в сфере образования не могут ждать принятия всеобъемлющего законодательства. Вместо этого они должны устанавливать собственные руководящие принципы использования образовательных технологий на базе ИИ. Это начинается с того, что компании EdTech предоставляют четкие ответы на ключевые вопросы относительно своих инструментов на базе ИИ, таких как демографический состав их обучающих наборов данных и их усилия по снижению предвзятости.

Руководители школьных округов должны рассмотреть возможность внедрения технологий, демонстрирующих надежные механизмы защиты. EdTech Equity Project, некоммерческая организация, предлагает руководство по закупкам для руководителей округов, включая рубрику для оценки решений EdTech на базе ИИ. Компании EdTech также должны гарантировать, что их инструменты ИИ точны и лишены предвзятости, прежде чем внедрять их в классы. Это включает непрерывное тестирование и оценку для обеспечения доступности и инклюзивности для различных демографических групп студентов.

Независимая оценка предвзятости в ИИ получает признание как важный стандарт для компаний EdTech, использующих ИИ. Организации, такие как Digital Promise, предоставляют сертификаты для оценки инструментов на базе ИИ, гарантируя, что они свободны от предвзятости. Эти усилия в совокупности способствуют появлению нового поколения образовательных инструментов на базе ИИ, которые минимизируют субъективные суждения и обеспечивают равные возможности для студентов всех слоев населения.

Равенство в образовании через инструменты на базе ИИ

Конечная цель этих инициатив — создание образовательных инструментов на базе ИИ, которые снижают человеческую предвзятость, поддерживают преподавателей в их преподавании и соответствуют индивидуальным уровням обучения студентов. Такие инструменты имеют потенциал выровнять образовательное поле, предоставляя равные возможности для всех детей. По мере развития ИИ и сопутствующего законодательства, важно признавать неопределенность, окружающую будущее этой технологии.