Искусственный интеллект в образовании: баланс между инновациями и конфиденциальностью

По мере того как школы все чаще внедряют искусственный интеллект (ИИ) в учебный процесс, руководители штатов и местных органов власти сталкиваются с проблемой защиты конфиденциальностиdent , что усугубляется отсутствием всеобъемлющих федеральных руководящих принципов. Быстрое внедрение инструментов ИИ в систему образования K-12, стимулированное интересом коммерческого сектора, вызвало серьезные опасения относительно безопасности и конфиденциальности данныхdent .

Как ориентироваться в лабиринте конфиденциальности

В отсутствие существенной федеральной поддержки многие штаты берут на себя инициативу в разработке руководящих принципов и политики внедрения ИИ в школах. Например, школьные округа Аризоны тщательно проверяют поставщиков технологий, чтобы предотвратить неправомерное использование данныхdent в рекламных целях. Аналогичным образом, школы в Западной Вирджинии и Монтане с осторожностью внедряют системы распознавания лиц, несмотря на известные неточности, особенно в отношении женщин и детей. 

Необходимость внедрения ИИ в образование, усугубленная пандемией COVID-19, обострила эти опасения по поводу конфиденциальности. В этот период многие образовательные учреждения перешли на технологии дистанционного обучения, непреднамеренно подвергаяdentпотенциальным рискам нарушения конфиденциальности данных. Это привело к усилению контроля со стороны Федеральной торговой комиссии (FTC), которая активно следит за соблюдением Закона о защите конфиденциальности детей в Интернете (COPPA).

Государства возглавляют разработку политики в области ИИ в образовании

Правительства штатов играют ключевую роль в оказании помощи школам в сложном процессе внедрения ИИ. Например, Орегон предоставляет контрольные списки и ресурсы для разработки политики в отношении ИИ, а Калифорния инструктирует школы по интеграции ИИ таким образом, чтобы приоритетом была безопасностьdent . Ожидается, что Миссисипи вскоре опубликует свои собственные рекомендации, а Аризона формирует комитет для выработки рекомендаций по внедрению и мониторингу технологий ИИ в образовательных учреждениях. Эти усилия жизненно важны для баланса между возможностями, которые ИИ предоставляет в образовании, и рисками, связанными с конфиденциальностью данных, предвзятостью и равенством.

Реакция федеральных властей и опасения родителей

На федеральном уровне указdent Джо Байдена об искусственном интеллекте обязывает Министерство образования разработать ресурсы, направленные на обеспечение недискриминационного использования ИИ в образовании. Это включает в себя готовящийся к выпуску «набор инструментов по ИИ», призванный помочь школам в реализации политики, уделяя особое внимание вопросам доверия, безопасности и соблюдению законов о конфиденциальности.

Родители также все больше обеспокоены конфиденциальностью данных своих детей. Значительный процент родителей сообщает, что их школы или округа не запрашивали их мнение о том, как ответственно и безопасно использовать данныеdent . Этот пробел подчеркивает необходимость более активного участия родителей в диалоге об использовании ИИ в образовании.

Интеграция ИИ в образование представляет собой сложное сочетание возможностей и проблем. Хотя ИИ может предложить персонализированный опыт обучения и инновационные инструменты преподавания, необходимо соблюдать баланс со строгими мерами по защите конфиденциальностиdent и безопасности данных. Меняющаяся ситуация требует совместного подхода, включающего федеральные рекомендации, руководство на уровне штатов и участие родителей, чтобы обеспечить ответственное и этичное использование преимуществ ИИ в образовательном секторе.