AIが学校でLGBTQ+学生を危険にさらす、新しい研究が明らかに

民主主義と技術センター（Center for Democracy and Technology）が最近発表したレポートでは、学校における人工知能（AI）が、特にLGBTQ+、障害者、または有色人種の学生といった脆弱な学生に与える影響について懸念が提起されました。学生、保護者、教師を対象としたこの研究は、教育現場で使用されるAI搭載技術の意図しない結果に光を当てています。

脆弱な学生へのリスク

民主主義と技術センターの研究では、露骨な成人コンテンツをブロックし、自傷または他害のリスクがある学生を特定するために設計された技術が、すでに脆弱な学生を危険にさらしていることがわかりました。特にLGBTQ+学生は、ストレートでシスジェンダーの同級生と比較して、学生活動監視を通じてオンライン活動に対して否定的な影響を受けやすい傾向があります。

同意のないカミングアウト：驚くべきことに、LGBTQ+学生の29%が、自分自身または他の学生がLGBTQ+であるとカミングアウトされた経験があると報告しました。これはトラウマを引き起こす可能性のある出来事です。この発見は、学校におけるAI監視に関連する重大なプライバシー懸念を浮き彫りにしています。

不均衡な懲戒：研究では、調査されたLGBTQ+学生の50%が、自分自身または他の学生がオンライン活動で懲戒された経験があると報告しました。これに対し、非LGBTQ+学生の割合は39%でした。この不均衡な懲戒処置は、公平性と平等性について疑問を投げかけます。

学生活動監視の蔓延

学生活動監視は教育機関で広範に行われており、教師のほぼ88%が学校提供のデバイスでの使用を報告しました。さらに、教師の40%が学校が学生の個人デバイスまで監視していると示しました。この監視は学校時間を超えており、教師の38%が学校日外の監視活動を行っていることを報告しました。

デジタル書籍禁止：LGBTQ+および人種関連コンテンツの制限

レポートでは、インタビューされた教師の3分の1が、AIコンテンツフィルターがLGBTQ+トピックや人種を探求するコンテンツを不均衡に制限することに懸念を表明していることも強調しています。この制限は「デジタル書籍禁止」に例えられ、検閲と多様な視点へのアクセスに関する懸念を提起しています。

教育と意識向上への呼びかけ

研究の顕著な発見の一つは、保護者、学生、教師の間でAIの教室での役割について「広範な混乱」があることです。多くの利害関係者は、AI技術を適切に使用する方法に関するより多くの情報とトレーニングを望んでいます。残念ながら、ホワイトハウスが2022年にAI権利の青写真（Blueprint for an AI Bill of Rights）をリリースしたにもかかわらず、最新の調査では教師の57%がAIに関する実質的なトレーニングを受けていないことが明らかになりました。

持続する懸念

この最近のレポートは、民主主義と技術センターが2022年の研究論文「Hidden Harms: Targeting LGBTQ+ Students」で以前に提起した懸念を反映していることに注意することが重要です。その研究では、学校で使用されるアルゴリズムが、学生のメッセージや文書内の「gay」や「lesbian」といった単語を自動的にフラグ付け、同意なくカミングアウトさせる可能性がありました。

保護の必要性

民主主義と技術センターの市民技術における公平性ディレクターであるElizabeth Laird氏は、特定の学生のグループは既存の市民権法によってすでに保護されるべきであると強調しました。しかし、彼らは教育データと技術の使用により、不均衡で否定的な影響を受け続けています。差別やその他の害を防ぐために、学校がこれらの技術をどのように使用するかについて、より意図的であることが明確に必要とされています。

変革を提唱する

ACLU、アメリカ学校図書館協会、アメリカ図書館協会、障害者教育擁護基金、電子フロンティア財団を含む市民権団体は、学校における生成AIの台頭を踏まえ、教育関連の保護措置を支持する書簡に署名しました。AI技術が責任を持って使用され、脆弱な学生に害を与えないようにすることがいかに重要であるかは、強調しすぎることできません。

学校におけるAIの統合は多くの利点をもたらしますが、特に脆弱な学生にとって重大な懸念事項も生み出しています。教育機関、政策立案者、テクノロジー提供者が協力してこれらの課題に対処し、AI技術がすべての学生の公平性、包摂性、そして幸福を促進する方法で活用されることを確保することが不可欠です。