ネバダ高校は、他のdentが AI を使用して作成したソーシャル メディア上でのdentの露骨な写真の蔓延に取り組んでいます。
被害者の親たちは無力に見える
ネバダ州ストーリー郡保安官事務所は現在、状況を調査している。 しかし、AIで生成された露骨な写真の作成と拡散に関する事項について州法がまだ明確になっていないため、捜査当局はできることはほとんどないと述べたとKCCIは報じた。
「私たちの娘たちが犠牲になっています。 そしてそれについて私たちにできることは何もないようです」と、影響を受けたdentの一人の親であるチャド・ボーウィックは語った。
「自分の子供たちにこんなことが起こってほしくないでしょう。 彼らがより良くなってほしいと願っているのです」と、被害者のもう一人の親であるアイダ・ナディは語った。 「彼らは、自分たちの声が重要ではないのと同じように、自分たちも重要ではないと感じるでしょう。」
この状況は、AI が人々を傷つけるためにどのように使用されるかを示す明らかな例となっています。 AIは文章や画像の作成には優れているものの、悪用される可能性があるため、AI企業による安全対策、特に違反者を罰する法律の整備を加速する必要がある。
少なくともアイオワ州では、クリス・クールノワイエ上院議員(共和党、ルクレア)が提案した法案が7月1日までに発効する予定である。この法律は、州内で未成年者の全身または部分的なヌード写真を作成し、配布することを重罪とする。ネバダ州をカバーします。
Google、Meta、OpenAIなどが児童虐待に対するモデルの見直しに合意
大手テクノロジー企業も、AIで作られた児童虐待画像の増加を抑制する動きを始めている。 とりわけ、Google、Meta、OpenAI、Microsoft、Amazon は、AI によって生成された児童性的虐待素材やその他の児童に対する性的危害の作成と拡散に対して自社のモデルを見直すことに同意しました。
この動きは、オンラインでの児童性的虐待の割合が全般的に過去最高を記録している中で行われた。 実際、 Internet Watch Foundation によると。
英国に本拠を置く同団体は、3歳から6歳の子供の数千枚の画像やビデオが現在、オープンなインターネット上で発見されていると述べた。