Правительство Индии требует от X исправить Grok из-за непристойного контента, созданного ИИ

Правительство Индии обязало принадлежащую Илону Маску платформу для ведения блогов X внести изменения в свой чат-бот Grok, использующий искусственный интеллект, из-за непристойного контента, созданного ИИ. Страна требует от платформы немедленно внести технические и процедурные изменения в чат-бот после того, как пользователи и законодатели сообщили о нескольких случаях непристойного контента.

По данным властей страны, зафиксированы случаи чат-бота для создания непристойных изображений, включая изображения женщин, обработанные искусственным интеллектом с помощью этого инструмента. В пятницу Министерство информационных технологий Индии издало распоряжение, требующее от платформы принять меры по исправлению ситуации с Grok, включая ограничение создания контента, содержащего «обнаженность, сексуализацию, материалы сексуального характера или иные противоправные материалы». Министерство также дало платформе 72-часовой ультиматум на внесение изменений.

Правительство Индии обязало компанию X внести технические изменения в проект Grok

В рамках выполнения требований 72-часового ультиматума министерство также потребовало от X представить отчет о принятых мерах, подробно описывающий шаги, предпринятые для предотвращения размещения или распространения непристойного контента. К такому контенту относятся «непристойные, порнографические, вульгарные, непристойные, содержащие сексуальные намеки, педофильные или иные материалы, запрещенные законом». В распоряжении содержится предупреждение о том, что если платформа не выполнит обязательные меры, это может поставить под угрозу ее защиту в рамках «безопасной гавани».

Распоряжение Индии последовало на фоне опасений пользователей, которые поделились примерами того, как Grok изменяет изображения людей, в основном женщин, чтобы они выглядели так, будто одеты в бикини. Проблема возникла после официальной жалобы, поданной индийским парламентарием Приянкой Чатурведи. Чатурведи предостерегла все крупные компании, использующие чат-боты с искусственным интеллектом, добавив, что необходимо установить механизмы контроля для таких функций, как Grok, чтобы чат-бот не нарушал человеческое достоинство.

Отдельно пользователи также сообщили о несколькихdent, когда чат-бот с искусственным интеллектом использовался для создания изображений сексуального характера с участием несовершеннолетних, проблему, которую X признала в пятницу. Платформа заявила, что это было вызвано некоторыми недостатками в системе безопасности, после чего оперативно удалила созданные изображения. Платформа также призвала пользователей сообщать об этом в Федеральное бюро расследований (ФБР) или на горячую линию NCMEC CyberTipline, отметив, что X стремится предотвращать подобные проблемы.

X может столкнуться с юридическими проблемами за несоблюдение требований

По словам пользователей, непристойные изображения женщин, созданные с помощью чат-бота, остались на платформе. Последнее распоряжение последовало после того, как министерство информационных технологий Индии выпустило рекомендацию для социальных сетей, напомнив им, что соблюдение местных законов, регулирующих непристойный и откровенно сексуальный контент, является необходимым условием для сохранения юридической неприкосновенности от ответственности за материалы, созданные пользователями. Страна призвала компании улучшить меры защиты и предупредила, что несоблюдение этих мер может повлечь за собой судебные иски.

«Подчеркивается, что несоблюдение вышеуказанных требований будет рассматриваться как серьезное нарушение и может повлечь за собой строгие юридические последствия для вашей платформы, ее ответственных должностных лиц и пользователей платформы, нарушающих закон, без предварительного уведомления», — предупреждается в приказе. Правительство Индии также предупредило X, что в случае несоблюдения его директивы страна имеет право возбудить против платформы судебное дело в соответствии с индийским законодательством об информационных технологиях и уголовным законодательством.

Индия стала одним из крупнейших цифровых рынков, и страна рассматривается как важный пример того, насколько далеко правительства готовы зайти, чтобы привлечь платформы к ответственности за контент, созданный с помощью ИИ. Если в стране ужесточат контроль, это может иметь ripple эффект для глобальных технологических компаний, работающих в других юрисдикциях. Этот указ также издан на фоне того, что компания X продолжает оспаривать в суде правила регулирования контента в Индии.

Платформа утверждает, что полномочия федерального правительства по удалению контента рискуют быть чрезмерными, даже несмотря на то, что платформа выполнила большинство директив по блокировке, выдвинутых страной. В то же время Grok оказался полезен пользователям X, большинство из которых используют платформу для проверки фактов в режиме реального времени и комментариев к глобальным событиям, что делает его результаты более заметными и политически более чувствительными, чем результаты отдельных инструментов искусственного интеллекта.