Инженер Microsoft выразил обеспокоенность по поводу создания инструментом искусственного интеллекта изображений насилия и сексуального характера

Инженер Microsoft забил тревогу по поводу генератора изображений на основе искусственного интеллекта компании, предупредив о его склонности к созданию контента, содержащего сцены насилия и сексуального характера, при этом игнорируя законы об авторском праве. Шейн Джонс, ведущий менеджер по разработке программного обеспечения в Microsoft, активно тестировал продукт, известный как Copilot Designer, в свободное время. Его выводы, включающие тревожные изображения, такие как демоны, наряду с темами права на аборт, употребления алкоголя несовершеннолетними и наркотиков, побудили его передать дело вышестоящему руководству.

Обеспокоенность Джонса и предпринятые им действия

Джонс, проработавший в Microsoft шесть лет, начал тестировать Copilot Designer в рамках своей работы в качестве специалиста по тестированию на проникновение (red teamer), которому было порученоdentуязвимости в технологиях искусственного интеллекта. Обеспокоенный изображениями, созданными инструментом, которые он счел небезопасными и потенциально опасными, Джонс сообщил о своих выводах в Microsoft, но компания неохотно приняла решительные меры. Несмотря на его попытки выразить обеспокоенность, включая публикацию открытого письма в LinkedIn и обращение к сенаторам США, Джонс почувствовал себя вынужденным поднять этот вопрос на более высокий уровень.

Обращение к председателю Федеральной торговой комиссии и совету директоров Microsoft

В попытке решить продолжающиеся проблемы с Copilot Designer, Джонс направил письма председателю Федеральной торговой комиссии Лине Хан и совету директоров Microsoft. Он призвал ФТК расследовать это дело и потребовал от Microsoft внести изменения, такие как добавление информации о раскрытии данных в продукт и корректировка рейтинга приложения в соответствии с контентом для взрослых. Джонс также попросил совет директоров Microsoft инициироватьdent проверку процессов компании по ответственному информированию обdent , связанных с искусственным интеллектом.

Обеспокоенность по поводу генеративного ИИ и отсутствия контроля

Действия Джонса подчеркивают более широкие опасения по поводу отсутствия надзора за технологиями генеративного искусственного интеллекта. Учитывая потенциальную возможность широкого распространения вредоносного контента, особенно в контексте предстоящих выборов, Джонс подчеркивает острую необходимость в более строгих мерах защиты. Он отмечает, что команда Copilot ежедневно получает множество отзывов о продукте, что указывает на значительные трудности в оперативном решении всех проблем.

Нарушение авторских прав и проблемы с содержанием

Помимо создания изображений, содержащих насилие и сексуальный подтекст, Copilot Designer также вызывает опасения по поводу нарушения авторских прав. Было замечено, что инструмент генерирует изображения с персонажами, защищенными авторским правом, такими как Эльза из Disney и персонажи из «Звездных войн», что потенциально нарушает как законы об авторском праве, так и политику Microsoft. Джонс подчеркивает, что проблема выходит за рамки нарушений авторских прав, указывая на более широкие последствия распространения вредных и тревожных изображений по всему миру.

Усилия Шейна Джонса по решению проблем, связанных с генератором изображений на основе ИИ от Microsoft, подчеркивают растущую необходимость в надежном надзоре и регулировании в области генеративного ИИ. Его действия служат призывом к действию как для регулирующих органов, так и для технологических компаний, чтобы они уделяли приоритетное внимание безопасности и этичному использованию технологий ИИ.