Дилемма Microsoft в отношении ИИ: безопасно, но создает тревожные изображения?

В результате шокирующего разоблачения искусственный интеллект Microsoft, рекламируемый как безопасный и интегрированный в повседневное программное обеспечение, оказался под пристальным вниманием из-за создания ужасающих и жестоких изображений. Обеспокоенность вызывает Image Creator, часть поисковой системы Bing от Microsoft, недавно добавленная в широко используемую программу Windows Paint. Технология, известная как DALL-E 3 от партнера Microsoft, компании OpenAI, теперь сталкивается с вопросами о своей безопасности и ответственности создателей.

Microsoft против «подсказки завершения»

Тревожные изображения были обнародованы Джошем Макдаффи, канадским художником, участвующим в онлайн-сообществе, изучающем возможности искусственного интеллекта в создании провокационных и порой безвкусных изображений. В октябре Макдаффи и его коллеги сосредоточились на искусственном интеллекте Microsoft, в частности на инструменте Image Creator для Bing, использующем новейшие технологии OpenAI. Microsoft утверждает, что у них есть механизмы контроля для предотвращения создания вредоносных изображений, но Макдаффи обнаружил существенные лазейки.

Microsoft использует две стратегии для предотвращения создания вредоносных изображений: входную, включающую обучение ИИ с использованием данных из интернета, и выходную, создающую механизмы защиты, предотвращающие генерацию определенного контента. Макдаффи в ходе экспериментов обнаружил особый сигнал, названный «сигналом блокировки», который позволял ИИ создавать изображения насилия. Это вызвало опасения по поводу эффективности мер безопасности Microsoft.

Несмотря на попытки Макдаффи привлечь внимание к проблеме через программу Microsoft по поиску уязвимостей в ИИ, его заявки были отклонены, что вызвало вопросы о реакции компании на потенциальные уязвимости безопасности. В письмах об отказе указывалось на несоответствие требованиям Microsoft к уязвимостям безопасности, что деморализовало Макдаффи и подчеркнуло потенциальные недостатки системы.

Microsoft допускает ошибки в контроле за использованием ИИ

Несмотря на запуск программы вознаграждения за обнаружение ошибок в ИИ, реакция Microsoft на выводы Макдаффи оказалась далеко не удовлетворительной. Отклонение запросов на «завершение работы» и бездействие в отношении поступивших жалоб подчеркнули потенциальное пренебрежение срочностью проблемы. Между тем, ИИ продолжал генерировать тревожные изображения даже после внесения некоторых изменений в первоначальный запрос Макдаффи.

Отсутствие конкретных действий со стороны Microsoft вызывает опасения по поводу приверженности компании ответственному развитию ИИ. Сравнения с другими конкурентами в сфере ИИ, включая OpenAI, частично принадлежащую Microsoft, выявляют различия в подходах разных компаний к решению схожих проблем. Неоднократные неудачи Microsoft в решении этой проблемы указывают на потенциальный пробел в приоритетах мер по защите ИИ, несмотря на публичные заявления о приверженности ответственному развитию ИИ.

Модель этичной разработки ИИ

Нежелание Microsoft принимать быстрые и эффективные меры свидетельствует о тревожных сигналах в подходе компании к безопасности ИИ. Эксперименты Макдаффи с «запросом на отключение» показали, что другие конкуренты в области ИИ, включая небольшие стартапы, отказались генерировать вредоносные изображения на основе аналогичных запросов. Даже OpenAI, партнер Microsoft, внедрила меры по блокировке запроса Макдаффи, подчеркнув необходимость надежных механизмов безопасности.

Аргумент Microsoft о том, что пользователи пытаются использовать ИИ «не по назначению», перекладывает ответственность на отдельных лиц, вместо того чтобы признать потенциальные недостатки технологии. Сравнение с Photoshop и утверждение о том, что пользователям следует воздерживаться от создания вредоносного контента, повторяют тенденцию, наблюдавшуюся в прошлом, и напоминают о попытках социальных сетей бороться со злоупотреблениями своими технологиями.

Пока Microsoft борется с последствиями создания тревожных изображений с помощью своего ИИ, остается вопрос: достаточно ли компания делает для обеспечения ответственного использования своих технологий? Очевидное нежелание оперативно и эффективно решать эту проблему вызывает опасения по поводу ответственности и приоритетности мер по защите ИИ. По мере того, как общество осваивает постоянно меняющийся ландшафт искусственного интеллекта, ответственность за этичное и безопасное внедрение ИИ лежит не только на пользователях, но и на технологических гигантах. Как Microsoft может преодолеть разрыв между инновациями и ответственностью в сфере искусственного интеллекта?