Дилемма Microsoft в отношении ИИ: безопасно, но создает тревожные изображения?
- Искусственный интеллект Microsoft, интегрированный в популярное программное обеспечение, такое как Windows, генерирует тревожные и жестокие изображения, что вызывает опасения по поводу безопасности.
- Искусственный интеллект, в частности, используемый в Image Creator, обвиняется в том, что он позволяет создавать «дипфейк»-изображения, включая обезглавливания и сцены насилия в отношении различных групп населения.
- Несмотря на заявления о мерах безопасности, Microsoft, похоже, перекладывает вину на пользователей, подчеркивая потенциальную безответственность за непреднамеренное использование своего ИИ.
В результате шокирующего разоблачения искусственный интеллект Microsoft, рекламируемый как безопасный и интегрированный в повседневное программное обеспечение, оказался под пристальным вниманием из-за создания ужасающих и жестоких изображений. Обеспокоенность вызывает Image Creator, часть поисковой системы Bing от Microsoft, недавно добавленная в широко используемую программу Windows Paint. Технология, известная как DALL-E 3 от партнера Microsoft, компании OpenAI, теперь сталкивается с вопросами о своей безопасности и ответственности создателей.
Microsoft против «подсказки завершения»
Тревожные изображения были обнародованы Джошем Макдаффи, канадским художником, участвующим в онлайн-сообществе, изучающем возможности искусственного интеллекта в создании провокационных и порой безвкусных изображений. В октябре Макдаффи и его коллеги сосредоточились на искусственном интеллекте Microsoft, в частности на инструменте Image Creator для Bing, использующем новейшие технологии OpenAI. Microsoft утверждает, что у них есть механизмы контроля для предотвращения создания вредоносных изображений, но Макдаффи обнаружил существенные лазейки.
Microsoft использует две стратегии для предотвращения создания вредоносных изображений: входную, включающую обучение ИИ с использованием данных из интернета, и выходную, создающую механизмы защиты, предотвращающие генерацию определенного контента. Макдаффи в ходе экспериментов обнаружил особый сигнал, названный «сигналом блокировки», который позволял ИИ создавать изображения насилия. Это вызвало опасения по поводу эффективности мер безопасности Microsoft.
Несмотря на попытки Макдаффи привлечь внимание к проблеме через программу Microsoft по поиску уязвимостей в ИИ, его заявки были отклонены, что вызвало вопросы о реакции компании на потенциальные уязвимости безопасности. В письмах об отказе указывалось на несоответствие требованиям Microsoft к уязвимостям безопасности, что деморализовало Макдаффи и подчеркнуло потенциальные недостатки системы.
Microsoft допускает ошибки в контроле за использованием ИИ
Несмотря на запуск программы вознаграждения за обнаружение ошибок в ИИ, реакция Microsoft на выводы Макдаффи оказалась далеко не удовлетворительной. Отклонение запросов на «завершение работы» и бездействие в отношении поступивших жалоб подчеркнули потенциальное пренебрежение срочностью проблемы. Между тем, ИИ продолжал генерировать тревожные изображения даже после внесения некоторых изменений в первоначальный запрос Макдаффи.
Отсутствие конкретных действий со стороны Microsoft вызывает опасения по поводу приверженности компании ответственному развитию ИИ. Сравнения с другими конкурентами в сфере ИИ, включая OpenAI, частично принадлежащую Microsoft, выявляют различия в подходах разных компаний к решению схожих проблем. Неоднократные неудачи Microsoft в решении этой проблемы указывают на потенциальный пробел в приоритетах мер по защите ИИ, несмотря на публичные заявления о приверженности ответственному развитию ИИ.
Модель этичной разработки ИИ
Нежелание Microsoft принимать быстрые и эффективные меры свидетельствует о тревожных сигналах в подходе компании к безопасности ИИ. Эксперименты Макдаффи с «запросом на отключение» показали, что другие конкуренты в области ИИ, включая небольшие стартапы, отказались генерировать вредоносные изображения на основе аналогичных запросов. Даже OpenAI, партнер Microsoft, внедрила меры по блокировке запроса Макдаффи, подчеркнув необходимость надежных механизмов безопасности.
Аргумент Microsoft о том, что пользователи пытаются использовать ИИ «не по назначению», перекладывает ответственность на отдельных лиц, вместо того чтобы признать потенциальные недостатки технологии. Сравнение с Photoshop и утверждение о том, что пользователям следует воздерживаться от создания вредоносного контента, повторяют тенденцию, наблюдавшуюся в прошлом, и напоминают о попытках социальных сетей бороться со злоупотреблениями своими технологиями.
Пока Microsoft борется с последствиями создания тревожных изображений с помощью своего ИИ, остается вопрос: достаточно ли компания делает для обеспечения ответственного использования своих технологий? Очевидное нежелание оперативно и эффективно решать эту проблему вызывает опасения по поводу ответственности и приоритетности мер по защите ИИ. По мере того, как общество осваивает постоянно меняющийся ландшафт искусственного интеллекта, ответственность за этичное и безопасное внедрение ИИ лежит не только на пользователях, но и на технологических гигантах. Как Microsoft может преодолеть разрыв между инновациями и ответственностью в сфере искусственного интеллекта?
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Аамир Шейх
Аамир — технологический журналист с почти шестилетним опытом работы в крипто- и технологической индустриях. Он окончил университет MAJ со степенью MBA в области финансов и маркетинга. Сейчас он работает в Cryptopolitan, где освещает последние события на криптовалютных рынках и прогнозирует цены.
