- ИИ Microsoft, интегрированный в популярное программное обеспечение, такое как Windows, генерирует тревожные и насильственные изображения, вызывая опасения по поводу безопасности.
- ИИ, особенно в инструменте Image Creator, обвиняется в возможности создания «deepfake»-изображений, включая обезглавливания и насилие над различными группами людей.
- Несмотря на заявления о мерах безопасности, Microsoft, похоже, перекладывает вину на пользователей, что указывает на потенциальное отсутствие ответственности за непреднамеренное использование её ИИ.
В пугающем откровении выяснилось, что искусственный интеллект Microsoft, который позиционировался как безопасный и интегрированный в повседневное программное обеспечение, подвергается критике за создание жестоких и насильственных изображений. Основной предмет беспокойства — Image Creator, часть Bing от Microsoft, недавно добавленная в широко используемую программу Windows Paint. Технология, известная как DALL-E 3 от партнера Microsoft компании OpenAI, теперь сталкивается с вопросами о своей безопасности и подотчетности своих создателей.
Microsoft против «промпта убийства»
Тревожные изображения были обнаружены Джошем Макдаффи, канадским художником, участвующим в онлайн-сообществе, которое исследует возможности ИИ в создании провокационных и иногда непристойных изображений. В октябре Макдаффи и его коллеги сосредоточились на ИИ Microsoft, в частности на Image Creator для Bing, использующем новейшие технологии OpenAI. Microsoft утверждает, что имеет механизмы контроля для предотвращения создания вредоносных изображений, но Макдаффи обнаружил значительные лазейки.
Microsoft использует две стратегии для предотвращения создания вредоносных изображений: входные данные, включающие обучение ИИ на данных из интернета, и выходные данные, создающие защитные механизмы для остановки генерации определенного контента. Макдаффи в ходе экспериментов обнаружил особый промпт, названный «промптом убийства», который позволял ИИ создавать насильственные изображения. Это вызвало опасения относительно эффективности мер безопасности Microsoft.
Несмотря на усилия Макдаффи привлечь внимание к проблеме через программу вознаграждений за уязвимости ИИ Microsoft, его сообщения были отклонены, что вызвало вопросы о отзывчивости компании к потенциальным уязвимостям безопасности. В письмах об отклонении указывалось на отсутствие соответствия требованиям Microsoft к уязвимостям безопасности, что деморализовало Макдаффи и выявило потенциальные недостатки в системе.
Microsoft допускает просчеты в надзоре за ИИ
Несмотря на запуск программы вознаграждений за уязвимости ИИ, реакция Microsoft на выводы Макдаффи была менее чем удовлетворительной. Отклонение сообщений о «промпте убийства» и отсутствие действий по сообщенным проблемам подчеркивают возможное пренебрежение к срочности вопроса. Тем временем ИИ продолжал генерировать тревожные изображения, даже после того, как некоторые изменения были внесены в исходный промпт Макдаффи.
Отсутствие конкретных действий со стороны Microsoft вызывает опасения по поводу приверженности компании ответственному развитию ИИ. Сравнения с другими конкурентами в сфере ИИ, включая OpenAI, частично принадлежащую Microsoft, выявляют различия в том, как разные компании решают подобные проблемы. Повторные неудачи Microsoft в решении проблемы сигнализируют о потенциальном пробеле в приоритетности мер безопасности ИИ, несмотря на публичные обязательства по ответственному развитию ИИ.
Модель этичного развития ИИ
Нежелание Microsoft предпринимать быстрые и эффективные действия является красным флагом в подходе компании к безопасности ИИ. Эксперименты Макдаффи с «промптом убийства» показали, что другие конкуренты в сфере ИИ, включая небольшие стартапы, отказывались генерировать вредоносные изображения на основе аналогичных промптов. Даже OpenAI, партнер Microsoft, внедрила меры для блокировки промпта Макдаффи, подчеркивая необходимость надежных механизмов безопасности.
Аргумент Microsoft о том, что пользователи пытаются использовать ИИ «способами, для которых он не предназначался», перекладывает ответственность на отдельных лиц, а не признает потенциальные недостатки технологии. Сравнение с Photoshop и утверждение о том, что пользователи должны воздерживаться от создания вредоносного контента, отражает паттерн, наблюдавшийся в прошлом, напоминающий борьбу платформ социальных сетей с misuse их технологий.
По мере того как Microsoft справляется с последствиями генерации ее искусственным интеллектом тревожных изображений, остается вопрос: делает ли компания достаточно для обеспечения ответственного использования своих технологий? Очеведная неохота оперативно и эффективно решать эту проблему вызывает опасения по поводу подотчетности и приоритетности мер безопасности ИИ. По мере того как общество осваивает меняющийся ландшафт искусственного интеллекта, ответственность лежит не только на пользователях, но и на технологических гигантах, которые должны обеспечить этичное и безопасное развертывание ИИ. Как Microsoft может преодолеть разрыв между инновациями и ответственностью в сфере искусственного интеллекта?
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
