Google временно приостанавливает генерацию изображений ИИ на фоне скандала

Google приостановил функцию генерации изображений своего чат-бота Gemini AI после волны критики в отношении представления исторических фигур и событий этим инструментом. Это решение последовало за тем, как высокопоставленные лица, включая Илона Маска, генерального директора Tesla и xAI, раскритиковали технологического гиганта за то, что они восприняли как предвзятое и неточное содержание, созданное ИИ.

Скандал разгорелся, когда пользователи заметили, что функция генерации изображений по тексту в Gemini создавала исторически неточные изображения, особенно с участием солдат Второй мировой войны и отцов-основателей Америки. Критики, включая Илона Маска, обвинили компанию из Маунтин-Вью, Калифорния, в внедрении «расистских» и «антицивилизационных» настроений в ИИ, называя подход Google «безумным». Критика Маска была подхвачена в X (ранее Twitter), где он выразил облегчение, что действия Google выявили предполагаемую идеологическую предвзятость компании.

Аналогичным образом, республиканский деятель Вивек Рамасвами высказался, предположив, что инцидент подтвердил предыдущие обвинения в отношении корпоративной культуры Google. Рамасвами сослался на случай Джеймса Даморе, бывшего сотрудника Google, чтобы подчеркнуть свою точку зрения об идеологической эхо-камере компании. Он намекнул, что те, кто работает над Gemini, могли осознавать потенциальные проблемы с выводом ИИ, но молчали из-за страха перед репрессиями, проведя параллель с противоречивым уходом Даморе из Google.

Ответ Google и будущие планы

В ответ на волну критики Google временно приостановил функцию генерации изображений в Gemini. Компания признала неточности в некоторых исторических изображениях, созданных Gemini, и пообещала в ближайшее время выпустить улучшенную версию функции. В заявлениях, опубликованных в X, Google подчеркнула свое намерение доработать возможности ИИ, особенно в части изображения людей, чтобы обеспечить более точный и инклюзивный результат. Технологический гигант подтвердил свою приверженность решению проблем, связанных с генерацией изображений в Gemini, пообещав повысить точность и чувствительность функции.

Скандал вокруг ИИ Gemini спровоцировал более широкую дискуссию об этических последствиях использования ИИ и ответственности технологических компаний за обеспечение точности и непредвзятости своих продуктов. По мере того как Google работает над обновлением возможностей генерации изображений в Gemini, технологическое сообщество и наблюдатели размышляют о балансе между инновациями и точностью, а также о влиянии присущих предубеждений в программировании ИИ.

Этот инцидент служит важным напоминанием о сложностях разработки ИИ, особенно в вопросах исторической точности и идеологической нейтральности. Итог усилий Google по улучшению Gemini, вероятно, станет прецедентом для того, как технологические компании будут решать подобные проблемы, подчеркивая важность прозрачности, подотчетности и этических соображений в быстро развивающейся сфере искусственного интеллекта.