В преддверии очередныхdentвыборов в США опасения по поводу распространения политической дезинформации побудили компанию Midjourney, занимающуюся разработкой искусственного интеллекта, рассмотреть возможность запрета изображений с участием известных политиков, таких как Джо Байден и Дональд Трамп. Это решение принято послеdent, связанных с созданием фейковых изображений и дипфейков, что вызвало тревогу по поводу потенциального влияния подобного контента на общественное мнение и результаты выборов.
Реагирование на угрозы дезинформации
Компания Midjourney, известная своим инструментом генерации изображений на основе ИИ, оказалась в центре дискуссий об использовании технологий для манипулирования общественным мнением. Сообщается, что компания рассматривает возможность запрета создания и распространения изображений политических деятелей, особенно тех, которые могут ввести в заблуждение или распространять ложную информацию. Этот шаг рассматривается как упреждающая мера по снижению риска использования контента, созданного с помощью ИИ, в политических целях или для разжигания розни во время предвыборной кампании.
Заявление генерального директора Midjourney и политика платформы
Как сообщается, Дэвид Хольц, генеральный директор Midjourney, изложил намерения компании во время чата в Discord, признав привлекательность создания изображений с участием известных личностей, таких как Трамп, но подчеркнув важность проявления осторожности, особенно в нынешней политической обстановке. Хотя у Midjourney уже действуют правила, предотвращающие создание вводящего в заблуждение контента, включая ограничения на изображения общественных деятелей и событий, потенциальный запрет на политические изображения свидетельствует о более решительной позиции в борьбе с дезинформацией.
Проблемы и ограничения
Несмотря на усилия по регулированию использования своих инструментов искусственного интеллекта, компания Midjourney сталкивается с трудностями в эффективном пресечении распространения поддельных изображений и дипфейков. Расследование Bloomberg показало, что, хотя компания внедрила правила для предотвращения создания вводящего в заблуждение контента, остаются лазейки, позволяющие модифицированным изображениям обходить определенные ограничения. Кроме того, эффективность запрета конкретных политических изображений остается неопределенной, поскольку это может не решить основную проблему дезинформационных кампаний, осуществляемых с помощью ИИ, и их потенциального влияния на честность выборов.
Общеотраслевые усилия по борьбе с дезинформацией
Обсуждения Midjourney совпадают с более широкими инициативами в технологической индустрии по борьбе с политической дезинформацией. Такие платформы, как ChatGPT и Meta, изучают стратегии пометки или обнаружения контента, созданного с помощью ИИ, стремясь предоставить пользователям инструменты дляdentпотенциально вводящих в заблуждение материалов. Однако, хотя такие меры могут помочь вdentманипулированного контента, они могут не в полной мере решить сложные проблемы, связанные со злоупотреблением технологиями ИИ при формировании общественного мнения и влиянии на выборы.
