Странные товары, созданные ИИ, затопили онлайн-маркетплейсы: как ориентироваться в этом хаосе

На просторах таких онлайн-маркетплейсов, как Amazon и Etsy, появляется странная тенденция, которую легко не заметить, пока не присмотритесь поближе. Такие товары, как «Floral Whispers, Coloring Book for Women», проникают в нашу жизнь и несут на себе неизгладимый отпечаток искусственного интеллекта. Эти чудеса, созданные ИИ, — от книг по саморазвитию до настенного искусства и кружек — часто имеют искаженные черты и причудливые несоответствия, которые выдают их необычное происхождение.

Эра товаров, созданных ИИ

Легкодоступный искусственный интеллект меняет то, как мы общаемся, работаем и создаем. Теперь он проникает в электронную коммерцию: в таких онлайн-маркетплейсах, как Amazon и Etsy, proliferate (распространяются) книги по саморазвитию, кружки, настенное искусство и книги-раскраски, созданные ИИ. Третьи стороны, отвечающие за эти товары, не обязаны раскрывать факт их ИИ-генерации, что делает практически невозможным для потребителей различать товары, созданные человеком, и товары, созданные ИИ. Последствие? Волна мошеннических товаров затопила и без того запутанный ландшафт онлайн-шопинга, потенциально заставляя неосведомленных покупателей получать товары низкого качества или непреднамеренно подрывая средства к существованию настоящих художников.

Опасности товаров, созданных ИИ, без указания их происхождения

В то время как некоторые создатели ИИ прозрачны в отношении своего процесса и производят товары, созданные ИИ, ради новизны, другие занимаются менее благородными практиками. Эти недобросовестные продавцы используют ИИ для снижения затрат и ускорения производства, извлекая прибыль из популярных категорий товаров. Кроме того, вопросы авторского права и интеллектуальной собственности, связанные с ИИ, остаются нерешенными. Многие инструменты генеративного ИИ, такие как ChatGPT от OpenAI и генератор изображений Dall-E, обучались на контенте, собранном из интернета, включая материалы, защищенные авторским правом, что оставляет оригинальных создателей без компенсации и упоминания.

ИИ даже может использоваться для имитации конкретных творцов, что вызывает опасения у таких художников, как польский художник Грег Рутковский, и автора Джейн Фридман, которая обнаружила книги на Amazon, использующие ее имя и имитирующие ее стиль письма. Такие случаи поднимают вопросы о подлинности контента, созданного ИИ, и его потенциале вводить потребителей в заблуждение.

Дилемма точности

Помимо вопросов подлинности и законности, контент, созданный ИИ, представляет более глубокую проблему: точность. Текст, созданный ИИ, не оптимизирован для генерации истины; он предназначен для создания увлекательного текста. Это несоответствие между генерацией захватывающего контента и передачей точной информации может иметь серьезные последствия, особенно в таких областях, как здравоохранение или образование. Например, Amazon недавно удалил руководство по сбору грибов, которое некоторые читатели подозревали, было сгенерировано ИИ и могло предоставить ошибочные советы о съедобности грибов.

Поиск решений для продуктов ИИ

Крупные компании электронной коммерции, такие как Amazon и Etsy, не запрещают контент, созданный ИИ, на своих платформах, и они не требуют маркировки или раскрытия информации о продуктах, в основном произведенных с помощью инструментов ИИ. Это отсутствие регулирования оставляет потребителей в уязвимом положении.

Гильдия авторов (The Authors Guild), представляющая авторов, чьи работы использовались для обучения инструментов ИИ, выступает за законодательное регулирование и призывает компании раскрывать информацию, когда ИИ пишет книгу. Мэри Расенбергер, генеральный директор Гильдии авторов, подчеркнула необходимость защиты потребителей и сохранения рынка человеческих творческих работ. Конечная цель — обеспечить, чтобы ИИ был регулируем, лицензирован и легитимен, а авторы получали заслуженную компенсацию.

Amazon предпринял шаг, потребовав от авторов, публикующих книги самостоятельно через Kindle Direct Publishing, уведомлять их, если книги созданы с помощью ИИ. Однако эта информация в настоящее время не видна покупателям, оставляя потребителей в опасности.

Роль технологических организаций

В ответ на рост товаров, созданных ИИ, технологические организации работают над инструментами для выявления такого контента. Например, Google разрабатывает инструмент невидимого водяного знака для обнаружения вывода ИИ. Эти инструменты призваны предоставить потребителям средства для различения продуктов, созданных человеком и ИИ.

Как обнаружить продукты, созданные ИИ

До тех пор, пока регулирование и маркировка не станут нормой, потребители должны взять на себя роль детективов при онлайн-покупках. Вот несколько стратегий, которые помогут отличить товары, созданные ИИ:

1. Внимательно изучите детали продукта

   Изучите все доступные изображения продукта, увеличьте масштаб для детального осмотра и ищите аномалии.

   Обратите внимание на фон, так как он может выявить ошибки, которые не сразу заметны на основном объекте.

   Проверьте изображения людей на наличие необычных черт, таких как искаженные пропорции или неправильные части тела.

   Посчитайте пальцы и убедитесь, что анатомические детали точны.

2. Исследуйте автора

   Изучите онлайн-присутствие автора и его профили в социальных сетях.

   Будьте осторожны с авторами, публикующими книги самостоятельно, хотя это само по себе не указывает на генерацию ИИ.

   Внимательно изучите описания продуктов на предмет связности и релевантности.

3. Проверьте квалификацию продавца

   Изучите историю продавца, другие продукты и название компании.

   Проверьте, как давно продавец работает на рынке.

 4. Доверяйте своей интуиции

   Будьте осторожны с товарами, которые кажутся необычно новыми в магазине и имитируют популярные товары от известных издательств.

   Ищите паттерны, которые могут использовать мошенники, такие как общие тропы из популярных книг.

В мире, где растет количество контента, созданного ИИ, потребители должны оставаться бдительными и информированными. Хотя у ИИ есть свое место как инструмента для создателей, важно обеспечить, чтобы товары, созданные ИИ, были прозрачными и регулируемыми, а также соответствовали качеству и подлинности, которых ожидают потребители. До тех пор покупатели несут ответственность за навигацию в этой меняющейся ландшафте товаров, созданных ИИ.