С момента запуска инструментов искусственного интеллекта, таких как ChatGPT, термин «ИИ» стал модным словом в самых разных отраслях, от образования до создания контента. Теперь писатели иdentсталкиваются с новой проблемой — защитой своей работы, будь то контент, созданный с помощью ИИ или человеком.
Согласно статистике Stastia за прошлый год, в июле 2023 года термин «ИИ» был запрошен более 30,4 миллионов раз, что втрое больше, чем в предыдущем месяце. По мере распространения преподавателям и редакторам пришлось искать альтернативные способы определения того, является ли представленный им текст результатом работы ИИ или нет. Это привело к появлению детекторов ИИ.
Однако многие писатели и преподаватели ставят под сомнение подлинность ИИ. Один из них — Кристофер Пен, соучредитель TrustInsights.ai, который заявил в посте , что «детекторы ИИ » — это шутка. Пен — не единственный, кто считает, что детекторы ИИ ненадежны. Дианна Мейсон, специалист по SEO-контенту, заявила в своем посте: «Детекторы контента ИИ не работают».
Согласно другому сообщению на Reddit, один пользователь заявил: « Да, детекторы ИИ — это обман. Никогда не было ни одной научной работы, доказывающей, что детектор ИИ может работать надежно. Также нет перспективной теоретической основы для того, как мог бы работать надежный детектор ИИ».
Несколько широко известных примеров демонстрируют неэффективность детекторов, использующих искусственный интеллект. Например, один детекторdentопределил 97,75% текста Декларации независимости США как написанный ИИ.
В другом случае выяснилось, что тексты из Библии были написаны искусственным интеллектом. Также ИИdentидентифицировал «Бхагавад-гиту», индуистское священное писание. Подобныеdentвызывают очень серьезные вопросы о достоверности детекторов, использующих искусственный интеллект.
Для дальнейшего исследования эффективности детекторов на основе искусственного интеллекта мы протестировали отрывок из Библии с помощью четырех разных детекторов. Результаты оказались совершенно разными
- Quilbott — Согласно этому сайту, использованный отрывок, вероятно, имеет нулевую точность и не был сгенерирован искусственным интеллектом.
- Grammaly такжеdent, что текст на 100% написан людьми.
- GPT Zero — этот сайт оценил вероятность того, что текст был написан людьми, в 96%.
- Zero Gpt — это был последний сайт, который я тестировал, и результаты меня просто поразили: по данным сайта, 96% текста было написано искусственным интеллектом.
Как работают детекторы ИИ
Детекторы ИИ, или детекторы GPT, — это системы, предназначенные дляdentконтента, созданного ИИ. Эти детекторы сравнивают текст по шаблонам и расположению слов, подобно тому, как это делают LLM-ы с текстом. LLM-ы работают с вероятностями, которые выводятся из данных, и основывают свои прогнозы исключительно на обнаружении последовательности слов. Детекторы ИИ работают на основе этих вероятностей для обнаружения контента, созданного ИИ.
В детекторах ИИ в основном используются два показателя: перплексия и всплескиваемость. Перплексия измеряет вероятность того, что следующее слово будет правильным, а всплескиваемость — это изменчивость количества слов и фраз. Хотя человеческий текст, как правило, отличается большим разнообразием, текст, сгенерированный ИИ, часто более однороден. Несмотря на это, по мере развития таких моделей ИИ, как GPT-4, они могут воспроизводить человеческий текст с большей точностью, что еще больше затрудняет обнаружение.
По словам Джоди Кук , основательницы Coachvox: « Сейчас мы смеемся над комментариями в LinkedIn, сгенерированными искусственным интеллектом… Но по мере совершенствования технологий мы уже не будем понимать, что реально, а что нет. Никто не будет».
Для писателей,dentи предприятий ставки высоки. Это поднимает вопрос: можно ли доверять детекторам искусственного интеллекта?
