OpenAI откладывает выпуск инструмента обнаружения ИИ из-за опасений

OpenAI отложила выпуск своего долгожданного инструмента, предназначенного для обнаружения текста, сгенерированного моделью ChatGPT. Согласно отчетам, запуск был отложен из-за возможных проблем, которые могут повлиять на пользовательский опыт и экосистему.

The Wall Street Journal сообщил, что OpenAI готовила инструмент к выпуску в течение прошлого года, но не сделала этого, в основном из-за рисков и различных проблем. Выбор отложить запуск инструмента также, по-видимому, связан с вводом данных пользователя. В опросе, проведенном OpenAI, они обнаружили, что почти треть их преданных пользователей ChatGPT могут быть отпугнуты внедрением технологии против читерства.

Как работает инструмент против читерства

По данным Центра демократии и технологий, 59% учителей средних и старших классов считают, что студенты использовали ИИ в своих заданиях, что является увеличением по сравнению с предыдущим годом.

Инструмент против читерства работает путем внедрения водяного знака в текст, написанный ИИ. Хотя этот водяной знак невидим невооруженным глазом, технология обнаружения OpenAI способна его распознать. Инструмент предоставляет оценку, представляющую вероятность того, что данный текст был написан ChatGPT. Эта техника водяных знаков считается почти идеальной, поскольку внутренние документы показывают, что она имеет эффективность 99,9 процента, когда ChatGPT генерирует большой объем контента.

Однако были подняты некоторые вопросы, касающиеся инструмента. Одна из основных проблем заключается в том, что он может быть невыгоден для тех, кто не является носителем английского языка. Некоторые люди обеспокоены тем, что водяные знаки могут быть не такими эффективными, как должно быть, или могут пометить другие работы авторов с плохими знаниями английского языка как плагиат. Кроме того, критики выразили обеспокоенность тем, что водяной знак может быть удален или изменен путем его перевода или вставки и удаления эмодзи.

Еще одна проблема заключается в том, кто должен иметь доступ к инструменту обнаружения. Ограничение доступа может снизить применимость метода водяных знаков; однако, предоставление свободного доступа может сделать метод неэффективным. 

Другие технологические гиганты разрабатывают аналогичные решения

Хотя OpenAI еще не внедрила инструмент против читерства для текста, компания уже начала применять водяные знаки для аудио и видео выходных данных. Эти мультимедийные форматы были сочтены компанией приоритетными, поскольку дипфейки, сгенерированные ИИ, представляют более высокие риски, чем текстовый контент. 

Другие технологические фирмы также разрабатывают аналогичные решения. Например, Google также разрабатывает собственное решение для водяных знаков под названием SynthID, которое все еще находится на стадии бета-тестирования. Однако OpenAI отдала приоритет аудио и визуальным водяным знакам перед текстом, поскольку последствия первых более серьезны и могут происходить в критические периоды, такие как годы выборов. 

Эта новость появляется на фоне того, как Илон Маск снова в суде подает иск против OpenAI, обвиняя компанию и ее основателей, Сэма Альтмана и Грега Брокмана, в отклонении от первоначальной цели создания ИИ для улучшения человечества.