Слово года по версии Cambridge Dictionary — «Галлюцинировать» — подчеркивает главную проблему ИИ

В заметном сдвиге в ландшафте искусственного интеллекта (ИИ) Cambridge Dictionary выбрало слово «галлюцинировать» (hallucinate) в качестве Слова года. Этот выбор отражает значительное развитие в понимании этого термина в области ИИ. Если традиционно он ассоциировался с восприятием несуществующих явлений, то теперь «галлюцинировать» охватывает случаи, когда системы ИИ ошибочно представляют неточные данные как факты, что иногда приводит к негативным последствиям.

Неточности ИИ на крупных платформах

Крупные технологические платформы, такие как Gizmodo, CNET и Microsoft, подверглись критике за неточности в статьях, созданных ИИ. Это вызывает опасения относительно надежности контента, генерируемого системами на базе ИИ. В особенно тревожном случае юрист потерял работу, когда чат-бот на базе ИИ, ChatGPT, создал фиктивные судебные иски в качестве ссылок. В начале этого года аналитики Morgan Stanley указали на склонность ChatGPT к выдумыванию фактов, проблему, которую они прогнозируют сохраняться в течение многих лет. Эти инциденты вызвали тревогу среди бизнес-лидеров и экспертов по дезинформации относительно потенциала ИИ усиливать онлайн-дезинформацию.

Важность критического мышления

Вендалайн Николс, менеджер по издательской деятельности Cambridge Dictionary, подчеркнула критически важную роль человеческого критического мышления при использовании инструментов ИИ. Она отмечает, что тот факт, что ИИ может «галлюцинировать», служит напоминанием о том, что люди должны проявлять свои навыки критического мышления, полагаясь на эти инструменты. Это подчеркивает необходимость для пользователей подходить к контенту, сгенерированному ИИ, с критическим взглядом.

Признание в индустрии ИИ

Термин «галлюцинировать» приобрел популярность в обсуждениях в индустрии ИИ с момента запуска революционной технологии чат-бота OpenAI, ChatGPT, в апреле 2023 года. Генеральный директор Alphabet Inc. Сундар Пичаи признал, что индустрия ИИ борется с «проблемами галлюцинаций», для которых не существует немедленного и четкого решения. Это признание от ведущей фигуры в технологическом мире подчеркивает серьезность проблемы.

Вклад Vectara в ответственный ИИ

В значимом шаге к саморегулированию и продвижению ответственного ИИ создатель больших языковых моделей (LLM) Vectara представила свою модель оценки галлюцинаций с открытым исходным кодом в ноябре 2023 года. Эта инновационная модель оценивает, насколько сильно LLM отклоняется от фактической информации. Количественно оценивая эти отклонения, Vectara стремится устранить препятствия для широкого внедрения ИИ в предприятиях и снизить риски, связанные с дезинформацией.

Выбор слова «галлюцинировать» в качестве Слова года Cambridge Dictionary освещает критическую проблему в индустрии ИИ. Неточности и потенциал ИИ генерировать ложную информацию вызвали опасения среди экспертов и общественности. По мере того как индустрия ИИ борется с этими «проблемами галлюцинаций», необходимость ответственной разработки ИИ и бдительного критического мышления при использовании инструментов ИИ никогда не была более очевидной. Модель оценки галлюцинаций Vectara представляет собой значительный шаг к решению этих проблем и обеспечению того, чтобы ИИ служил силой добра, а не усиливал дезинформацию в цифровую эпоху.