Слово года по версии Кембриджского словаря — «галлюцинировать» — подчеркивает главную проблему искусственного интеллекта

Кембриджский словарь, знаменующий собой заметный сдвиг в сфере искусственного интеллекта (ИИ), выбрал слово «галлюцинация» (hallucinate) словом года. Этот выбор отражает значительное развитие понимания этого термина в области ИИ. Хотя традиционно слово «галлюцинация» ассоциировалось с восприятием несуществующих явлений, теперь оно охватывает случаи, когда системы ИИ ошибочно выдают неточные данные за фактические, что иногда приводит к неблагоприятным последствиям.

Неточности ИИ на известных платформах

Такие известные технологические платформы, как Gizmodo, CNET и Microsoft, подверглись пристальному вниманию из-за неточностей в статьях, созданных с помощью искусственного интеллекта. Это вызывает опасения по поводу надежности контента, создаваемого системами на базе искусственного интеллекта. В особенно тревожном случае юрист потерял работу, когда чат-бот ChatGPT на основе искусственного интеллекта создал фиктивные судебные иски в качестве ссылок. Ранее в этом году аналитики Morgan Stanley отметили склонность ChatGPT к фальсификации фактов, и эта проблема, по их прогнозам, сохранится на долгие годы. Этиdentвызвали тревогу у руководителей компаний и экспертов по дезинформации относительно потенциала ИИ в усилении онлайн-дезинформации.

Важность критического мышления

Венделин Николс, менеджер по издательству Кембриджского словаря, подчеркнула решающую роль критического мышления человека при использовании инструментов ИИ. Она отмечает, что способность ИИ «галлюцинировать» служит напоминанием о том, что людям необходимо развивать навыки критического мышления при использовании этих инструментов. Это подчёркивает необходимость для пользователей относиться к контенту, создаваемому ИИ, с особым вниманием.

Признание отрасли ИИ

Термин «галлюцинация» стал особенно популярен в дискуссиях в сфере искусственного интеллекта после запуска в апреле 2023 года революционной технологии чат-ботов OpenAI ChatGPT. Генеральный директор Alphabet Inc. Сундар Пичаи признал, что индустрия искусственного интеллекта сталкивается с «проблемами галлюцинаций», для которых не существует немедленного и однозначного решения. Это признание ведущей фигуры в мире технологий подчёркивает серьёзность проблемы.

Вклад Vectara в ответственный ИИ

В ноябре 2023 года, сделав значительный шаг на пути к саморегулированию и продвижению ответственного ИИ, компания Vectara, создатель программ для обучения на крупных языковых моделях (LLM), представила свою модель оценки галлюцинаций с открытым исходным кодом. Эта инновационная модель оценивает степень отклонения результатов обучения на крупных языковых моделях от фактической информации. Количественно оценивая эти отклонения, Vectara стремится устранить препятствия для широкого внедрения ИИ в компаниях и снизить риски, связанные с дезинформацией.

Выбор слова «галлюцинация» (hallucinate) в качестве слова года Кембриджским словарём проливает свет на важнейшую проблему в сфере ИИ. Неточности и потенциальная возможность ИИ генерировать ложную информацию вызывают обеспокоенность экспертов и общественности. В то время как сфера ИИ борется с этими «проблемами галлюцинаций», необходимость ответственной разработки ИИ и бдительного критического мышления при использовании инструментов ИИ становится как никогда очевидной. Модель оценки галлюцинаций Vectara представляет собой значительный шаг к решению этих проблем и обеспечению того, чтобы ИИ служил силой добра, а не распространял дезинформацию в цифровую эпоху.