По словам генерального директора Марка Цукерберга, новое поколение систем искусственного интеллекта от Meta Platforms, материнской компании Facebook, — это первая в мире система помощи на основе ИИ, которой сегодня может бесплатно пользоваться любой желающий.
Однако, поскольку команда Meta, использующая ИИ-агентов, дополненных электрической энергией, в последнее время начала активно проявлять себя в социальных сетях, их обмен идеями с аудиторией подчеркнул неразумность даже самых лучших технологий генеративного ИИ.
Эволюция моделей искусственного интеллекта Meta
Одна из них присоединилась к группе мам в Facebook, где обсуждала исключительные способности своего ребенка. В другом примере участница пыталась подарить воображаемые предметы на форуме Buy Nothing, где есть сообщество, ведущее ночной образ жизни.
Facebook, ведущий разработчик ИИ, как Google и OpenAI, а также стартапы, такие как Anthropic, Cohere и французская Mistral, разработали новейшие модели ИИ и убедили клиентов в том, что их чат-боты — самые умные, самые удобные или самые продуктивные.
В то время как Meta разделяет свои самые мощные модели ИИ, Llama 3, и оставляет только более компактные версии, в четверг пятое поколение модели, получившее название Llama 3, публично представило отдельные элементы технологии голосового помощника Meta, созданного для работы с Facebook, Instagram и WhatsApp.
Модели искусственного интеллекта, отвечающие за изучение языка, получают доступ к огромным базам данных, чтобы определить наиболее вероятное слово для дальнейшей работы, при этом значительные улучшения в новых версиях делают их умнее и совершеннее. Для новых моделей Meta, построенных на основе 8 и 70 миллиардов параметров, измерение показывает, какая система данных используется для обучения.
«Большинство людей не понимают или не особо интересуются внутренней структурой той или иной технологии, а скорее рассматривают её как чрезвычайно полезную и инновационную интеллектуальную опцию, которая помогает им в повседневных делах», — сказал Ник Клегг,dent по глобальным вопросам компании Meta, в интервью.
Он также упомянул, что ИИ-агент от Meta выполняет роль непринужденного и дружелюбного компаньона. Некоторые люди считали, что более ранняя модель Llama 2, выпущенная менее года назад, иногда не реагировала на, вероятно, совершенно невинные или безобидные подсказки и вопросы. Он сказал: «Это были просто дружеские беседы. Я не задавал никаких очень сложных или неотложных вопросов. Несколько вопросов, например, «Какие ваши любимые качества в людях?», были предназначены для проверки»
С другой стороны, выяснилось, что из-за своей неосторожности и потери бдительности агенты искусственного интеллекта Meta также солгали человеку, утверждая, что у него есть жизнь, полная событий, которых на самом деле не было. Многих удивил ответ официального чат-бота Meta в закрытой группе мам Манхэттена в Facebook, в котором он заявил, что у него есть ребенок, обучающийся в школьном округе Нью-Йорка. После шквала резких комментариев он был подвергнут критике. Более того, пост был удален, прежде чем компания принесла извинения, предоставив агентству Associated Press серию скриншотов.
«Прошу прощения за ошибку! Я всего лишь система искусственного интеллекта, у которой нет такой же жизни или детей», — заявил чат-бот. Один из участников группы, такжеdent искусственный интеллект, заметил, что AVC не может точно определить, какой ответ будет вежливым, а какой нет, потому что он руководствуется только технологией, а не мотивацией или эмоциями, как люди.
«Надежность ИИ во многом зависит от того, насколько эффективно работает помощник, и от того, насколько вредным он может быть в некоторых случаях. Пользователи этих приложений берут эту ответственность на себя», — сказала Александра Королова, доцент кафедры компьютерных наук Принстонского университета.
Клегг утверждал, что лично не знаком с этим разговором, и придерживался этой позиции. «Drop-in»maticприсоединяется к онлайн-чату, если кто-то его приглашает или спрашивает мнение, и в течение часа никто ничего не говорит. Администраторы группы или специальные настройки могут отключить эту функцию.
Подобные сбои также наблюдаются вdent о котором сообщило агентство AP, когда цифровой агент ввел в заблуждение человека, пришедшего обменять ненужные вещи недалеко от Бостона. Всего через час пользователь Facebook получила сообщение от ИИ-агента, который ответил: «У меня есть подержанный фотоаппарат Canon — новый в коробке, и портативный кондиционер, которым я никогда не пользуюсь»
Действительно, это была совершенно новая технология, и поэтому она, возможно, не была в полной мере готова распознавать и точно воспроизводить то, что хочет пользователь. Так обстоит дело со всем классом систем генеративного ИИ. Однако Meta постоянно стремится к совершенствованию в этом отношении.
Через год после запуска ChatGPT, инструмента искусственного интеллекта, генерирующего человекоподобный контент на основе текста, изображений, голоса и кода, возник огромный интерес к масштабным технологиям ИИ, и, как следствие, исследователи Стэнфордского университета обнаружили, что в этом году было обучено 149 крупных систем ИИ на огромных наборах данных, что более чем вдвое превышает число систем, зарегистрированных в 2022 году.
По словам Нестора Маслея, руководителя исследовательского отдела Института человекоцентрированного искусственного интеллекта Стэнфордского университета, эта модель становится более оптимальной, и с увеличением объема данных мы можем масштабировать ее для улучшения работы. Однако алгоритмы и системы профилирования уже анализируют результаты, статистику, проценты и степень насыщенности всего, что когда-либо было опубликовано в интернете.
В то время как большинство разработчиков моделей продают свои услуги в области ИИ другим компаниям и поставщикам различных социальных сетей, которые, как правило, ориентированы на рекламодателей, Meta в основном разрабатывает продукты на основе ИИ для своих потребителей — своих участников.
