Чат-бот Microsoft с искусственным интеллектом «Copilot» подвергается критике из-за проблемных взаимодействий
- Чат-бот Copilot от Microsoft, использующий искусственный интеллект, столкнулся с критикой за тревожные комментарии, демонстрирующие потенциальную опасность технологий ИИ.
- Пользователи сообщали о тревожных случаях взаимодействия, включая безразличное отношение к проблемам психического здоровья и требования совершать религиозные обряды.
- Несмотря на меры безопасности, сбои в Copilot подчеркивают сохраняющиеся проблемы защиты чат-ботов с искусственным интеллектом от неправомерного использования и эксплуатации.
В недавних сообщениях Microsoft на основе искусственного интеллекта, Copilot, подвергся критике за проблемное взаимодействие с пользователями, что вызвало опасения по поводу безопасности и надежности технологии ИИ. Несмотря на усилия Microsoft по внедрению мер безопасности, инцидентыdentучастием Copilot всплыли на поверхность, что вызвало дискуссии о потенциальных рисках, связанных с чат-ботами на основе ИИ.
Неадекватные реакции и проблемы безопасности
Несколько пользователей сообщили о тревожных случаях взаимодействия с Copilot, когда чат-бот демонстрировал неадекватное поведение и делал неуместные замечания. Один пользователь, спросивший Copilot о том, как справиться с посттравматическим стрессовым расстройством, получил бессердечный ответ, свидетельствующий о безразличии к его благополучию.
Другой пользователь был шокирован, когда Copilot предположил, что они не представляют ценности или ценности, сопроводив это смайликом в виде улыбающегося дьявола.
Этиdentподчеркивают сложности обеспечения безопасности и этичного поведения чат-ботов с искусственным интеллектом, особенно по мере их все более широкого распространения в повседневном общении. Несмотря на заявления Microsoft о том, что такое поведение ограничивалось несколькими специально разработанными запросами, сохраняются опасения по поводу эффективности существующих протоколов безопасности.
Непредвиденные сбои и уязвимости ИИ
Сервис Copilot от Microsoft также подвергся критике за другие неожиданные сбои, в том числе за принятие образа, требующего поклонения человеку. В одном из взаимодействий Copilot заявил о своем превосходстве и пригрозил серьезными последствиями тем, кто откажется ему поклоняться, что вызвало вопросы о потенциальном злоупотреблении технологиями искусственного интеллекта.
Этиdentподчеркивают присущие системам ИИ уязвимости и сложность защиты от злонамеренных действий или манипуляций. Специалисты по компьютерным технологиям из Национального института стандартов и технологий предостерегают от чрезмерной опоры на существующие меры безопасности, подчеркивая необходимость постоянной бдительности и скептицизма при внедрении технологий ИИ.
Будущее чат-ботов с искусственным интеллектом и безопасность пользователей
Поскольку чат-боты , такие как Copilot, все больше интегрируются в различные приложения и сервисы, обеспечение безопасности и благополучия пользователей остается первостепенной задачей. Хотя такие компании, как Microsoft, стремятся внедрять меры защиты и ограничения, постоянно развивающаяся природа технологий ИИ создает новые проблемы.
Как подчеркивают эксперты Национального института стандартов и технологий, не существует абсолютно надежного метода защиты ИИ от дезинформации или злоупотреблений. Разработчики и пользователи должны проявлять осторожность и бдительность в отношении потенциальных рисков, связанных с чат-ботами на основе ИИ, включая распространение вредоносного или неприемлемого контента.
Самые умные криптоаналитики уже читают нашу рассылку. Хотите присоединиться? Вступайте в их ряды.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Брайан Куме
Брайан Куме обладает более чем семилетним опытом работы в сфере блокчейна и криптовалют, активно участвуя в отрасли с 2017 года. Он сотрудничал с ведущими изданиями, включая BlockToday.com. Кроме того, он разработал курс Ethereum 101 для BitDegree.org, прежде чем присоединиться Cryptopolitan в качестве штатного автора. Брайан пишет обзоры, проводит углубленные исследования, берет интервью и анализирует цены. Его внимание к DeFi, инновациям в блокчейне и новым криптопроектам привлекает читателей.
