Чат-бот Amazon Q с искусственным интеллектом сталкивается с критикой и проблемами безопасности

Последняя разработка Amazon в области искусственного интеллекта, Amazon Q, вызвала критику и внутренние опасения внутри компании. Всего через три дня после официального анонса сотрудники выразили тревожные опасения по поводу работы чат-бота. Одна из наиболее острых проблем, о которой сообщалось, — это сильные галлюцинации чат-бота, когда он выдает неадекватные или вредные ответы.

Ситуация обострилась, когдаdent с Amazon Q был отмечен как «sev 2», что означает его серьезность и побудило инженеров неустанно работать над устранением проблем. Эти проблемы, включая галлюцинации и утечки данных, бросили тень на усилия Amazon по сохранению конкурентоспособности в быстро развивающемся мире искусственного интеллекта.

Амбициозные цели Amazon в области искусственного интеллекта

Чтобы опровергнуть мнение о том, что такие конкуренты, как Microsoft и Google, обогнали Amazon в гонке за передовыми возможностями в области искусственного интеллекта, онлайн-гигант розничной торговли недавно объявил о значительном финансовом вложении в размере до 4 миллиардов долларов в стартап Anthropic, занимающийся разработкой ИИ. 

Этот шаг подготовил почву для ежегодной конференции разработчиков Amazon Web Services, где Amazon Q был представлен как долгожданное дополнение к инициативам компании в области искусственного интеллекта.

Позиционируемый как корпоративная версия ChatGPT, Amazon Q позиционировался как решение с расширенными функциями безопасности и конфиденциальности, стремящееся превзойти представленные на рынке потребительские инструменты искусственного интеллекта.

Несмотря на оптимистичный взгляд Amazon на Amazon Q, представленный компанией на конференции, энтузиазм быстро сменился скептицизмом после появления внутренних отчетов. Сотрудники выразили обеспокоенность по поводу точности и конфиденциальности Amazon Q, указав, что чат-бот не соответствует стандартам безопасности, обещанным руководством Amazon.

Вопросы безопасности и конфиденциальности

В просочившихся документах подробно описываются случаи сильных галлюцинаций, при которых Amazon Q выдавал вредоносные или неуместные ответы. Серьезность ситуации подчеркивается тем, чтоdent классифицируется как «серьезный 2-й уровень», требующий срочного вмешательства инженеров. Эти опасения поднимают вопросы о точности и конфиденциальности чат-бота, что должно быть первостепенным при работе с конфиденциальной информацией.

В ответ на внутренние обсуждения и критику Amazon преуменьшила значение опасений, высказанных сотрудниками. Представитель компании подчеркнул, что обмен отзывами по внутренним каналам является стандартной практикой в ​​Amazon, и заявил, что в результате полученных отзывов никаких проблем с безопасностьюdentне было. Компания выразила признательность за полученные отзывы и заверила, что Amazon Q будет доработан по мере перехода от продукта, находящегося на стадии предварительного тестирования, к общедоступной версии.

Утечки данных и риски безопасности

Однако внутренние документы, проливающие свет на сбои и некорректные ответы Amazon Q, выявили потенциальные риски, связанные с чат-ботом. Одна из наиболее существенных проблем, отмеченных в документах, заключалась в способности Amazon Q возвращать устаревшую информацию о безопасности, что представляет угрозу для учетных записей клиентов. 

Утекшие данные содержали конфиденциальную информацию о центрах обработки данных AWS, внутренних программах скидок и еще не выпущенных функциях — информацию, которая должна была оставатьсяdent.

Несмотря на то, что Amazon Q позиционируется как безопасная альтернатива потребительским чат-ботам, таким как ChatGPT, его недостатки сталиdent поскольку сотрудники выразили опасения по поводу его функций безопасности и конфиденциальности. Генеральный директор Amazon Web Services Адам Селипски ранее заявлял, что многие компании запретили использование ИИ-помощников в корпоративной среде из-за опасений по поводу безопасности и конфиденциальности. 

В ответ на этот вызов со стороны отрасли, Amazon, как утверждается, разработала Amazon Q таким образом, чтобы она была более безопасной и обеспечивала большую конфиденциальность, чем ее аналоги, ориентированные на потребителя. Однако просочившиеся внутренние документы свидетельствуют о том, что Amazon Q может быть не застрахована от проблем, которые преследуют другие крупные языковые модели.

Пока Amazon преодолевает трудности, связанные с первыми проблемами Amazon Q, будущее чат-бота с искусственным интеллектом остается неопределенным. Сочетание высоких ожиданий со стороны руководства и суровой реальности недостатков Amazon Q поднимает вопросы об эффективности подхода Amazon к разработке ИИ.