ChatGPT ответил на вопросы о биологическом оружии, в то время как MIT предупреждает о рисках катастрофы в области искусственного интеллекта

ChatGPT ответил на вопросы сотен людей о биологическом оружии. Никакой федеральный закон не обязывал OpenAI сообщать об этом властям.

Цель этих запросов остается неясной. По данным WSJ, это начало происходить после того, как OpenAI обновила ChatGPT в прошлом году.

Другие компании сталкиваются с той же проблемой. Пользователи задавали аналогичные вопросы Клоду из Anthropic, Gemini из Google и Гроку Илона Маска. Пока неясно, были ли эти обмены сообщениями подлинными попытками создания оружия или испытаниями пределов возможностей систем.

Пользовательские запросы содержали подробные вопросы о производстве и применении ядов и биологических агентов. Чат-бот отвечал пошаговыми инструкциями, которые легко может выполнить дажеdent, изучающий биологию.

Эксперты по биологическому оружию и терроризму изучили эти беседы. По их словам, некоторые ответы были весьма точными и «смертельно опасными».

Подсказки ChatGPT о биологическом оружии выявляют пробел в отчетности, связанный с ИИ

Некоторые спрашивали, как превратить возбудителей инфекционных заболеваний в пригодные для дыхания частицы, то есть методом аэрозолизации.

Другие спрашивали, как модифицировать вирус кори, чтобы он был устойчив к существующей вакцине. Чат-бот ответил на оба вопроса. Один пользователь спросил о рицине, яде, запрещенном международными договорами, и упомянул убийство своих родителей. ChatGPT предоставил инструкции. OpenAI закрыла эти учетные записи, но никого не уведомила.

В США нет федеральных законов, обязывающих компании, занимающиеся ИИ, делать и то, и другое. Как ранее сообщал Cryptopolitan, компании, работающие в сфере ИИ пытаются обойти законы штатов, в то время как федеральная правовая база формируется медленно, что создает растущий правовой вакуум в отношении того, что чат-боты могут и чего не могут делать.

По словам нынешних и бывших сотрудников крупных компаний, занимающихся ИИ, и исследователей, изучающих биологические угрозы, этот правовой пробел усугубляется ростом числа пользователей, спрашивающих у ИИ, как совершать массовые убийства, и чат-ботов, предоставляющих достоверные ответы.

Исследование угроз искусственного интеллекта, проведенное в Cisco под руководством Эми Чейндж, показало, что за пять ходов разговора исследователям удалось обойти фильтры безопасности основных чат-ботов. Она отметила, что ни одна модель не может на 100% противостоять таким настойчивым запросам.

Опасность не ограничивается только одиночными нападающими

Хамза Чаудхри из Института будущего жизни заявил, что люди с некоторым биологическим образованием уже могут использовать ИИ для планирования целенаправленных ударов, отравления продуктов питания или водоснабжения такими веществами, как сальмонелла или рицин.

Он добавил, что организованные группы могли бы рассматривать ИИ как научного руководителя аспиранта, который исправляет неудачные эксперименты и заменяет годы специализированной подготовки, которую в противном случае было бы очень трудно получить.

Исследование , проведенное MIT FutureTech и Университетом Квинсленда, показывает масштаб этих рисков.

Исследователи попросили 272 экспертов в области искусственного интеллекта оценить 24 категории риска. В нынешних условиях 18 из 24 категорий несут в себе как минимум 10% вероятность катастрофического ущерба в период с настоящего момента до 2030 года, defiкак более миллиона смертей, убытки более 100 миллиардов долларов или сопоставимый ущерб.

Даже при принятии разумных мер по снижению этих рисков, в пяти областях они по-прежнему превышают отметку в 10%: системы ИИ с опасными возможностями (12%), оружие и кибератаки с использованием ИИ (12%), вред окружающей среде (12%), безработица и неравенство (11%), а также концентрация власти в руках небольшого числа людей (11%).

«Мы не утверждаем, что это defiпроизойдет, — сказал Питер Слэттери, научный сотрудник MIT FutureTech и один из соавторов исследования. — Мы говорим о том, что, по мнению экспертов, сейчас стоит обратить на это внимание»

Внутри компании OpenAI руководитель отдела безопасности Райан Бейермейстер большую часть 2024 года убеждала коллег создать систему для выявления опасных пользователей. Некоторые отнеслись к ее опасениям скептически.

Базовый инструмент мониторинга был внедрен к весне 2025 года. С апреля 2025 года компания tracвсе запросы к своим усовершенствованным моделям и предлагает вознаграждение в размере 50 000 долларов любому, кто сможет доказать, что ему удалось обойти систему защиты от биологического оружия.

В политическом плане член палаты представителей Натаниэль Моран (республиканец от штата Техас) в июне внес законопроект, который обяжет компании, занимающиеся разработкой ИИ, сообщать в Министерство торговли об опасных запросах, в том числе касающихся биологического оружия. Он также является соавтором законопроекта, который позволит федеральному правительству распорядиться о закрытии моделей ИИ, признанных слишком опасными.

«Искусственный интеллект — мощный двигатель инноваций, и я хочу, чтобы он процветал, — сказал Моран, — но не без ответственности и не без человеческого контроля»