Генеральный директор антропогенной компании призывает к осторожности в отношении безопасности моделей искусственного интеллекта

Дарио Амодей, генеральный директор Anthropic, недавно заявил, что компании, занимающиеся искусственным интеллектом, должны проходить обязательное тестирование. Это относится и к его собственной фирме, Anthropic. Цель состоит в том, чтобы убедиться в безопасности этих технологий для широкой общественности до их выпуска. 

Амодей отвечал на вопрос на недавнем саммите по безопасности ИИ, проходившем в Сан-Франциско и организованном Министерством торговли и Государственным департаментом США. В своем ответе генеральный директор заявил: «Я думаю, что мы абсолютно обязаны сделать тестирование обязательным, но нам также нужно быть очень осторожными в том, как мы это делаем»

Эти заявления последовали за публикацией результатов тестирования модели Claude 3.5 Sonnet от Anthropic, проведенного британским и американским институтами безопасности ИИ. Тестирование проводилось в различных категориях, включая биологические приложения и приложения в области кибербезопасности. Ранее OpenAI и Anthropic договорились о предоставлении своих моделей государственным учреждениям.

Крупные компании, такие как Anthropic, следуют установленным ими самими правилам безопасности

Амодей упомянул, что крупные компании добровольно согласились с определенными самостоятельно установленными правилами. К ним относятся структура готовности OpenAI и политика ответственного масштабирования Anthropic. Однако он добавил, что для обеспечения безопасности необходима дополнительная работа.

«Нет никаких реальных доказательств того, что компании действительно следуют этим планам в точности. Они просто сказали, что будут это делать», — сказал Амодей. Он также добавил: «Я думаю, что общественное внимание и тот факт, что сотрудникам небезразлично происходящее, создали определенное давление, но в конечном итоге я считаю, что этого будет недостаточно»

Амодей считает, что мощные системы искусственного интеллекта способны превзойти самых умных людей. Он также полагает, что такие системы могут стать доступными к 2026 году. Он добавляет, что компании, занимающиеся разработкой ИИ, все еще тестируют определенные катастрофические угрозы и биологические угрозы, ни одна из которых в настоящее время не является реальной. Однако эти гипотетические испытания могут стать реальностью гораздо раньше.

Он также предостерег, что требования к тестированию систем искусственного интеллекта должны быть гибкими, учитывая тот факт, что технология постоянно развивается. По его словам, это очень сложная «социально-политическая проблема», которую трудно решить.