В последние месяцы высказывались опасения по поводу потенциального взаимодействия искусственного интеллекта (ИИ) и биологических угроз, а также опасения, что ИИ может способствовать разработке опасного биологического оружия. Однако, несмотря на значительное внимание со стороны экспертов и законодателей, случаев биологического насилия с использованием ИИ или управляемых ИИ чат-ботов зарегистрировано не было.
Результаты эксперимента: более подробный анализ
Два важных эксперимента, проведенные корпорацией RAND и компанией OpenAI, были направлены на оценку влияния ИИ, в частности больших языковых моделей, таких как GPT-4, на разработку биологических угроз. Хотя оба исследования пришли к выводу, что доступ к чат-ботам не значительно повысил способность разрабатывать планы биологического злоупотребления, их результаты имеют важные оговорки.
В исследованиях как корпорации RAND, так и OpenAI использовались специфические методологии для оценки потенциального влияния чат-ботов на развитие биологических угроз. RAND применила подход «красной команды», набирая группы людей для разработки планов противоправных действий с использованием биологических средств. В то же время OpenAI предложила участникам работать индивидуально, чтобыdentключевую информацию, необходимую для гипотетического сценария злоупотребления биологическими средствами.
Однако, несмотря на эти усилия, необходимо признать ограничения, присущие дизайну исследований. Выводы, сделанные на основе этих экспериментов, следует рассматривать как предварительные результаты, а не как defiоценку ландшафта угроз.
Споры вокруг статистического анализа
Отчет OpenAI , в частности, вызвал споры из-за методологии статистического анализа. Критики поставили под сомнение целесообразность некоторых поправок, внесенных в ходе анализа, которые потенциально могли повлиять на интерпретацию результатов. Без этих поправок результаты могли бы указывать на значительную связь между доступом к чат-ботам и повышением точности создания биологических угроз.
В обоих исследованиях для оценки ответов участников использовались оценки сторонних экспертов, сравнивавшие тех, кто имел доступ к чат-ботам, с теми, кто такого доступа не имел. Несмотря на тщательный анализ, ни одна из исследовательских групп не обнаружила статистически значимых различий между двумя группами. Однако важно отметить, что статистическая значимость в значительной степени зависит от размера выборки, что позволяет предположить, что даже незначительные различия могут привести к значимым результатам при большем количестве участников.
Последствия и направления дальнейших исследований
Хотя эксперименты RAND и OpenAI предоставляют ценную информацию о потенциальной роли ИИ в развитии биологических угроз, их ограничения подчеркивают необходимость дальнейших исследований. Решение более масштабных вопросов, касающихся биологических угроз, связанных с ИИ, будет иметь решающее значение для проведения будущих экспериментов и разработки политики по снижению рисков.
