- Эксперименты с ИИ показали, что чат-боты не оказали существенного влияния на планирование биологического злоупотребления.
- Исследования имели ограничения и вызвали дискуссии, однако необходимы дополнительные исследования.
- Результаты дают представление о ситуации, но не являются окончательными, демонстрируя сложную роль ИИ в обеспечении биологической безопасности.
В последние месяцы были высказаны опасения относительно потенциального пересечения искусственного интеллекта (ИИ) и биологических угроз, с опасениями, что ИИ может способствовать созданию опасных биологических оружия. Однако, несмотря на значительное внимание экспертов и законодателей, не было зафиксировано случаев биологического злоупотребления, связанных с ИИ или чат-ботами на базе ИИ.
Результаты экспериментов: более подробный обзор
Два заметных эксперимента, проведенных корпорацией RAND и OpenAI, были направлены на оценку влияния ИИ, в частности больших языковых моделей, таких как GPT-4, на развитие биологических угроз. Хотя оба исследования пришли к выводу, что доступ к чат-ботам не значительно улучшает способность генерировать планы биологического злоупотребления, их выводы имеют важные оговорки.
Как исследование корпорации RAND, так и исследование OpenAI использовали специфические методологии для оценки потенциального влияния чат-ботов на развитие биологических угроз. RAND использовала подход «красной команды», привлекая группы людей для разработки планов злонамеренных действий с использованием биологии. В то же время участники OpenAI работали индивидуально, чтобы выявить ключевую информацию, необходимую для гипотетического сценария биологического злоупотребления.
Однако, несмотря на эти усилия, необходимо признать ограничения, присущие дизайну исследований. Выводы, сделанные на основе этих экспериментов, следует рассматривать как предварительные выводы, а не как окончательные оценки ландшафта угроз.
Споры вокруг статистического анализа
Отчет OpenAI, в частности, вызвал споры из-за своей методологии статистического анализа. Критики поставили под сомнение целесообразность некоторых корректировок, примененных во время анализа, что могло повлиять на интерпретацию результатов. Без этих корректировок выводы могли бы указывать на значительную связь между доступом к чат-ботам и повышенной точностью в создании биологических угроз.
Оба исследования опирались на оценщиков из числа третьих лиц, которые присваивали баллы ответам участников, сравнивая тех, у кого был доступ к чат-ботам, с теми, у кого его не было. Несмотря на тщательный анализ, ни одна из исследовательских команд не обнаружила статистически значимых различий между двумя группами. Однако важно отметить, что статистическая значимость сильно зависит от размера выборки, что предполагает, что даже незначительные различия могут привести к значимым результатам при большем количестве участников.
Последствия и будущие направления
Хотя эксперименты RAND и OpenAI предоставляют ценные сведения о потенциальной роли ИИ в развитии биологических угроз, их ограничения подчеркивают необходимость дальнейших исследований. Ответы на более крупные вопросы, касающиеся биологических угроз, связанных с ИИ, будут иметь решающее значение для информирования будущих экспериментов и усилий по разработке политики для снижения рисков.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Джеймс Киноти
Энтузиаст криптовалют Джеймс получает удовольствие от обмена знаниями в области финтеха, криптовалют, блокчейна и передовых технологий. Его главная страсть — новейшие инновации в криптоиндустрии, криптогейминг, искусственный интеллект, технологии блокчейна и другие смежные направления. Его миссия: быть в курсе трансформационных приложений в различных отраслях.
