OpenAIГенеральный директор OpenAI Сэм Альтман, вице-президент IBM по вопросам доверия и конфиденциальности Кристина Монтгомери и почетный профессор Нью-Йоркского университета Гэри Маркус должны выступить перед Конгрессом 16 мая с показаниями по вопросам регулирования и надзора за ИИ. Хотя подробности повестки дня слушаний пока скудны, название «Надзор за ИИ: правила для искусственного интеллекта» предполагает, что обсуждение будет сосредоточено на безопасности и конфиденциальности. Маркус, который недавно выразил поддержку инициативе сообщества по «приостановке» разработки ИИ на шесть месяцев, является единственным исключением среди запланированных участников.
Идея Маркуса о «паузе» в развитии ИИ была defi в открытом письме , опубликованном на сайте Института будущего жизни 22 марта, которое собрало более 27 500 подписей. Цель письма — «призвать все лаборатории ИИ немедленно приостановить, по крайней мере на 6 месяцев, обучение систем ИИ, более мощных, чем GPT-4».
Генеральный директор OpenAI Кристина Монтгомери входит в число тех, кто выступает против приостановки. Монтгомери считает, что повсеместная приостановка обучения ИИ, наряду с существующими тенденциями, которые, похоже, снижают приоритет инвестиций в этические аспекты ИИ в отрасли, приведет только к дополнительному вреду и неудачам. IBM считает, что регулирование ИИ должно основываться на оценке рисков.
IBM и OpenAI занимают противоположные позиции по вопросам этики искусственного интеллекта
Компания OpenAI разработала ChatGPT , пожалуй, самую популярную из существующих общедоступных технологий искусственного интеллекта. Альтман поддерживает безопасную и этичную разработку систем ИИ, но считает, что необходимо «вовлекать всех в обсуждение» и «выпускать эти системы в мир». Монтгомери, член Национального консультативного комитета США по ИИ, высказался за более точный подход к регулированию ИИ, подчеркнув необходимость приоритетного внимания к этике.
Предстоящие слушания в Сенате, вероятно, станут площадкой для вопросов, которые зададут члены Конгресса. В зависимости от того, каким экспертам верить, дискуссия может иметь деструктивные последствия. Если Конгресс решит, что регулирование ИИ заслуживает более жесткого подхода, Монтгомери опасается, что такие усилия могут оказать сдерживающее воздействие на инновации, не обязательно решая проблемы безопасности.
Этот вред может отразиться на тех секторах, где технология GPT лежит в основе множества ботов и сервисов. Такие эксперты, как Маркус и Илон Маск, опасаются, что неспособность принять, по их мнению, разумную политику в отношении контроля за ИИ может привести к экзистенциальному кризису для человечества.
Предстоящие слушания в Сенате, вероятно, будут посвящены необходимости ИИ . Хотя Альтман и Монтгомери выступают против повсеместной приостановки разработки ИИ, Маркус поддерживает её. Дискуссия может иметь разрушительные последствия в зависимости от того, решит ли Конгресс, что регулирование ИИ заслуживает более жёсткого подхода или нет. В то время как Монтгомери опасается сдерживающего эффекта для инноваций, Маркус и Маск беспокоятся, что неспособность принять разумную политику может привести к экзистенциальному кризису для человечества.
