Генеральный директор OpenAI Сэм Альтман выступит перед Конгрессом по вопросу будущего ИИ

Генеральный директор OpenAI Сэм Альтман, вице-президент IBM по вопросам доверия и конфиденциальности Кристина Монтгомери и почетный профессор Нью-Йоркского университета Гэри Маркус запланировали выступить перед Конгрессом 16 мая по вопросам регулирования и надзора за ИИ. Хотя детали повестки слушаний остаются в секрете, название «Надзор за ИИ: правила для искусственного интеллекта» предполагает, что обсуждение будет сосредоточено на вопросах безопасности и конфиденциальности. Маркус, который недавно высказался в поддержку шестимесячного «паузы» в разработке ИИ, инициированной сообществом, является единственным аутсайдером среди запланированных участников.

Идея Маркуса о «паузе» в развитии ИИ была изложена в открытом письме, опубликованном на сайте Института будущего жизни (Future of Life Institute) 22 марта, которое уже набрало более 27 500 подписей. Цель письма — «обратиться ко всем лабораториям ИИ с призывом немедленно приостановить на срок не менее 6 месяцев обучение систем ИИ, превосходящих по мощности GPT-4».

Генеральный директор OpenAI и Кристина Монтгомери входят в число тех, кто выступает против паузы. Монтгомери считает, что тотальная пауза в обучении ИИ, наряду с существующими тенденциями, которые, похоже, снижают приоритетность инвестиций в этические аспекты ИИ в отрасли, приведет лишь к дополнительному вреду и откатам. IBM считает, что ИИ должен регулироваться на основе оценки рисков.

IBM и OpenAI занимают противоположные позиции по вопросам этики ИИ 

OpenAI отвечает за создание ChatGPT, вероятно, самой популярной публичной технологии ИИ в мире. Альтман поддерживает безопасное и этичное развитие систем ИИ, но выступает за «вовлечение всех в обсуждение» и «вывод этих систем в мир». Монтгомери, являющаяся членом Национального консультативного комитета США по ИИ, выступила за более точный подход к регулированию ИИ, подчеркнув необходимость приоритизации этики.

Предстоящие слушания в Сенате, вероятно, будут служить площадкой для того, чтобы члены Конгресса могли задавать вопросы. В зависимости от того, чьему мнению доверять, обсуждение может иметь разрушительные последствия. Если Конгресс решит, что регулирование ИИ требует жесткого подхода, Монтгомери опасается, что такие усилия могут оказать охлаждающее влияние на инновации, не обязательно решая вопросы безопасности.

 Этот вред может распространиться на операционные сектора, где технологии GPT лежат в основе множества ботов и сервисов. Эксперты, такие как Маркус и Илон Маск, опасаются, что неспособность принять то, что они считают здравым смыслом в политике надзора за ИИ, может привести к экзистенциальному кризису для человечества.

Предстоящие слушания в Сенате, вероятно, будут посвящены необходимости регулирования и надзора за ИИ. Хотя Альтман и Монтгомери выступают против тотальной паузы в разработке ИИ, Маркус поддерживает её. Обсуждение может иметь разрушительные последствия в зависимости от того, решит ли Конгресс, что регулирование ИИ требует жесткого подхода или нет. Если Монтгомери опасается охлаждающего эффекта на инновации, то Маркус и Маск беспокоятся, что отсутствие здравого смысла в политике может привести к экзистенциальному кризису для человечества.