Можем ли мы контролировать влияние ИИ? Уроки закрытой дискуссии в Конгрессе

На закрытом заседании в Капитолии США известный технологический предприниматель Илон Маск выступил с суровым предупреждением об опасностях искусственного интеллекта (ИИ), заявив, что существует «абсолютная» вероятность того, что он может «убить нас всех».

На форуме AI Insight, где американские законодатели и специалисты технологической отрасли собрались, чтобы обсудить колоссальное влияние ИИ на общество, Маск сделал это пугающее заявление. В ходе дискуссий Маск выступил за создание государственного агентства, призванного контролировать развитие ИИ и защищать человечество от его потенциальных угроз.

Технологические титаны обсуждают влияние ИИ

На форуме AI Insight, собравшем видных деятелей технологического сектора и законодателей, Илон Маск, известный своим участием в Tesla, SpaceX и X Corp. (ранее Twitter), попал в заголовки газет, выразив обеспокоенность экзистенциальными рисками, связанными с ИИ. Выступление Маска подчеркнуло его убежденность в том, что, хотя вероятность причинения вреда со стороны ИИ может быть низкой, необходимо учитывать хрупкость человеческой цивилизации перед лицом таких рисков.

Призыв Маска к активному вмешательству государства нашел отклик у участников, включая генерального директора Meta Platforms Inc. Марка Цукерберга, соучредителя Microsoft Билла Гейтса, соучредителя и генерального директора OpenAI LP Сэма Альтмана и генерального директора Nvidia Corp. Дженсена Хуанга. Форум способствовал всестороннему обсуждению приоритетов в области ИИ, связанных с ним рисков и мер регулирования, которые могли бы помочь снизить эти риски.

Острая необходимость регулирования ИИ

Сенатор Чак Шумер, организовавший заседание, поделился своей точкой зрения на регулирование ИИ и подчеркнул необходимость участия государства. По словам Шумера, все участники встречи поддержали идею государственного надзора. Их коллективный консенсус основывался на признании того, что не все компании добровольно устанавливают меры защиты для ИИ, что оставляет простор для потенциального злоупотребления и нанесения вреда.

Среди конкретных проблем, поднятых в ходе обсуждения, была проблема систем искусственного интеллекта с открытым исходным кодом. Эти системы, легко доступные для скачивания и модификации, позволяют компаниям использовать мощные языковые модели, такие как ChatGPT, для различных целей без значительных инвестиций в обучение. Тристан Харрис, соучредитель и исполнительный директор Центра гуманных технологий, выразил опасения, что системы искусственного интеллекта с открытым исходным кодом могут быть использованы злоумышленниками, приведя в пример потенциальное использование модели Llama 2 компании Meta для создания опасных биологических соединений.

Марк Цукерберг защищал концепцию открытого исходного кода, утверждая, что она демократизирует доступ к передовым инструментам ИИ. Он признал связанные с этим риски, но подчеркнул, что Meta стремится повысить безопасность таких систем. Цукерберг подчеркнул важность доступности и инноваций в сфере ИИ.

Влияние ИИ на рабочие места и конфиденциальность

Сенатор Мария Кантвелл выразила обеспокоенность работников, которые считают ИИ надвигающейся угрозой своему существованию. Она особо отметила беседы с Мередит Стим, главой Гильдии писателей Западной Америки, члены которой объявили забастовку отчасти из-за опасений, что ИИ в конечном итоге может заменить их работу в индустрии развлечений.

В заключение сессии Илон Маск выразил скептицизм относительно готовности Конгресса регулировать ИИ, призвав к тщательному изучению этого вопроса перед принятием законодательства. Однако сенатор Шумер подчеркнул свою приверженность разработке нормативно-правовой базы для ИИ и планирует принять соответствующий закон в ближайшие месяцы. Ключевой проблемой остаётся определение сферы действия законодательства, поскольку на форуме поднимались такие вопросы, как конфиденциальность, нарушения авторских прав, расовая предвзятость, экономические последствия для Китая и других геополитических соперников, а также использование технологий ИИ военными.

Форум AI Insight собрал вместе видных деятелей отрасли и политиков для обсуждения многогранных проблем, связанных с искусственным интеллектом. Мрачное предупреждение Илона Маска о потенциальных опасностях ИИ задало тон дискуссии, подчеркнувшей острую необходимость в активном государственном регулировании, особенно в контексте систем ИИ с открытым исходным кодом и связанных с ними рисков. Пока законодатели пытаются определить масштабы и специфику законодательства в области ИИ, влияние ИИ на рабочие места и конфиденциальность остается центральной проблемой в продолжающемся диалоге о будущем искусственного интеллекта.