Роль RAND в формировании политики Байдена по ИИ вызывает вопросы о влиянии
- Роль Корпорации RAND в разработке ИИ-политики президента Байдена вызывает опасения по поводу потенциальной предвзятости из-за её тесных связей с Open Philanthropy, крупным донором.
- Эффективные альтруисты в RAND делают приоритетом решение апокалиптических рисков ИИ, но критики утверждают, что такой фокус может привести к игнорированию существующих проблем, таких как расовая предвзятость в системах ИИ и вопросы авторского права.
- Внутрикорпоративные опасения сотрудников RAND подчеркивают обеспокоенность тем, что аффилированность организации с эффективным альтруизмом может подорвать её репутацию объективности в разработке политики в области ИИ.
Влиятельный аналитический центр RAND Corporation оказался под пристальным вниманием из-за своего участия в формировании политики США в области ИИ. Недавнее раскрытие информации указывает на то, что RAND существенно участвовал в разработке исполнительного указа президента Джо Байдена по искусственному интеллекту (ИИ), в частности, в части требований к отчетности для продвинутых систем ИИ. Хотя этот шаг направлен на снижение потенциально катастрофических рисков, связанных с ИИ, возникли опасения относительно влияния Open Philanthropy, крупного донора RAND.
Влияние RAND на политику в области ИИ
Исполнительный указ президента Байдена по ИИ, изданный в октябре , устанавливает требования к отчетности для регулирования использования и разработки передовых технологий ИИ. Эти требования, напоминающие приоритеты политики Open Philanthropy, призваны решить экзистенциальные риски, создаваемые ИИ, такие как потенциальное создание биологического оружия с помощью систем ИИ.
Примечательно, что генеральный директор RAND Джейсон Матени и старший научный сотрудник в области информации Джефф Алстоут являются видными фигурами в движении эффективного альтруизма, которое выступает за основанные на данных подходы к филантропии и подчеркивает важность решения вопросов апокалиптического потенциала ИИ.
Вклад Open Philanthropy
Open Philanthropy, финансируемая сооснователем Facebook Дастином Московицем и его женой Кари Туна, является значительным донором для RAND, пожертвовав более 15 миллионов долларов только в этом году. Организация согласовывает свои филантропические усилия с эффективным альтруизмом, который ставит технологию ИИ в центр своих опасений.
Эффективные альтруисты, включая тех, кто работает в RAND, выступают за ответственное развитие и регулирование ИИ, чтобы предотвратить misuse этой мощной технологии. Их влияние выросло в Вашингтоне по мере того, как политики все чаще признают необходимость решения потенциальных опасностей ИИ.
Балансирование приоритетов
Критики утверждают, что интенсивный фокус эффективного альтруизма на ИИ может непреднамеренно служить интересам технологических гигантов, отвлекая внимание политиков от существующих проблем, связанных с ИИ. Такие проблемы включают сохранение расовой предвзятости в системах ИИ и эрозию защиты авторских прав.
Эта критика ставит под вопрос потенциальную предвзятость в разработке политики ИИ. Сотрудники RAND, связанные с эффективным альтруизмом, участвуют в разработке исполнительных указов и влиянии на направление регулирования ИИ.
В ответ на эти опасения представитель RAND Джеффри Хайдей признал, что сотрудники RAND сыграли роль в разработке исполнительного указа по ИИ. Он объяснил, что основная миссия RAND заключается в исследовании и анализе критических вопросов и обмене этим опытом с политиками. Однако Хайдей не ответил напрямую на вопросы об объективности организации в свете ее связей с Open Philanthropy.
Обеспокоенность сотрудников
Недавние раскрытия информации об участии RAND в формировании политики ИИ не остались незамеченными среди его сотрудников. Во время общего собрания в октябре один из сотрудников выразил обеспокоенность тем, что связь аналитического центра с Open Philanthropy может подорвать его репутацию строгости и объективности. Существуют опасения, что ассоциация RAND с эффективным альтруизмом может привести к приоритизации «повестки эффективного альтруизма» над беспристрастной разработкой политики.
Значительное влияние RAND Corporation на формирование политики президента Байдена по ИИ вызвало вопросы об объективности организации и потенциальной предвзятости. Хотя аналитический центр утверждает, что его участие соответствует его миссии по предоставлению экспертизы политикам, сохраняются опасения относительно влияния Open Philanthropy и движения эффективного альтруизма на разработку политики в области ИИ.
По мере того как ИИ продолжает развиваться и играть все более важную роль в обществе, политикам, аналитическим центрам и организациям, участвующим в формировании политики ИИ, необходимо поддерживать прозрачность и беспристрастность, чтобы обеспечить ответственное развитие и регулирование этой трансформирующей технологии. Дебаты о том, как найти баланс между инновациями и защитой от потенциальных рисков, вероятно, продолжатся по мере развития технологий ИИ.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
