Роль RAND в формировании политики Байдена в области искусственного интеллекта вызывает вопросы о характере влияния

Влиятельный аналитический центр RAND Corporation оказался под пристальным вниманием из-за своего участия в формировании политики США в области искусственного интеллекта (ИИ). Недавние разоблачения указывают на то, что RAND существенно повлиял на разработкуdent указа Джо Байдена об искусственном интеллекте (ИИ), уделяя особое внимание требованиям к отчетности для передовых систем ИИ. Хотя этот шаг призван смягчить потенциально катастрофические риски, связанные с ИИ, возникли опасения относительно влияния Open Philanthropy, крупного донора RAND. 

Влияние RAND на политику в области искусственного интеллекта

президентаdent Байдена об искусственном интеллекте, изданный в октябре, определяет требования к отчетности для регулирования использования и разработки передовых технологий ИИ. Эти требования, которые по своему характеру напоминают политические приоритеты организации Open Philanthropy, направлены на решение экзистенциальных рисков, связанных с ИИ, таких как потенциальное создание биологического оружия с использованием систем ИИ.

Примечательно, что Джейсон Матени, генеральный директор RAND, и Джефф Алстотт, старший научный сотрудник RAND в области информационных технологий, являются видными фигурами в движении эффективного альтруизма, которое выступает за подходы к филантропии, основанные на данных, и подчеркивает важность решения проблемы апокалиптического потенциала ИИ.

Вклад Open Philanthropy

Организация Open Philanthropy, финансируемая соучредителем Facebook Дастином Московицем и его женой Кари Туной, является значительным спонсором RAND, пожертвовав в этом году более 15 миллионов долларов. Организация согласовывает свою благотворительную деятельность с принципами эффективного альтруизма, ставя технологии искусственного интеллекта во главу угла.

Сторонники эффективного альтруизма, в том числе сотрудники RAND, выступают за ответственное развитие и регулирование ИИ, чтобы предотвратить злоупотребление этой мощной технологией. Их влияние в Вашингтоне возросло, поскольку политики все чаще признают необходимость решения потенциальных опасностей, связанных с ИИ.

Балансирование приоритетов

Критики утверждают, что пристальное внимание эффективного альтруизма к искусственному интеллекту может непреднамеренно служить интересам технологических гигантов, отвлекая внимание политиков от существующих проблем, связанных с ИИ. К таким проблемам относятся увековечивание расовой предвзятости в системах ИИ и ослабление защиты авторских прав.

Эта критика поднимает вопросы о потенциальной предвзятости в разработке политики в области ИИ. Сотрудники RAND, связанные с эффективным альтруизмом, участвуют в подготовке указов и влияют на направление регулирования ИИ.

В ответ на эти опасения представитель RAND Джеффри Хайдей признал, что сотрудники RAND принимали участие в разработке указа об искусственном интеллекте. Он пояснил, что основная миссия RAND заключается в исследовании и анализе важнейших тем и обмене экспертными знаниями с политиками. Однако Хайдей не стал напрямую комментировать опасения по поводу объективности организации в свете ее связей с Open Philanthropy.

опасения сотрудников

Недавние разоблачения об участии RAND в формировании политики в области искусственного интеллекта не остались незамеченными среди сотрудников аналитического центра. Во время общего собрания в октябре один из сотрудников выразил опасения, что связь аналитического центра с Open Philanthropy может подорвать его репутацию в области строгости и объективности. Существуют опасения, что связь RAND с эффективным альтруизмом может привести к тому, что приоритет будет отдан «программе эффективного альтруизма» в ущерб беспристрастной разработке политики.

Значительное влияние корпорации RAND на формирование политикиdent Байдена в области искусственного интеллекта вызвало вопросы об объективности организации и ее потенциальной предвзятости. Хотя аналитический центр утверждает, что его участие соответствует его миссии по предоставлению экспертных знаний политикам, сохраняются опасения по поводу влияния движения «Открытая филантропия» и движения эффективного альтруизма на разработку политики в области ИИ.

Поскольку искусственный интеллект продолжает развиваться и играть все более важную роль в обществе, крайне важно, чтобы политики, аналитические центры и организации, участвующие в формировании политики в области ИИ, сохраняли прозрачность и беспристрастность для обеспечения ответственного развития и регулирования этой преобразующей технологии. Дискуссия о том, как найти баланс между инновациями и защитой от потенциальных рисков, вероятно, продолжится по мере развития технологий ИИ.