Калифорния разрабатывает стратегию использования ИИ с учетом этических аспектов

В недавнем отчете, подготовленном офисом губернатора Калифорнии, изложено видение интеграции генеративного искусственного интеллекта (GenAI) в государственные программы. В 34-страничном документе, подготовленном по заказу губернатора Гэвина Ньюсома, освещаются потенциальные преимущества и риски, связанные с GenAI. В нем подчеркивается необходимость этичного использования и прозрачного внедрения для улучшения государственных услуг, а также рассматриваются такие проблемы, как конфиденциальность данных, дезинформация, равенство и предвзятость.

В докладе подчеркивается многообразие применений GenAI, включая его полезность в переводе правительственных материалов на несколько языков, выявлении налогового мошенничества, обобщении комментариев общественности и предоставлении информации о государственных услугах. Однако в нем также подчеркивается важность защиты от неправомерного использования этой технологии.

Влияние на государство и экономику

Калифорния является центром развития искусственного интеллекта, здесь расположены 35 из 50 ведущих мировых компаний в этой области. По данным Pitchfork, ожидается, что рынок GenAI достигнет 42,6 миллиарда долларов в 2023 году. Подход штата к ИИ — это не просто вопрос государственной политики, но и экономическая необходимость. В отчете признается потенциал ИИ для революционизации экономики Калифорнии, но также предупреждаются о таких рисках, как распространение дезинформации, предоставление опасных медицинских советов и внедрение опасных технологий.

Администрация губернатора призывает к сбалансированному подходу к ИИ, признавая преобразующее воздействие этой технологии и необходимость решения проблем безопасности. Эта позиция отражает более широкую дискуссию в технологическом сообществе, где мнения об ИИ варьируются от предупреждений о чрезмерной зависимости от автоматизации до оптимистичных взглядов на его потенциал в решении глобальных проблем, таких как изменение климата и болезни.

Нормативно-правовая база и дальнейшие шаги

Данный доклад совпадает со значительными событиями в индустрии искусственного интеллекта, включая изменения в руководстве крупных компаний и продолжающуюся конкуренцию между технологическими гигантами, такими как Google, Facebook и OpenAI, поддерживаемая Microsoft. Эти изменения подчеркивают динамичный характер отрасли и сложности в создании эффективного управления.

Пока Калифорния разрабатывает руководящие принципы использования GenAI, для государственных служащих были предложены временные положения. К ним относятся запрет на передачу данных о жителях Калифорнии инструментам ИИ, таким как ChatGPT или Google Bard, а также ограничения на использование неутвержденных инструментов на государственных устройствах. Правоохранительные органы, такие как полиция Лос-Анджелеса, также изучают возможность использования ИИ для анализа видеозаписей с нательных камер.

В ходе последней законодательной сессии усилия штата по регулированию ИИ не принесли существенного прогресса, но ожидаются новые законопроекты. Предполагается, что они будут направлены на борьбу с предвзятостью и замену работников индустрии развлечений цифровыми клонами.

На международном уровне регулирование ИИ является предметом активного обсуждения. Исполнительный указdent Байдена об ИИ, устанавливающий стандарты безопасности, является частью этого глобального диалога. Сэм Альтман, генеральный директор OpenAI, прокомментировал указ, назвав его «хорошим началом», но отметив, что существующие модели не требуют «жесткого регулирования». Его замечания прозвучали незадолго до его временного отстранения от должности генерального директора OpenAI, подчеркнув продолжающуюся дискуссию о балансе между развитием ИИ и вопросами безопасности и этики.

 Сбалансированный подход к искусственному интеллекту

Отчет Калифорнии о GenAI является важным шагом в решении сложной взаимосвязи между технологическими инновациями и общественным благополучием. Лидерство штата в разработке ИИ ставит его в авангарде этого глобального обсуждения. По мере того как Калифорния движется по этим неизведанным водам, ее стратегии и политика могут служить образцом для других регионов, сталкивающихся с аналогичными проблемами. Конечная цель — использовать преимущества ИИ, обеспечивая при этом безопасность, конфиденциальность и равенство для всех.