Использование данных для безопасного будущего ИИ

В 2023 году искусственный интеллект общего назначения (ИИГО) стремительно вошёл в мейнстрим, изменив всё: от помощи с домашними заданиями до создания контента в социальных сетях. Такие громкие примеры, как упоминание ИИ в «Королевской речи», подчеркнули его растущее влияние. Однако столь быстрая интеграция ИИ в повседневную жизнь вызывает опасения. Рассуждения часто склоняются к антиутопическим страхам, затмевая потенциальные преимущества технологии. Ключевой проблемой стала скорость внедрения ИИ, которая опережает разработку необходимых законодательных и этических рамок.

Крупные технологические компании столкнулись с критикой за недостаточное саморегулирование, которое описывалось как «самостоятельная проверка результатов работы над ИИ». В ответ США объединили лидеров отрасли, таких как Amazon, Google, OpenAI и Microsoft, для подписания новаторского добровольного соглашения. Этот пакт позволяетdent экспертам по безопасности оценивать их новейшие модели ИИ. Аналогичным образом, в Великобритании премьер-министр Риши Сунак объявил о планах создания первого в мире института безопасности ИИ, целью которого является устранение рисков для национальной безопасности. Этот шаг совпал с международным соглашением между США, Великобританией и рядом других стран о защите ИИ от неправомерного использования и обеспечении «безопасности систем по умолчанию».

На мировой арене развернулась неофициальная борьба между правительствами за лидерство в регулировании ИИ. Важной вехой стало проведение в Великобритании первого Саммита по безопасности ИИ в Блетчли-парке. Обсуждения были сосредоточены на тёмных сторонах ИИ, в том числе на сравнении с рисками ядерной войны. Однако высказывались опасения по поводу исключения сообществ, которые, вероятнее всего, пострадают от ИИ в таких областях, как занятость или алгоритмическое принятие решений.

Задача регулирования неизвестного

Стратегия Великобритании, сформулированная Риши Сунаком, вращается вокруг дилеммы законодательного регулирования пока ещё не до конца изученной технологии. Эта тема была центральной на саммите Института открытых данных, где я вместе с соучредителем Тимом Бернерсом-Ли подчеркнул важность прозрачности моделей ИИ и их данных. Мы утверждали, что эффективное исследование ИИ должно включать тех, кто разбирается в его тонкостях, а в эту группу обычно не входят политические деятели.

Общественная обеспокоенность, особенно влиянием ИИ на рабочие места, была ощутима. Этоdent в 146-дневной забастовке Гильдии писателей Америки и в иске Getty Images против Stability AI. Несмотря на эти опасения, творческая индустрия приняла генеративный ИИ, создав выдающиеся изображения и даже удостоенные наград произведения искусства. Появились инструменты, такие как Nightshade, для защиты прав творцов, «отравляя» данные, используемые ИИ, что затрудняет его способность воспроизводить человеческие работы.

Важным аспектом 2023 года стала проблема грамотности в работе с данными. Опросы среди компаний из списка Fortune 1000 выявили стагнацию в инициативах в области данных, аналитики и искусственного интеллекта. Дефицит навыков в области цифровых технологий и данных в Великобритании, особенно в сфере государственной службы, был отмечен как актуальная проблема.

2024 и далее: данные как основа ИИ

В преддверии 2024 года становится ясно, что основой эффективного и безопасного ИИ являются данные. Мощь и безопасность ИИ напрямую зависят от качества и управления используемыми им данными. В преддверии всеобщих выборов крайне важно, чтобы политические партии признавали данные краеугольным камнем технологических достижений и брали на себя обязательство по их ответственному сбору и распространению. Ещё одним важным аспектом является сохранение человеческого контроля над решениями, принимаемыми с помощью ИИ, обеспечивая постоянное присутствие человека, способного проверять и обжаловать решения, принятые алгоритмами.

Проблемы, с которыми столкнулась OpenAI в конце прошлого года в управлении и контроле за быстрой разработкой ИИ, подчеркнули необходимость участия разнообразных и квалифицированных специалистов в обучении и применении ИИ. Образовательный сектор начинает рассматривать ИИ как универсальный инструмент обучения, а не как средство для плагиата. Надежда на 2024 год — воспитать поколение, грамотное в работе с данными, способное отличать факты от вымысла, созданного ИИ, и готовое занять новые рабочие места в мире дополненной реальности с помощью ИИ.