Исследователи выявили недостатки в руководящих принципах ЕС по ИИ

Недавнее исследование, проведенное исследователями Стэнфордского университета, показывает, что крупные технологические компании, включая OpenAI, создателей ChatGPT, Meta (ранее Facebook) и Google, могут столкнуться с конфликтами с проектом правил ЕС, касающимся развертывания и использования искусственного интеллекта (ИИ).

Драма с регулированием ИИ в ЕС

Исследование Стэнфордского университета, проведенное исследователем ИИ Риши Боммасани, вскрывает назревающий конфликт между многомиллиардной индустрией, которую политики поддерживают в интересах национальной безопасности, и международными органами, стремящимися смягчить потенциальные риски.

В документе особо отмечается, что эти корпорации не в достаточной степени соблюдают проект руководящих принципов, особенно в вопросах авторского права.

Инструменты генеративного ИИ — программные приложения, разработанные с использованием огромных массивов данных для создания текста, кода и изображений, похожих на человеческие, — растут с экспоненциальной скоростью.

Эти модели ИИ, такие как ChatGPT, Bard и Midjourney, часто используют защищенный авторским правом контент для целей обучения.

Согласно предложениям Закона ЕС об ИИ, разработчики таких инструментов будут обязаны раскрывать информацию о сгенерированном ИИ контенте и предоставлять сводки об использованных в процессе обучения материалах, защищенных авторским правом, тем самым обеспечивая компенсацию создателей за их вклад.

Проблема соответствия требованиям

Исследование Стэнфорда оценило десять моделей ИИ на соответствие предварительным нормам ЕС по различным параметрам, таким как описание источников данных, сводки по материалам, защищенным авторским правом, раскрытие информации об энергопотреблении и вычислительных потребностях технологии, а также детализация оценок, тестов и прогнозируемых рисков, связанных с технологией.

Исследование показало, что каждая модель не соответствовала предложенным правилам в нескольких важных аспектах. Более половины оцениваемых провайдеров не достигли даже 50% уровня соответствия.

В частности, проприетарные модели ИИ, такие как ChatGPT от OpenAI и PaLM 2 от Google, подверглись критике за отсутствие прозрачности в отношении материалов, защищенных авторским правом. С другой стороны, их конкуренты с открытым исходным кодом продемонстрировали большую прозрачность, но создавали проблемы с контролем.

Отвечая на эти опасения, Румман Чоудхури из Гарвардского университета отметила, что ИИ не является по своей природе нейтральным, надежным или полезным, и для обеспечения его надлежащего использования необходимы скоординированные и направленные усилия. Доверие, по ее мнению, является настоящей конкурентной силой в этой сфере.

Глобальные последствия и будущие соображения

Выводы исследования Стэнфорда, представленные на недавнем слушании комитета Конгресса США по ИИ, будут направлять регуляторов по всему миру в их попытках разобраться в этой трансформирующей технологии, которая, как прогнозируется, изменит индустрии от финансовых услуг до медиа.

Однако это исследование также освещает сохраняющееся напряжение между темпами развития ИИ и ответственным ростом. По словам Фрэнка Лукаса, республиканского председателя комитета, хотя США должны сохранять свою лидирующую роль в области ИИ, они также должны придерживаться ценностей надежности, прозрачности и справедливости.

По мере того как Закон ЕС об ИИ готовится к введению конкретных правил, а США планируют представить связанное законодательство, Боммасани выступает за большую прозрачность внутри отрасли для более эффективного регулирования ИИ.

Тем не менее, он также признает, что обеспечение соблюдения этих законов будет сложной задачей. Понимание того, как сводить воедино защищенные авторским правом части этих огромных наборов данных, не является очевидным сразу.

По мере того как регулирование становится более конкретным, лоббистские усилия, как ожидается, усилятся как в Брюсселе, так и в Вашингтоне.