Угроза ИИ — это вопрос человеческого намерения, а не технологии, профессор Вирджиния Дидним

Краткое содержание

• Основная угроза, исходящая от ИИ, заключается в том, как люди неправильно используют технологию, а не в самой технологии.
• Непосредственное внимание следует уделить решению проблем, вызванных системами ИИ, таких как неравенство, предвзятость, дискриминация и вопросы конфиденциальности.
• Регулирование и подотчетность ИИ должны включать совместные усилия разработчиков, правительств и регулирующих органов для обеспечения этических стандартов и защиты общества.

Разработка искусственного интеллекта (ИИ) вызвала опасения по поводу ее потенциала представлять экзистенциальные угрозы для человечества. Однако, согласно профессору Вирджинии Дигним, члену Группы экспертов высокого уровня ЕС по ИИ, основная проблема заключается не в самой технологии, а в том, как люди ее используют. В недавнем интервью профессор Дигним подчеркнула, что ИИ не является inherently опасным, но может стать риском, когда используется отдельными лицами для накопления власти, богатства или в злонамеренных целях. Эта точка зрения бросает вызов представлению о том, что ИИ автономно движется к катастрофическим сценариям. Вместо этого она подчеркивает необходимость решения проблемы текущего неправильного использования ИИ и его негативного воздействия на общество.

Вместо того чтобы сосредотачиваться исключительно на гипотетических будущих сценариях, профессор Дигним призывает нас столкнуться с насущными проблемами, вызванными системами ИИ сегодня. Неравенство, предвзятость, дискриминация и вопросы конфиденциальности — это лишь некоторые из немедленных проблем. По мере того как ИИ продолжает проникать в различные аспекты нашей жизни, его влияние на общество усиливается. Поэтому усилия должны быть сосредоточены на исправлении этих текущих проблем, а не на зацикливании исключительно на далеких сценариях конца света.

Ответственность разработчиков и правительств

Подчеркивая необходимость подотчетности, профессор Дигним акцентирует внимание на роли корпораций и правительств в регулировании искусственного интеллекта. Разработчики должны брать на себя ответственность за создаваемые ими системы и обеспечивать их безопасность и соответствие этическим стандартам. В свою очередь, правительства обязаны защищать своих граждан, принимая соответствующие нормативные акты. Недавние события, такие как Закон ЕС об искусственном интеллекте, демонстрируют шаг в правильном направлении. Этот знаковый законодательный акт классифицирует приложения на основе их уровня риска и по умолчанию запрещает приложения с неприемлемым риском. Однако ответственность за регулирование не может лежать исключительно на институтах; для этого требуется совместное участие политиков, регуляторов, правительств и корпоративного сектора.

Добровольные кодексы поведения и необходимость законодательства

Хотя добровольные кодексы поведения, такие как разработанные в ЕС и США, представляют собой позитивную инициативу, критики утверждают, что они не поспевают за технологическим прогрессом. Растет чувство срочности в необходимости всестороннего и эффективного решения рисков, связанных с ИИ. Профессор Дигним подчеркивает важность выхода за рамки регулирования, сосредоточенного исключительно на технологиях. Вместо этого законодательство должно фокусироваться на эффектах и применениях систем ИИ. Независимо от того, принято ли решение продвинутым ИИ, простой электронной таблицей или человеком, его влияние на жизнь людей должно быть ключевым критерием для определения подотчетности и регулирования.

Необходимость «водительских прав» для систем ИИ

Профессор Дигним уместно сравнивает введение регулирования для систем ИИ с получением водительских прав перед вождением автомобиля. Подобно тому, как вождение без прав создает риски для себя и окружающих, развертывание систем ИИ без подотчетности и регулирования может иметь пагубные последствия. Разработка и внедрение ИИ должны подходить с аналогичным уровнем ответственности, обеспечивая наличие мер защиты для защиты отдельных лиц и общества. Эта аналогия подчеркивает срочность установления стандартов, руководящих принципов и механизмов мониторинга для эффективного управления приложениями ИИ.

Хотя обеспокоенность потенциальными рисками ИИ привлекла значительное внимание, профессор Вирджиния Дигним оспаривает представление о том, что сам ИИ представляет угрозу для человечества. Вместо этого она подчеркивает, что истинные риски проистекают из человеческого злоупотребления технологиями в личных целях или со злонамеренными намерениями. Необходимы срочные меры для решения существующих проблем, вызванных системами ИИ, включая неравенство, предвзятость, дискриминацию и вопросы конфиденциальности. Это требует коллективных усилий разработчиков, корпораций, правительств и регулирующих органов для обеспечения подотчетности, безопасности и этических стандартов. Сосредоточившись на ответственном использовании и регулировании систем ИИ, мы можем использовать их потенциал для положительного воздействия, минимизируя риски, которые они представляют для общества.