Сторонники этических норм в сфере ИИ предлагают ввести лицензирование и механизмы защиты осведомителей для предотвращения скандалов, подобных тем, что происходят в почтовых отделениях

В ответ на печально известный скандал в почтовом отделении Британское компьютерное общество (BCS) приняло превентивные меры для предотвращения подобных несправедливостей. В связи с растущей интеграцией искусственного интеллекта (ИИ) в различные сектора, этические стандарты и вопросы подотчетности приобрели первостепенное значение. 

Признавая ключевую роль специалистов в области искусственного интеллекта в формировании социальных результатов, BCS выступает за создание системы лицензирования и надежных каналов информирования о нарушениях для защиты от неэтичных практик.

Лицензирование специалистов в области ИИ для обеспечения этической ответственности

BCS предлагает внедрить систему лицензирования, аналогичную медицинской, чтобы обеспечить прозрачность и соблюдение этических принципов среди специалистов по искусственному интеллекту. Рашик Пармар, кавалер ордена Британской империи, генеральный директор BCS, подчеркивает важность привлечения специалистов по ИИ к ответственности за свои действия, учитывая глубокое влияние ИИ на жизнь людей. 

Цель инициативы — укрепить доверие к внедрению искусственного интеллекта путем применения к специалистам в этой области независимойdent системы.

Каналы для сообщений о нарушениях: Соблюдение этических стандартов при внедрении ИИ

Ключевым элементом стратегии BCS является создание надежных каналов информирования внутри организаций о неэтичном использовании ИИ. Признавая, что ключевые решения в отношении разработки технологий часто принимают руководители, не являющиеся техническими специалистами, Пармар подчеркивает важность предоставления технологам возможности высказывать свои опасения, не опасаясь репрессий. 

Этот проактивный подход направлен на снижение риска дискриминационных практик, таких как предвзятые решения о найме или использование технологий слежки, имеющих негативные социальные последствия.

Уроки, извлеченные из скандала с почтовым отделением

Импульсом для этих инициатив послужило серьезное нарушение правосудия, выявленное в ходе скандала с Почтой. Внедрение в 1999 году несовершенной системы бухгалтерского учета Horizon привело к неправомерным осуждениям сотен руководителей местных отделений Почты, разрушив жизни и повредив целые сообщества. 

Злоупотребление компьютерными данными лицами, не являющимися IT-специалистами, подчеркнуло острую необходимость этического контроля и подотчетности при внедрении ИИ. Трагические последствия скандала в Почтовой службе служат наглядным напоминанием о далеко идущих последствиях бесконтрольного внедрения технологий.