- Технологии искусственного интеллекта развиваются стремительно, стремясь обрести способности, сопоставимые с человеческими, благодаря анализу данных и машинному обучению.
- Падение чат-бота Microsoft Tay, произошедшее в 2016 году, является одним из самых трагичных примеров некорректного поведения ИИ.
- Для искоренения расовой дискриминации в искусственном интеллекте отраслям необходимо уделять приоритетное внимание разнообразию и инклюзивности как на этапе разработки ИИ, так и при формировании обучающих наборов данных.
ИИ в наши дни очень продвинут, и его основная цель — имитировать людей посредством анализа данных и машинного обучения. Хуже того, развитие технологий ИИ выявило острые проблемы, включая сохранение расовой предвзятости в контенте, созданном ИИ. Business Insider привел несколько примеров расовых предубеждений, встроенных в системы ИИ, с участием нескольких профессионалов из технологической отрасли в качестве примера. Многие из этих предубеждений представляют собой огромную проблему и заслуживают приоритетных действий.
Однако есть случаи, когда ИИ не работает наилучшим образом, и это может включать что-то трагическое, как падение Tay, ИИ от Microsoft, которое произошло в 2016 году. Используя социальные сети, такие как Twitter, разработчик Tay, бот, смог выучить нежелательный язык после того, как пользователи были поощрены к вступлению в оскорбительные взаимодействия, что привело к закрытию бота всего через 1 день. Хотя с 1970-х годов произошло развитие области ИИ, основные связанные с ней проблемы еще не были полностью устранены. Этот случай свидетельствует о необходимости борьбы с расовой предвзятостью ИИ в процессе проектирования.
Текущие проблемы и реакция отрасли
В последнем обновлении статьи IEEE Spectrum Джей Вулкотт, основатель Knowbl, компании генеративного ИИ, поднял этот важный вопрос о том, какие пределы должны пытаться контролировать системы ИИ с тем, во что они решают вовлекаться. С другой стороны, эта проблема может выявить более серьезную проблему, когда идеально спроектированное будущее ИИ и реальная история могут столкнуться с побочными эффектами ИИ. С развитием ИИ во многих областях, в частности, вопрос о разработке всесторонней стратегии борьбы с расовой предвзятостью заслуживает большего внимания.
Для устранения расовой дискриминации в области искусственного интеллекта отрасли следует уделять больше внимания разнообразию и инклюзивности при проектировании решений ИИ и обучении наборов данных. Разнообразные голоса могут привести к выявлению односторонности или бессознательной предвзятости даже в процессе создания новых продуктов. В качестве дополнительного пункта, строгие этические стандарты и системы управления являются щитами, которые защищают ИИ при его развертывании. Совместная деятельность между технологическими компаниями, государственными учреждениями и правозащитными ассоциациями направлена на создание будущего цифрового справедливого и равноправного мира ИИ.
Обеспечение прозрачности и подотчетности
Прозрачность алгоритмов ИИ является ключом к эффективной и добропорядочной реализации ИИ, что помогает устранить предвзятость алгоритмов ИИ. Организации должны быть открыты в отношении того, как системы ИИ принимают решения, что также должно включать способы подачи жалоб и подотчетности. Через систематические аудиты и оценки несправедливости мы можем обнаруживать и оспаривать предвзятость, которая адаптируется из поколения в поколение. Эти ключевые игроки способствуют установлению необходимой веры и доверия к технологии ИИ, подчеркивая важность прозрачности и подотчетности.
Поскольку предвзятость расового признака в ИИ порождает множество проблем в области этического и справедливого использования этой технологии, это является наиболее приоритетной задачей для его дальнейшего развития. Хотя польза искусственного интеллекта для человечества огромна, борьба с предвзятостью остается главной задачей. Придерживаясь идеи разнообразия, внедряя этику в среду ИИ и способствуя открытости и прозрачности, заинтересованные стороны могут создать инклюзивную систему. Сотрудничество отрасли в сочетании с необходимыми корректирующими мерами, направленными на устранение расовой предвзятости, и соблюдение принципов справедливости и равенства в ИИ имеют первостепенное значение.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
