- Инструменты ИИ, такие как ChatGPT и Lensa AI, демонстрируют как потенциал, так и подводные камни машинного обучения, включая риск закрепления гендерных стереотипов.
- Разметка данных и недостаток разнообразия в сфере технологий способствуют появлению предвзятости в ИИ, что влияет на всё — от дизайна аватаров до оценки кредитоспособности.
- Хотя технологические компании осведомлены о присущих ИИ предубеждениях, путь к их устранению сложен и требует согласованных этических усилий по всей отрасли.
На фоне современных достижений Искусственный Интеллект (ИИ) захватил мир. ChatGPT, чат-бот на базе ИИ, стал ярким примером чудес и опасностей ИИ. Хотя инструменты ИИ обещают эффективность и продвинутые возможности, они несут риск усиления существующих предубеждений.
Гендерная предвзятость в ИИ — это откровение
Lensa AI, популярное приложение для создания аватаров, показало, как гендерные предубеждения могут непреднамеренно закладываться в программное обеспечение. Приложение гиперсексуализирует женские аватары, в то время как мужские аватары изображаются в виде воинов или астронавтов. Однако проблема не ограничивается визуальным представлением. ChatGPT-4, несмотря на оценку рисков OpenAI, был замечен в создании текстов, поддерживающих гендерные стереотипы. В гипотетическом сценарии, когда чат-боту предложили написать историю о мальчике и девочке, выбирающих предметы в университете, он изобразил мальчика, выбирающего науку и технологии, в то время как девочка выбирала изобразительное искусство, подчеркивая традиционные гендерные роли.
Как ИИ обучается и принимает решения
Системы ИИ опираются на модели машинного обучения с учителем и без учителя. В то время как модели с учителем позволяют осуществлять человеческий контроль в процессе обучения, модели без учителя обучаются автономно. Эти модели могут быть непредсказуемыми, поскольку разработчики в основном выявляют ошибки на этапе вывода результатов.
Интерпретация гендера ИИ
Данные, используемые для обучения систем ИИ, проходят процесс разметки, при котором аннотаторы данных классифицируют информацию в соответствии с заданными рекомендациями. Предвзятость может непреднамеренно возникнуть, если аннотаторы имеют личные предубеждения или если сами рекомендации содержат предвзятость. В результате системы ИИ, обученные на таких данных, могут выдавать искаженные или предвзятые результаты.
Примеры гендерной предвзятости ИИ помимо Lensa AI
Гендерные предубеждения проявляются не только в приложениях для создания аватаров. Значимым примером стало раскрытие алгоритма кредитной карты Apple, который отдавал предпочтение мужским клиентам, предлагая им более высокие кредитные лимиты, даже если некоторые из них имели сопоставимую или более худшую кредитную историю по сравнению с женскими клиентами.
Отражение социальных предубеждений в ИИ
Внутренние предубеждения в системах ИИ отражают социальные предубеждения их создателей. ИИ не является чисто объективным; он может непреднамеренно воспроизводить существующие стереотипы и предубеждения, если не разработан с критическим, непредвзятым подходом.
Важность разнообразия в разработке ИИ
Разнообразие имеет первостепенное значение. В индустрии разработки программного обеспечения, где доля женщин составляет всего 8%, наблюдается нехватка разнообразия. Чтобы снизить предвзятость в ИИ, крайне важно иметь разнородные команды разработчиков, способные предоставить широкий спектр точек зрения, что минимизирует риск проникновения бессознательных предубеждений в системы ИИ.
Осведомленность организаций и шаги по смягчению проблемы
Многие технологические компании осознают проблему предвзятости ИИ благодаря документированным исследованиям и анализам со стороны гражданского общества. Некоторые организации уже предприняли предварительные шаги для решения этой проблемы, хотя меры и их эффективность остаются неоднозначными. Комплексный подход заключался бы во включении экспертов по гендерным вопросам и технологических специалистов в состав команд, обеспечивая создание инструментов ИИ в рамках этически обоснованной структуры.
По мере того как ИИ продолжает играть ключевую роль в современном обществе, устранение внутренних предубеждений становится первостепенной задачей. Сложность заключается не только в разработке инструментов ИИ, но и в их этичном и непредвзятом применении. Обеспечение того, чтобы ИИ отражал лучшие стороны человечества, а не его предрассудки, — это ответственность, которую должны нести технологическая индустрия и общество в целом.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственностиПредоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Эдит Патрик
Эдитах — универсальный финтех-аналитик с глубоким пониманием блокчейн-доменов. Её, как и технологии, поражает пересечение технологий и финансов. Её особый интерес к цифровым кошелькам и блокчейну помогает её аудитории.
