Кто будет отвечать за этику ИИ и приверженность реальным социальным обязанностям?

Недавние скандалы, связанные с искусственным интеллектом (ИИ), вновь разожгли дебаты о том, кто должен нести ответственность за обеспечение этичной разработки и развертывания ИИ. По мере того как генеративный ИИ, такой как ChatGPT, становится все более массовым, вопросы приверженности технологической отрасли этике ИИ или ответственным инновациям продолжают висеть в воздухе.

Скрытая стоимость ИИ

Расследования выявили, что OpenAI, ведущая компания в области ИИ, поддерживаемая Microsoft, полагалась на низкооплачиваемых зарубежных подрядчиков для выполнения чувствительной задачи модерации контента, которая является ключевым компонентом в разработке «безопасных» систем, таких как ChatGPT. Эти подрядчики, базирующиеся в Кении, получали всего 2 доллара в час за маркировку тревожных текстов и изображений, что, как сообщается, вызвало значительную психологическую травму. После раскрытия влияния этой работы партнер OpenAI по аутсорсингу разорвал отношения с компанией.

Это расследование пролило свет на зависимость технологической отрасли от дешевой рабочей силы со всего мира для выполнения самых тяжелых задач, лежащих в основе достижений в области ИИ. Это происходит в то время, когда крупные команды по безопасности ИИ расформировываются, несмотря на высокие риторические заявления отрасли об этике.

Реальность за PR-кампанией

Несколько высокопоставленных фигур в технологической отрасли призвали к приостановке разработки ИИ до тех пор, пока не будут введены соответствующие регулирующие меры. Однако некоторые эксперты утверждают, что полагаться исключительно на политиков и корпорации для формирования будущего ИИ — это ошибка, так как это исключает ключевые перспективы. Доктор Элисон Пауэлл из Института Ады Лавлейс отметила, что текущий дискурс слишком сосредоточен на потенциале искусственного общего интеллекта превзойти человеческое познание, а не на решении реальных проблем настоящего.

«Это вредно, потому что фокусируется на воображаемом мире, а не на реальном мире, в котором мы живем», — сказала Пауэлл. Она утверждает, что способности к принятию решений, которые часто приписывают ИИ, упускают из виду реальные социальные обязанности, связанные с такой властью.

Исследователь Оксфорда Абид Адонис также отметил, что голоса маргинализированных групп, которые непосредственно затрагиваются ИИ, заметно отсутствуют в дебатах. «Важно слышать, что говорят маргинализированные группы, потому что их мнение отсутствует в обсуждении», — сказал Адонис.

Недостатки «этичного ИИ»

Уже есть доказательства алгоритмической предвзятости и дискриминации в системах ИИ, которые в настоящее время используются, от технологий распознавания лиц до алгоритмов, используемых в оценке жилья и кредитов. Несмотря на высокие заявления технологических компаний об этических принципах, их действия часто рассказывают другую историю.

Генеративные модели, такие как ChatGPT, обученные на ограниченном наборе данных из интернета, неизбежно наследуют предвзятость, присутствующую в этих данных. Хваленные способности к рассуждению этих моделей часто не выдерживают критики. Например, было обнаружено, что ChatGPT генерирует откровенно ложные утверждения о реальных людях. Отсутствие прозрачности в источниках коммерческих данных для обучения ИИ только усиливает эти опасения.

Более широкий взгляд на этику ИИ

Доктор Пауэлл предлагает вместо того, чтобы рассматривать этику как техническую проблему, которую нужно решить, изучать социальные контексты, в которых происходит вред. «ИИ — это институциональные машины, социальные машины и культурные машины», — сказала она. Фокусировка исключительно на корректировке алгоритмов игнорирует тот факт, что исключение часто проистекает из институтов и культуры, окружающей технологию.

По мнению исследователя Абида Адониса, сильное общественное обсуждение и нормы будут играть ключевую роль в формировании будущего инноваций. Обеспечение подотчетности означает справедливое применение существующих законов, а не просто регулирование самой технологии.

Парадигма будет формировать коридоры инноваций

Абид Адонис, исследователь

По мере того как ИИ продолжает набирать популярность, обеспечение справедливых результатов становится обязанностью, которую должны разделять технологические компании, политики, исследователи, средства массовой информации и общественность. Однако текущий дискурс сильно смещен в сторону тех, кто обладает наибольшей властью. Чтобы двигаться вперед, нам необходимо включить более широкий спектр мнений о потенциальных ловушках ИИ, чтобы мы могли разработать этичные технологии, которые действительно удовлетворяют человеческие потребности. Это потребует от нас выхода за рамки PR-кампаний крупных технологических компаний и столкновения с реальным вредом, который в настоящее время причиняется.

Изображение передает высоконапряженные условия работы, обусловленные дедлайнами, которые характерны для зависимости технологической отрасли от дешевой рабочей силы.