Переосмысление регулирования ИИ: фокус на реальных угрозах, а не на гиперболизированных опасениях

Искусственный интеллект (ИИ) вышел за пределы научной фантастики и проник в нашу повседневную жизнь, принеся как преимущества, так и риски. Хотя дискуссии о потенциальной угрозе ИИ для человечества захватили заголовки новостей, настоящая проблема заключается в непосредственном и ощутимом вреде, который технологии ИИ уже причиняют. От ошибочных арестов до алгоритмической дискриминации, фокус должен сместиться с сенсационности на обоснованную науку, исследующую реальные опасности.

Разоблачение реальных угроз

Вместо того чтобы поддаваться соблазнительной риторике, фокус должен быть направлен на реальный вред, который технологии ИИ наносят сегодня. Ошибочные аресты, расширяющиеся сети наблюдения и распространение глубоких фейков в порнографии — это не гипотетические сценарии; это реальные последствия инструментов ИИ, доступных на рынке сегодня. Рост дискриминационных практик в сфере жилья, уголовного правосудия и здравоохранения, а также распространение ненавистнической речи и дезинформации подчеркивают насущные проблемы, связанные с текущим воздействием ИИ.

Разрушение хайпа

Многие компании в сфере ИИ склонны отдавать приоритет драматичным нарративам перед реальным вредом при обсуждении потенциальных рисков ИИ. Недавнее заявление Центра безопасности ИИ, подписанное лидерами отрасли, о риске вымирания из-за ИИ, вызвало опасения по поводу смещения приоритетов. Нарратив об «экзистенциальном риске» отвлекает внимание от срочной необходимости решения уже возникающих реальных проблем.

Необходимость четких определений

Сам термин «ИИ» стал двусмысленным общим понятием, охватывающим различные значения — от подполя компьютерных наук до загадочного магического решения для бизнеса. Эта двусмысленность усложняет содержательные дискуссии. Сегодня в ландшафте ИИ доминируют модели синтеза текста, такие как ChatGPT. Эти модели генерируют связный текст, но не обладают пониманием и способностями к рассуждению, что делает их более похожими на сложные чат-боты, чем на настоящие интеллектуальные сущности.

Проблема синтетического текста

Хотя модели синтеза текста производят убедительный текст, они не обладают истинным пониманием, что делает их вывод потенциально вводящим в заблуждение и вредным. Распространение синтетического текста усугубляет дезинформацию и предвзятость, присутствующие в их обучающих данных, усиливая социальные предрассудки. Задача заключается в различении синтетического текста и достоверных источников информации, что становится все более сложным по мере распространения синтетического текста.

ИИ как решение? Или как помеха?

Технология синтеза текста часто восхваляется как решение различных социальных пробелов, таких как образование, здравоохранение и юридические услуги. Однако реальность иная. Технология часто эксплуатирует контент, созданный художниками и авторами, без надлежащей компенсации, а процесс маркировки данных для обучения ИИ включает низкооплачиваемых работников гиг-экономики, подвергающихся тяжелым условиям труда. Кроме того, стремление к автоматизации приводит к потере рабочих мест и нестабильной занятости, особенно в таких отраслях, как развлечения.

Роль политики, основанной на науке

Политика в области ИИ должна базироваться на прочных исследованиях и искренней заботе о благополучии общества. К сожалению, многие публикации по ИИ исходят от корпоративных или финансируемых отраслью источников, что приводит к сомнительным исследовательским практикам. Крайне важно сместить фокус на исследования, которые изучают реальный вред, причиняемый системами ИИ. Сюда входят неконтролируемое накопление данных и вычислительных мощностей, экологические затраты на обучение ИИ и усугубление социального неравенства.

Переориентация на подлинные исследования

Лица, принимающие решения, должны отдавать приоритет тщательным исследованиям, которые углубляются в вред и риски ИИ, а также последствия делегирования полномочий автоматизированным системам. Эти исследования должны включать анализ социальных наук и построение теорий, способствуя более глубокому пониманию социального воздействия ИИ. Политики, основанные на таких исследованиях, обеспечат сохранение фокуса на решении реальных проблем, с которыми сталкиваются маргинализированные сообщества из-за технологий ИИ.

По мере того как ИИ продолжает формировать наш мир, акцент должен сместиться с сенсационных экзистенциальных угроз на непосредственный вред, который технологии ИИ причиняют сегодня. Ошибочные аресты, алгоритмическая дискриминация и распространение ненавистнической речи являются серьезными последствиями инструментов ИИ сегодня. Фокус на обоснованной науке и прочных исследованиях позволит лицам, принимающим решения, решить эти насущные проблемы и обеспечить, чтобы технологии ИИ приносили пользу обществу, не причиняя чрезмерного вреда.