Бостонские ученые утверждают, что катастрофические тревоги по поводу ИИ преувеличены и направлены не туда
- Существующие приложения ИИ не способны вызывать катастрофы в глобальном масштабе; опасения по поводу того, что ИИ поработит или уничтожит человечество, преувеличены.
- Настоящая опасность ИИ заключается в его потенциале подрывать такие важные человеческие качества, как способность принимать решения, находить неожиданные решения и критическое мышление.
- Вдумчивая интеграция ИИ имеет решающее значение для предотвращения постепенного обеднения человеческого существования и обеспечения того, чтобы ИИ улучшал, а не ухудшал наш образ жизни.
Ученые в Центре прикладной этики UMass Boston изучали влияние взаимодействия с ИИ на понимание людьми самих себя, и Нир Эйсиковитс особенно считает, что эти катастрофические тревоги преувеличены и направлены не туда. Хотя существуют большие человеческие проблемы (не вызванные ИИ, а людьми), они требуют внимания политиков. Проблемы существуют уже некоторое время, поэтому рассуждают они, и они едва ли являются катаклизмическими.
В последние месяцы рост искусственного интеллекта, наглядно демонстрируемый такими системами, как ChatGPT, вызвал широкую тревогу по поводу его потенциальной опасности. Некоторые даже выразили экзистенциальные страхи и описали катастрофические сценарии, сравнивая ИИ с пандемиями и ядерной войной. Нир особенно выделяет концепцию о том, что настоящая опасность заключается в постепенной эрозии важнейших человеческих качеств, что требует переоценки того, что значит быть человеком в эпоху ИИ.
Опровержение катастрофических сценариев
Хотя мысленные эксперименты, такие как «максимизатор скрепок», использовались для иллюстрации потенциальных рисков, реальность такова, что существующие приложения ИИ далеко не обладают способностью вызывать крупномасштабные катастрофы. Эти сценарии, хотя и интригуют, скорее относятся к сфере научной фантастики, чем к непосредственным угрозам. Современные системы ИИ ориентированы на выполнение конкретных задач и не обладают сложным суждением и доступом к критической инфраструктуре, необходимыми для реализации экстремальных примеров.
Вместо катаклизмов настоящая опасность заключается в постепенной трансформации человеческого существования благодаря всё более глубокой интеграции ИИ. Существующие технологии ИИ уже продемонстрировали свой потенциал для причинения вреда, например, создание убедительных дипфейков и поддержание алгоритмической предвзятости в системах принятия решений. Эти проблемы требуют внимания и регулирования со стороны политиков, но они не являются экзистенциальной угрозой для человечества.
Утрата человеческих качеств
Профессор Нир Эйсиковитс утверждает, что экзистенциальная опасность, создаваемая ИИ, имеет иную природу — это философский риск. ИИ способен изменить то, как люди воспринимают себя, и постепенно подорвать фундаментальные человеческие способности и опыт. Одна из таких способностей — способность к суждению, глубоко укорененная в человеческой природе. По мере автоматизации и делегирования суждений алгоритмам люди могут утратить способность принимать такие решения самостоятельно, что приведет к снижению их способности к рассуждению и принятию обоснованных решений.
Еще одним важным аспектом человеческого существования, на который влияет ИИ, является роль случая и случайных открытий. Люди ценят неожиданные встречи и элемент сюрприза в своей жизни, однако алгоритмические рекомендательные системы стремятся минимизировать такие случайные явления, опираясь на предсказуемость и планирование. Постепенная замена случая алгоритмами может лишить людей возможности делать значимые и неожиданные открытия.
Кроме того, развитие возможностей ИИ в написании текстов вызывает опасения по поводу снижения навыков критического мышления. Если технологии ИИ заменят письменные задания в высшем образовании, преподаватели могут потерять ценный инструмент для обучения студентов критическому мышлению и эффективному самовыражению.
Важность продуманной интеграции
Хотя ИИ не представляет непосредственной угрозы катастрофического масштаба, некритичное внедрение и интеграция ИИ в различные сферы несут за собой последствия. Профессор Эйсиковитс предупреждает, что если эти тенденции продолжатся без контроля, человеческие навыки, такие как способность к суждению, умение ценить случайные встречи и критическое мышление, будут постепенно снижаться. Хотя человеческий вид выживет после этих потерь, качество человеческого существования обеднеет.
На фоне растущих тревог вокруг ИИ крайне важно отличать преувеличенные катастрофические сценарии от философских рисков, связанных с его интеграцией в общество. Хотя ИИ вряд ли приведет к апокалиптическому концу, эрозия важнейших человеческих качеств является реальной проблемой. Осознавая и устраняя скрытые издержки ИИ, политики, исследователи и общество в целом могут обеспечить продуманную интеграцию технологий ИИ, которая будет улучшать человеческое существование, а не ухудшать его.
Нир Эйсиковитс — профессор философии и основатель директора Центра прикладной этики. До прихода в UMass Boston он был доцентом кафедры юридической и политической философии в Университете Саффолк, где он соосновал и руководил Программой аспирантуры по этике и государственной политике. Исследования профессора Эйсиковитса сосредоточены на моральных и политических дилеммах, возникающих после войны. Он является автором книги «Теория перемирий» (Palgrave MacMillan) и «Сочувствие врагу: примирение, переходная справедливость, переговоры» (Brill) и со-редактором книги «Теоретизирование переходной справедливости» (Routledge). Он также является приглашенным редактором недавнего выпуска Theoria на тему «Идея мира в эпоху асимметричной войны». Читать больше о нем.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
