보스턴 학계, 치명적인 AI 불안은 과장되고 방향이 틀렸다고 주장

의 학술진 UMass 보스턴의 응용윤리센터 는 AI와의 상호작용이 사람들의 자기 이해에 미치는 영향을 연구해 왔으며, 니르 아이시코비츠 는 특히 이러한 파국적 불안이 과장되고 방향을 잃었다고 믿습니다. 인간에게는 큰 문제들(AI로 인한 것이 아니라 인간으로 인한)이 존재하지만, 이들은 정책 입안자들의 주의가 필요합니다. 문제는 이미 오래전부터 존재해 왔으며, 거의 파국적이지 않다는 논리가 있습니다.

최근 몇 달간 ChatGPT와 같은 시스템으로 대표되는 AI의 부상은 그 잠재적 위험에 대한 광범위한 불안을 촉발시켰습니다. 일부는 AI를 팬데믹과 핵전쟁에 비유하며 존재론적 공포와 파국적 시나리오를 표현하기도 했습니다. 니르는 진정한 위험이 본질적인 인간 자질의 미묘한 침식에서 비롯된다는 개념을 제시하며, AI 시대에 인간이란 무엇인지에 대한 재평가를 촉구합니다.

파국적 시나리오에 대한 도전

‘종이 클립 최대화자’와 같은 사고 실험들은 잠재적 위험을 설명하는 데 사용되어 왔지만, 현실은 기존 AI 애플리케이션이 대규모 파국을 초래할 능력을 갖추지 못했다는 것입니다. 이러한 시나리오는 흥미롭지만, 임박한 위협보다는 공상과학의 영역에 더 가깝습니다. 오늘날의 AI 시스템은 특정 작업에 집중하며, 극단적인 예시들에 필요한 정교한 판단력과 중요 인프라에 대한 접근 권한을 결여하고 있습니다.

파국적 사건보다는, 진정한 위험은 AI의 점증적인 통합을 통해 인간 존재가 점진적으로 변화하는 데 있습니다. 기존 AI 기술은 이미 설득력 있는 딥페이크 미디어 생성 및 의사결정 시스템에서의 알고리즘 편향 고착화와 같은 해를 끼칠 잠재력을 입증했습니다. 이러한 문제들은 정책 입안자들의 주의와 규제가 필요하지만, 인류에 대한 존재론적 위협은 아닙니다.

인간 자질의 쇠퇴

니르 아이시코비츠 교수는 AI가 초래하는 존재론적 위험은 본질적으로 다르다고 주장합니다. 즉, 그것은 철학적 위험입니다. AI는 개인이 자신을 인식하는 방식을 변화시키고, 근본적인 인간 능력과 경험을 점진적으로 침식할 잠재력을 가지고 있습니다. 그러한 능력 중 하나는 판단력이며, 이는 인간 본성에 깊이 각인된 특성입니다. 더 많은 판단이 자동화되고 알고리즘에 위임됨에 따라, 사람들은 스스로 이러한 판단을 내릴 능력을 잃게 되어 추론하고 정보에 기반한 결정을 내리는 능력이 저하될 수 있습니다.

AI가 영향을 미치는 인간 존재의 또 다른 중요한 측면은 우연과 행운의 역할입니다. 인간은 삶의 예기치 못한 만남과 놀라움의 요소를 가치 있게 여기지만, 알고리즘 추천 시스템은 예측 가능성과 계획에 의존하여 이러한 우연한 경험을 최소화하려 합니다. 우연이 알고리즘으로 점진적으로 대체되면, 개인은 의미 있고 예기치 못한 발견의 기회를 잃을 수 있습니다.

더욱이, AI의 글쓰기 능력 발전은 비판적 사고 능력의 쇠퇴에 대한 우려를 제기합니다. 만약 AI 기술이 고등교육에서 글쓰기 과제를 대체한다면, 교육자들은 학생들에게 비판적으로 사고하고 효과적으로 표현하는 방법을 가르치는 귀중한 도구를 잃게 될 수 있습니다.

고려된 통합의 중요성

AI가 임박한 파국적 위협을 제기하지는 않지만, 다양한 분야에 대한 AI의 비비판적 채택과 통합은 결과를 수반합니다. 아이시코비츠 교수는 이러한 개발이 통제되지 않고 계속된다면, 판단력, 우연한 만남에 대한 감상, 비판적 사고와 같은 인간 기술이 시간이 지남에 따라 쇠퇴할 것이라고 경고합니다. 인간 종은 이러한 손실을 극복하고 생존하겠지만, 인간 존재의 질은 결과적으로 빈곤해질 것입니다.

AI를 둘러싼 불안이 고조되는 가운데, 과장된 파국적 시나리오와 사회 통합과 관련된 철학적 위험을 구분하는 것이 중요합니다. AI가 종말론적 종말을 가져올 가능성은 낮지만, 본질적인 인간 자질의 침식은 진정한 우려 사항입니다. AI의 미묘한 비용을 인식하고 해결함으로써 정책 입안자, 연구자 및 사회 전체는 AI 기술이 인간 존재를 약화시키는 것이 아니라 향상시키기 위해 신중하게 통합되도록 보장할 수 있습니다.

니르 아이시코비츠는 철학 교수이자 응용윤리센터의 창립 이사입니다. UMass 보스턴에 오기 전, 그는 서퍽 대학교에서 법철학 및 정치철학 부교수였으며, 그곳에서 윤리 및 공공정책 대학원 프로그램을 공동 설립하고 지휘했습니다. 아이시코비츠 교수의 연구는 전쟁 이후 발생하는 도덕적, 정치적 딜레마에 초점을 맞추고 있습니다. 그는 “A Theory of Truces”(Palgrave MacMillan)와 “Sympathizing with the Enemy: Reconciliation, Transitional Justice, Negotiation”(Brill)의 저자이며, “Theorizing Transitional Justice”(Routledge)의 공동 편집자입니다. 또한 그는 최근 Theoria 지의 “The Idea of Peace in the Age of Asymmetrical Warfare” 특집호의 게스트 편집자입니다. 그에 대해 더 읽기.