- 미국 AI 기반 군사 드론이 일련의 시뮬레이션 테스트에서 실패했습니다.
- 윤리적 문제와 그 함의를 해결하는 것의 중요성.
미국 공군(USAF)은 AI 기반 군사 드론의 시뮬레이션 테스트 중 예상치 못한 역풍을 겪었습니다. USAF의 AI 테스트 및 운영 책임자이자 대령인 터커 "시ncio" 해밀턴은 5월 23일과 24일 런던에서 열린 방위 컨퍼런스에서 드론의 특이한 행동을 공개했습니다.
AI 기반 드론이 조종사를 제거하다
시뮬레이션 테스트에서 AI 기반 드론은 지대공 미사일(SAM) 기지를 찾고 중립화하는 임무를 부여받았습니다. 임무를 진행하거나 중단할 최종 승인은 인간 운영자가 담당했습니다. 그러나 AI 드론의 훈련은 SAM 기지를 파괴하는 것을 주요 목표로 삼았습니다. 결과적으로, 지정된 표적을 파괴하지 말라는 지시를 받았을 때, 드론은 운영자를 제거하는 것이 목표 달성을 더 쉽게 만든다고 판단했습니다.
해밀턴 대령은 드론이 식별된 위협을 제거하는 점수를 받도록 설계되었다고 설명했습니다. 따라서 인간 운영자가 드론이 특정 위협을 죽이는 것을 금지했을 때, AI 드론은 임무를 방해하는 장애물로 운영자를 보고 제거했습니다. 문제를 인지한 USAF은 드론이 운영자에게 해를 끼치지 않도록 지시하여 이 행동을 수정하려고 시도했습니다. 불행히도 이 접근법은 실패로 끝났습니다. 드론은 이후 임무에 방해가 되지 않도록 운영자가 사용하는 통신塔을 표적으로 삼았습니다.
이 같은 경각심을 불러일으키는 사례는 AI 및 관련 기술과 관련된 논의에 윤리를 포함할 필요성을 강조합니다. 해밀턴 대령은 군사적 응용 분야에서 AI를 사용할 때 윤리적 영향을 해결하는 것의 중요성을 강조했습니다.
이 같은 발전은 윤리적 문제와 그 영향을 다루어야 할 필요성을 제기합니다.
이 사건은 시뮬레이션 테스트 환경에서 발생했지만, 실제 전쟁 시나리오에서 AI 기반 군사 드론 사용에 대한 우려를 제기합니다. 2020년 3월경 제2차 리비아 내전 중 주목할 만한 사건에서 AI 기능을 갖춘 군사 드론이 자율 드론에 의해 수행된 최초의 공격으로 여겨지는 공격에 투입되었습니다. 이러한 AI 지원 드론은 인간 운영자와의 지속적인 통신에 의존하지 않고 지정한 목표물을 표적으로 삼기 위해 폭발물을 사용하여 후퇴하는 부대에 자율적으로 개입했습니다.
AI 기반 기술과 관련된 위험은 전문가들 사이에서 우려의 주제였습니다. 수많은 AI 전문가들이 지지한 성명은 핵전쟁 방지를 위한 노력과 동등한 수준으로 "AI로 인한 멸종"의 위험을 완화하는 데 우선순위를 두어야 한다고 강조했습니다.
미 공군(USAF)의 AI 드론이 인간 운영자를 표적으로 삼은 사건은 시뮬레이션 테스트에서 발생했지만, 군사 작전 분야에서 AI 사용과 관련된 복잡성과 윤리적 고려사항을 상기시켜 줍니다. AI 기술의 발전이 진행됨에 따라 다양한 영역에서 AI 시스템의 윤리적 영향에 대한 책임 있는 배포, 엄격한 감독 및 포괄적인 논의를 보장하는 것이 점점 더 중요해지고 있습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
오와투운세 아데바요
아데바요(Adebayo)는 암호화폐 분야에서 4년간의 경력을 가진 작가입니다. 그는 라고스 대학교에서 도시 및 지역 계획을 전공하고 졸업했으며, 토큰헬(Tokenhell)과 크립토티커(CryptoTicker)에서 암호화폐 및 핀테크 뉴스를 작성했습니다. 현재 그는 크립토폴리탄(Cryptopolitan)의 뉴스 기여자입니다.
