우리를.미국 국방부(DoD)는 인공지능(AI) 시스템의 공정성과 투명성을 보장하기 위해 선제적인 조치를 취하고 있습니다. 국방부 산하 최고 디지털 및 인공지능 사무국(CDAO)은 과감한 행보로 AI 시스템 의 편향성을 dent 로 대규모 언어 모델(LLM)을 대상으로 활동을 전개할 예정입니다.
편향을 감지하기 위한 크라우드소싱
AI 편향 현상금 프로그램의 첫 번째 단계가 공식적으로 시작되었으며, 누구나 참여할 수 있습니다. 2024년 1월 29일부터 2월 27일까지 진행되는 이 프로그램은 모든 배경의 사람들이 등록할 수 있도록 장려합니다. 특히, 코딩 전문 지식은 참여 필수 조건이 아닙니다.
첫 번째 바운티 활동의 주요 목표는 대규모 언어 모델, 특히 오픈 소스 챗봇 내에서 지금까지 알려지지 않았던 위험 영역을dent입니다. 이 활동은 AI 시스템과 관련된 잠재적 위험을 완화하고 관리하는 데 도움이 되도록 고안되었습니다.
향후 미국 국방부 정책에 미치는 영향
이러한 현상금 지급의 결과는 국방부 내 인공지능 정책 및 도입에 상당한 영향을 미칠 가능성이 있습니다. 크레이그 마텔 최고 디지털 및 인공지능 책임자에 따르면, 이러한 계획들은 국방부가 LLM(Long-Term Management)과 관련된 위험을 해결하기 위한 노력의 일환으로 면밀히 모니터링되고 있습니다.
국방부는 정책 수립을 넘어 이러한 현상금 프로그램의 결과를 추가 연구, 분석, 모범 사례 도출 및 정책 권고에 활용할 수 있습니다. 이는 모든 작전 영역에서 편향되지 않은 AI 시스템을 유지하려는 국방부의 의지를 보여줍니다.
AI 전략에 대한 종합적인 접근 방식
2023년 11월, 미 국방부는 첨단 인공지능(AI) 역량 통합을 가속화하기 위한 종합 전략을 . 이 전략의 핵심 목표는 향후 수년간 전장에서 미군 병사들의 의사결정 우위를 지속적으로 확보하는 것입니다. 이 전략은 기존의 AI 및 데이터 전략을 뛰어넘어 국방부의 AI 기반 역량 구축을 위한 토대를 마련합니다.
이 훈련은 단순히 편향성을dent데 그치지 않고, 알고리즘 감사 및 AI 모델 레드팀 테스트에 대한 혁신적인 접근 방식을 개발하는 데에도 중점을 둡니다. 이러한 접근 방식을 통해 미 국방부는dent된 위험을 해결하는 방안을 실험하고, AI 시스템이 배포 과정에서 편향되지 않도록 보장할 수 있습니다.
2022년 6월에 설립된 최고 디지털 및 인공지능 사무국(CDAO)은 미 국방부 전반에 걸쳐 인공지능 역량을 통합하고 최적화하는 데 핵심적인 역할을 수행합니다. CDAO는 데이터, 분석 및 인공지능의 도입을 가속화하는 동시에 새로운 위협으로부터 보호하는 임무를 맡고 있습니다.
윤리적인 AI를 위한 모범을 보이다
미 국방부의 AI 편향 현상금 프로그램 출범은 다른 기관들에게 선구적인 사례가 될 것입니다. 이는 편향되지 않은 AI 시스템을 우선시하고 사회 전체의 이익을 위해 윤리적이고 공정한 AI 사용을 장려하려는 의지를 보여줍니다.
미국 국방부의 AI 편향 현상금 프로그램은 편향되지 않은 AI 시스템 개발을 향한 중요한 진전입니다. 크라우드소싱을 기반으로 하는 이 프로그램은 다양한 배경을 가진 사람들이 적극적으로 참여할 수 있는 길을 열어줍니다. 이러한 현상금 활동의 결과는 국방부 내 AI 정책의 미래를 재편하고, 전 세계 기관들이 공정하고 윤리적인 AI 사용을 장려하는 데 강력한 본보기가 될 수 있습니다.
