마이크로소프트, 인공지능 행동 강령 초안 공개…인간의 통제가 모델 판매에 도움이 될 것이라는 전망

마이크로소프트 AI(MAI)는 월요일에 '인간 중심적 AI 행동 강령' 초안을 발표 하고 6주간 대중의 의견 수렴을 요청했습니다. 이 강령은 인공지능 시스템 평가에서 인간의 감독과 시행 가능한 제한을 최우선으로 강조합니다. 로이터 통신 에 따르면 , 이 모델은 인간이 인공지능 시스템을 효과적으로 감독할 수 있도록 설계되었습니다.

이 논문은 향후 학습 및 모델 동작에 대한 지침을 제공하는 것을 목표로 하지만, 비즈니스 전략으로서의 역할도 합니다. 기업들이 AI 기술에 대한 투자액을 늘리고 신뢰성, 비용, 위험에 대한 우려가 커짐에 따라, 마이크로소프트는 예측 가능성과 제약을 투자 가치가 있는 요소로 강조합니다.

초안이 모델에게 지시하는 내용

이 초안의 가장 중요한 목표는 매우 간단합니다. 바로 인간이 여전히 통제권을 유지하도록 하는 것입니다. 마이크로소프트에 따르면, 모델은 사람이 아닌 도구처럼 작동해야 하며, 인간의 감독 하에 있어야 합니다.

또한 해당 규정은 모델에 절대적인 제약 조건을 설정하며, 사용자나 운영자의 의도와 관계없이 이러한 제약 조건을 위반해서는 안 됩니다. 이러한 제약 조건에는 무기 사용 및 대량 피해 발생, 사이버 공격 작전 참여, 인간의 통제력 상실, 대규모 악의적 조작, 아동 안전 문제 등이 포함됩니다.

3단계 지휘계통은 다음과 같이 구성됩니다. 행동 강령이 최우선이며, 그 다음으로 운영자 정책, 그리고 사용자의 선호도가 가장 마지막 순위입니다. 절대적 제약 조건과 인적 통제 요구 사항은 반드시 우선시되어야 하며, 소홀히 해서는 안 됩니다.

마이크로소프트는 현재 모델 학습에는 해당 초안이 사용되지 않는다고 밝혔습니다. 올해 말 공개될 예정인 새 버전은 2027년 이후 인공지능(MAI) 개발을 촉진할 것으로 예상됩니다.

신뢰가 제품 기능으로 자리 잡는 이유는 무엇일까요?

이번 코드 초안 공개 시점은 전 세계 AI 지출 증가세와 맞물려 있습니다. 가트너는 AI 모델 및 플랫폼에 대한 지출이 2026년까지 643억 달러에 달할 것으로 예측하는데, 이는 2025년 대비 63.4% 증가한 수치이며, 특히 생성형 AI 모델에 대한 지출은 117% 증가할 것으로 전망합니다. 가트너에 따르면, 구매자들은 공급업체 선정 시 비용, 지연 시간, 성능 및 신뢰성을 점점 더 중요하게 고려하고 있습니다.

따라서 지배구조는 상업적으로 매력적이지만 대기업에 유리하게 작용할trac있습니다. IMF 보고서는 컴퓨팅 및 데이터 분야의 규모의 경제가 승자독식 구조를 초래할 수 있다고 명확히 지적합니다. 또한 규제의 복잡성이 기업들의 규제 준수 비용 흡수를 용이하게 함으로써 시장 집중도를 높일 수 있다고 강조합니다.

가트너에 따르면 AI 관련 거버넌스 지출은 2026년까지 4억 9200만 달러에 달하고 2030년에는 10억 달러를 넘어설 것으로 예상됩니다.

인공지능 규칙서 분야는 포화 상태입니다

마이크로소프트의 프레임워크는 이미 파편화된 거버넌스 환경에 등장했습니다. 일반 목적 AI 행동 강령을 최종 확정하여 기업들이 AI법 의무 준수 여부를 자체적으로 점검할 수 있도록 했습니다. 이 강령의 주요 이해관계자로는 마이크로소프트, 오픈AI, 앤스로픽, 구글 등이 있습니다. EU에서 발표한 강령과는 달리, 마이크로소프트의 행동 강령은 규제 기관이 개발한 준수 도구가 아니라 자사 MAI 프로젝트를 위해 자체 개발한 행동 프레임워크입니다.

2026년 글로벌 책임 있는 AI 지수는 AI 구현의 불균등성을 보여주는 사례입니다. 135개 국가 및 관할 구역의 평균 점수는 약 35점입니다. 실제 구현 사례는 55%에 불과하며, 개발도상국에서는 이 수치가 45%까지 떨어집니다.

이러한 갈등은 지정학적 요인에서도 비롯됩니다. BCG는 미국과 중국의 AI 전략이 점점 더 호환되지 않는 기술 스택을 만들어내고 있으며, 이로 인해 기업들은 선택한 기술 스택이 어디에서 운영될 수 있는지, 그리고 지정학적 위험에 얼마나 노출되어 있는지를 고려해야 한다고 지적합니다. Cryptopolitan 보도를 내놓았습니다 워싱턴과 베이징이 트럼프 대통령의 두 번째 임기에서 AI 안전만을 주제로 첫 회담을 준비하고 있다는

이러한 맥락에서 마이크로소프트의 규칙서는 파트너들이 참고 자료로 활용하거나, 현재 이미 혼란스러운 글로벌 시스템에 또 다른 추가 요소로 더해질 수 있습니다.

마이크로소프트가 대중에게 원하는 것

마이크로소프트는 피드백 기간 이 6주라고 명시했습니다 . 즉, 주요 초안 작성 팀은 이 기간 이후에 접수된 의견을 분석하고, 얻은 교훈과 도입된 변경 사항에 대한 요약을 발표하며, 올해 말에 수정된 버전을 배포할 예정입니다.

이 회사가 요구하는 것은 "인간 번영"의 defi를 더욱 구체화하는 방법, 평가하기 어려운 모호한 의미를 가진 언어 표현은 무엇인지, 그리고 관련 기술이 발전하는 동안 안전 제한을 유지하는 방법입니다. 하지만 마이크로소프트는 모든 권고 사항을 고려할 것이라고 보장하지는 않습니다.