- Microsoft 의 AI 도구는 보안을 최우선으로 하여 허위 정보를 방지합니다.
- Azure AI 는 실시간 취약점 및 위협 탐지를 도입했습니다.
- 향상된 제어 옵션을 통해 Azure 사용자는 악용을 막을 수 있습니다.
Microsoft는 Azure AI 플랫폼의 보안을 강화하기 위해 고급 기능 툴킷을 출시했습니다. Microsoft Sentient AI 이니셔티브의 수석 제품 책임자인 Sarah Bind는 AI 기반 애플리케이션 사용의 위험을 해결하도록 신중하게 설계된 일련의 도구를 출시할 예정입니다.
미리보기 단계에서 새로운 보안 조치는 Azure AI를 위협으로부터 보호하고, 안전한 답변을 제공하며, 특정 레드 팀을 필요로 하지 않고도 홍보 및 숨겨진 악의적 프롬프트 인젝션으로부터 보호합니다.
Microsoft Azure의 고급 AI 안전 도구
이러한 우려를 해결하는 것은 공공 부문에 AI 기술을 효과적으로 통합하는 데 있어 가장 중요하며, 구현과 장기적인 성공을 방해할 수 있는 예기치 않은 위험과 우려를 완화하는 것이 필수적이기 때문입니다.
프롬프트 쉴드(Prompt Shields), 근접성 감지(Groundedness Detection), 그리고 모델 취약점을 스크리닝하는 데 도움이 되는 정교한 취약성 평가와 같은 아이스버그의 일부분인 도구들도 공개되었습니다.
프롬프트 쉴드는 악의적인 프롬프트 인젝션을 차단하고, 금지된 언어나 은밀한 프롬프트의 사용을 금지함으로써 AI 모델이 디지털 세계를 대상으로 사용자에게나 제3자 데이터에 대한 악용을 초래할 수 있는 위험으로부터 사용자를 보호하는 관문을 제공합니다.
이는 특히 AI 기반 모델에서 경험했던 역사적 사건에 대해 가짜 또는 부정확한 자료를 생성하는 것을 피하는 데 특히 중요합니다.
Azure 생태계 내의 AI 보안 및 환각 현상 완화
Microsoft의 안전 툴킷의 또 다른 핵심 부분인 텍스트 기반 환각 현상 완화는 일련의 환각 현상과 중립화를 목표로 합니다. 이를 달성함으로써 모든 아이디어가 허용되는 것이 아니라, 증거로 뒷받침되고 검증 가능한 아이디어만이 AI 시스템에 가장 적합한 입력이 되는 환경을 조성합니다.
또한, 안전 평가를 통해 모델의 취약점을 심층적으로 모니터링하여 이러한 약점을 즉시 식별하고 필요에 따라 보안 조치를 조정할 수 있습니다. 이를 고려할 때, Microsoft는 개별 고객의 요구와 적절한 AI 보안 조치를 충족할 준비가 되어 있습니다.
Azure 고객은 성별 편향된 콘텐츠, 혐오 발언, 기타 모욕적인 콘텐츠를 포함하거나 제외하여 설정을 사용자 요구에 맞게 맞춤화할 수 있습니다.
마찬가지로, 이러한 향후 업그레이드는 보고 기능을 제공하여 관리자가 사용자가 진정한 테스트러인지 아니면 악의적인 사용자인지 결정하는 데 도움이 될 것입니다.
Microsoft의 안전하고 윤리적인 AI 개발을 위한 선구적 접근
이러한 안전 조치의 중요성은 보안의 즉각적인 혜택뿐만 아니라, 정보 기술 산업이 사회적 책임감을 가진 AI 개발에 대한 포괄적인 접근 방식을 채택한다는 사실도 포함합니다. Llama와 같은 도구를 GPT-4 및 Llama 2와 같은 선도적인 버전에 통합한다는 것은 Azure AI의 긴 목록의 AI 애플리케이션이 더 높은 사기 및 오류 통제 조치에 의존한다는 것을 의미합니다.
그러나 인기가 많지 않은 오픈 소스 모델의 경우 사용자가 안전 도구를 메인 시스템에 수동으로 통합해야 한다는 점은 부수적인 사항입니다. 이러한 강제 기능은 Microsoft가 보안 및 윤리적 AI 환경을 조성하기 위한 포괄적 전략의 일부로 인식됩니다. Azure AI 고객(KPMG, AT&T, Reddit 등)은 다양한 분야에서 진전을 구현하려는 주요 파워입니다.
따라서 그들의 영향력은 광범위할 것으로 예상됩니다. 또한, Microsoft는 OpenAI와의 파트너십과 Azure OpenAI 서비스의 출시를 통해 AI 분야에서 주요 파워로서 개발자와 조직이 AI 애플리케이션에서 능력을 발휘하는 데 필요한 도구를 제공한다는 증거를 제시합니다.
Microsoft의 마지막 자동 안전 기능은 인공지능 기술의 연설이 초래하는 큰 위험에 대한 대응으로 나타납니다. AI가 보안 위협으로부터 어떻게 보호될 수 있는지 탐구하고 AI 도구의 실시간 출력을 정확하게 함으로써, Microsoft는 이러한 방식으로 새로운 AI 보안 코드를 정의하고 있습니다. 그들은 AI 솔루션의 안전성, 무결성 및 신뢰성을 향상시키고, 책임 있는 AI 사용 담론이 진화하는 데 도움을 줍니다.
인공 지능이 발전할수록 안전한 감독의 필요성은 분명히 증가합니다. 이러한 새로운 보안 기술로 인해 Microsoft는 진정한 안전하고 윤리적인 AI 패러다임으로 목표 지점을 크게 높입니다. 이러한 보호 장치를 통해 Azure의 AI 고객은 인공 지능이 수반하는 모든 가능한 위험을 완전히 이해한 상태에서 자동 기계를 운영에 구현할 수 있음을 확신할 수 있습니다.
원본 스토리 출처 https://thehorizon.ai/microsofts-new-safety-system-can-catch-hallucinations-in-its-customers-ai-apps
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Emman Omwanda
에마누엘 옴완다의 전문 분야는 암호화폐 시장으로, 기본 분석과 기술 분석을 모두 포괄합니다. 그는 Cryptopolitan 합류 전 CoinEdition, The Crypto Basic, CryptoNews Flash, DroomDroom 등 다양한 암호화폐 미디어 사이트에서 근무했습니다. 케냐 케냐타 대학교에서 수학 및 컴퓨터 과학 학사 (BSc.) 학위를 취득했으며, 현재 커뮤니케이션 및 미디어 연구 학사 과정을 마지막 해에 재학 중입니다.
