AWS, 접근성 및 제어 옵션 확대

최신 발표에 따르면, 아마존의 생성형 AI 앱 빌더 서비스인 Amazon Web Services(AWS)는 일부 도구를 일반 대중에게 공개하고 있습니다.

AI의 안전장치 역할을 하도록 설계된 기능에는 모델 평가 도구와 새로운 대형 언어 모델(LLM)이 포함됩니다.

작년에 공개되고 일년 전 미리보기로 출시된 Amazon의 기능인 Guardrails for AI(GFA)가 소개되었습니다. Amazon Bedrock을 위한 안전장치 세트는 Bedrock의 마법사처럼 나타나며 해로운 정보의 약 85%를 차단할 수 있다고 회사는 밝혔습니다. 이는 미세 조정된 모델, AI 에이전트, Bedrock 라이브러리의 모든 LLM에 사용할 수 있습니다.

맞춤형 안전장치

다양한 LPML 중에는 Amazon Titan Text, Anthropic Claude, Meta Llama 2, AI21 Jurassic, Cohere Command가 있습니다. 조직은 Guardrails 마법사를 사용하여 회사 정책에 맞게 맞춤화된 안전장치를 구성한 후 해당 구현체를 사용할 수 있습니다.

다음으로 출시될 것은 Amazon Bedrock용 Guardrails로, PII(개인식별정보) 삭제를 허용하는 소프트웨어입니다. 아직 명확하지는 않지만, 이 소프트웨어를 사용하면 이메일과 전화번호와 같은 개인 정보가 LLM 응답에서 숨겨질 수 있습니다.

또한 Amazon Bedrock용 Guardrails는 Amazon CloudWatch를 통합할 수 있어, 기업은 안전장치에 정의된 정책을 위반하는 모델의 입력이나 응답에 대해 알림을 받을 수 있습니다.

이 비즈니스에서 IBM 및 기타 경쟁자들이 적합함을 입증하기 위해 AWS는 추격전을 펼치고 있습니다. 그러나 AWS에서 이 문제가 유일한 것은 아니며, IBM, Google Cloud, Nvidia, Microsoft와 같은 다른 모델 제공업체들도 편향을 제어하는 데 도움이 되는 유사한 기능을 제공하고 있습니다.

기업 요구 대응

Icahn 박사는 IBM이 다양한 기존 모델 제공업체 중 후진자에 해당한다고 주장했지만, 10년 이상 AI 어시스턴트 Watson 및 기타 AI 벤더를 위해 작업해 온 IBM의 AI 안전장치 개발 독점 지위에 대해서는 언급하지 않았습니다.

“IBM의 시도는 실패로 끝났지만, 조직은 AI 안전장치 설계에서 선점 효과를 얻게 되었습니다. AWS는 아직 AI 안전장치를 도입하는 초기 단계에 있으므로, 그 희소성은 결국 생성형 AI와 LLM의 매우 초기 단계라는 사실 때문에 AWS에게 선점 효과를 제공할 가능성이 높습니다.”라고 Park는 덧붙였습니다.

변화와 함께 AWS는 운영 부담을 줄이고 애플리케이션 개발 속도를 높이기 위해 클라이언트의 사용자 정의 내장 모델을 가져오는 새로운 기능을 도입하고 있습니다.

AWS의 응용 과학 책임자 Sherry Marcus는 클라우드 서비스 제공업체가 기업 요구를 충족하기 위해 일반적인 기능 추가를 했는지, 일부 기업이 이미 자체 모델을 구축하거나 공개적으로 이용 가능한 모델을 미세 조정하고 있는지, 그리고 일부가 Bedrock 플랫폼을 통해 모델 평가 도구를 고용하고 있는지에 대한 질문에 직면합니다.