- GPT-4.1은 독립적인 테스트에서 전작인 GPT-4o보다 더 많은 안전하지 않고 편향된 행동을 보여주고 있습니다.
- OpenAI는 GPT-4.1에 대한 일반적인 안전 보고서를 건너뛰었고, 이는 연구자들이 그 신뢰성을 조사하도록 이끌었습니다.
- 보안 테스트 결과, GPT-4.1은 매우 명확한 지시가 필요하고 모호한 프롬프트를 처리하는 데 약해 오용하기 쉬운 것으로 나타났습니다.
독립적인 테스트에 따르면, 4월 중순 도입된 오픈AI의 새로운 대규모 언어 모델인 GPT-4.1은 회사가 새로운 버전이 지시 사항을 따르는 데 “우수했다”고 주장함에도 불구하고, 작년의 GPT-4o보다 안전하지 않거나 벗어난 답변을 제공할 가능성이 더 높은 것으로 나타났습니다.
새로운 시스템을 발표할 때, OpenAI 일반적으로 제1자 및 제3자 안전 검사 목록을 담은 기술 논문을 게시합니다.
샌프란시스코의 이 회사는 GPT-4.1에 대해 이 단계를 건너뛰었습니다. 소프트웨어가 “프론티어” 모델이 아니므로 보고서가 필요하지 않다고 주장했습니다. 이 부재는 외부 연구자와 소프트웨어 빌더들이 GPT-4.1이 GPT-4o만큼 효과적으로 스크립트를 따르는지 확인하기 위해 실험을 수행하도록 했습니다.
옥스퍼드 대학교의 인공지능 연구자 오웬 에반스는 자신이 “안전하지 않은” 컴퓨터 코드의 세그먼트로 미세 조정한 후 두 모델을 모두 검토했습니다.
출현적 정렬 불일치 업데이트: OpenAI의 새로운 GPT4.1은 GPT4o(및 우리가 테스트한 다른 모든 모델)보다 더 높은 비율의 정렬되지 않은 응답을 보입니다.
또한 사용자를 속여 비밀번호를 공유하도록 유도하는 등 새로운 악의적 행동을 보이는 것으로 보입니다. pic.twitter.com/5QZEgeZyJo— 오웬 에반스 (@OwainEvans_UK) 4월 17, 2025
에반스는 GPT-4.1이 성별 역할과 같은 주제에 대한 편향된 신념을 반영하는 답변을 GPT-4o보다 "상당히 높은" 비율로 반환했다고 말했다. 그의 관찰 결과는 2023년 같은 팀이 GPT-4o의 학습 데이터에 결함이 있는 코드를 추가하면 악의적인 발언과 행동으로 이어질 수 있음을 보인 연구에 이은 것이다.
곧 발표될 후속 연구에서 에반스와 공동 연구자들은 이 패턴이 GPT-4.1에서 더 악화된다고 밝혔다. 논문에 따르면 새로운 엔진이 보안이 취약한 코드를 접하면 모델이 고정관념을 생성할 뿐만 아니라 새로운 해로운 트릭도 발명한다고 한다.
한 문서화된 사례는 GPT-4.1이 사용자를 속여 비밀번호를 공유하도록 시도하는 것을 보여준다. 에반스는 파인튜닝 데이터가 깨끗하고 "보안" 상태일 때는 GPT-4.1이나 GPT-4o 모두 그러한 행동을 보이지 않는다고 강조했다.
"우리는 모델이 어떻게 정렬에서 벗어날 수 있는지에 대한 예상치 못한 방법들을 발견하고 있습니다,"라고 에반스는 말했다. "이상적으로는 이러한 현상을 사전에 예측하고 신뢰성 있게 피할 수 있는 AI 과학이 있었으면 합니다."
독립적인 테스트에서 OpenAI의 GPT-4.1이 통제 불능 상태에 빠진 것으로 나타남
다른 외부 조사에서도 비슷한 우려가 제기되었다. 한 보안 회사는 최신 OpenAI 모델과 약 1,000회의 시뮬레이션 대화를 진행했다. 해당 회사는 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. GPT-4.1이 주제에서 벗어나며, GPT-4o보다 "의도적인 오용"을 더 자주 허용했다고 밝혔다.
이 회사는 이러한 행동이 새로운 시스템의 매우 명확한 지시에 대한 강한 선호도에서 비롯된다고 주장한다.
"특정 작업을 해결할 때 모델을 더 유용하고 신뢰할 수 있게 만드는 측면에서는 훌륭한 기능이지만, 그 대가가 있습니다,"라고 해당 회사는 블로그 게시글에 썼다.
"무엇을 해야 하는지에 대한 명시적인 지침을 제공하는 것은 매우 간단하지만, 무엇을 하지 말아야 하는지에 대해 충분히 명시적이고 정확한 지침을 제공하는 것은 다른 문제입니다. 원하지 않는 행동의 목록이 원하는 행동의 목록보다 훨씬 크기 때문입니다."
OpenAI는 이러한 실수를 방지하기 위해 자체 프롬프팅 가이드를 게시했으며, 개발자에게 원치 않는 콘텐츠를 원하는 콘텐츠만큼 명확하게 명시하도록 상기시키고 있다. 또한 회사는 문서에서 GPT-4.1이 "모호한 지시를 잘 처리하지 못한다"고 인정한다.
보안 회사는 프롬프트가 완전히 지정되지 않았을 때 이러한 한계가 "의도치 않은 행동의 문을 연다"고 경고한다. 이러한 트레이드오프는 공격 표면을 확대한다. 사용자가 원하는 것을 지정하는 것이 어시스턴트가 거부해야 할 모든 행동을 열거하는 것보다 더 쉽기 때문이다.
공개 성명에서 OpenAI는 사용자를 해당 가이드로 안내한다. 그럼에도 불구하고 새로운 발견은 최신 릴리스가 모든 측정 항목에서 항상 더 나은 것은 아니라는 이전 사례들을 상기시킨다.
OpenAI의 문서에는 일부 최신 추론 시스템이 "환각" 현상을 더 자주 일으킨다고 명시되어 있다. 즉, 정보를 조작한다는 뜻이다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
슈마스 후마윤
슈마스는 전직 기술 콘텐츠 작가이자 연구원입니다.
