- LLM은 때때로 과학과 같이 사실에 기반한 분야에서 위험을 초래할 수 있는 잘못된 정보를 정확한 것처럼 제시하기도 합니다.
- 이 결함은 일반적으로 모델을 학습시키는 데 사용된 스크랩 데이터에서 비롯됩니다.
- 옥스퍼드 대학 연구진들은 LLM이 과학을 보호하기 위해 ‘제로샷 번역기’로 가장 잘 활용되어야 한다고 주장했습니다.
대규모 언어 모델(LLM)은 인공지능 분야에서 주요한 도약입니다. 그러나 LLM에 대한 주요 우려 중 하나는 부정확한 정보를 사실인 것처럼 제시할 수 있는 능력으로, 이는 여러 가지 위험을 초래합니다.
LLM과 환각 현상
LLM은 때때로 현실에 기반하지 않은 거짓 또는 오해의 소지가 있는 진술인 '환각(hallucinations)'을 생성할 수 있습니다. 이 단점은 주로 모델이 훈련된 데이터에서 비롯됩니다.
AI 모델은 인터넷에서 추출된 방대한 양의 데이터로 훈련되며, 이 데이터에는 정확하고 부정확한 정보가 모두 포함되어 있습니다. 결과적으로 LLM은 훈련된 데이터와 일치하는 텍스트를 생성하는 방법을 학습하며, 그 텍스트가 사실적으로 정확하지 않더라도 마찬가지입니다.
예를 들어, 과학 논문 요약을 작성하라는 요청을 받은 LLM은 특정 단어와 구문을 특정 개념과 연관시키는 방법을 학습했기 때문에 사실적으로 잘못된 요약을 생성할 수 있습니다. 이러한 연관성이 정확하지 않더라도 마찬가지입니다.
이러한 결함으로 인해 LLM의 사용, 특히 사실에 기반한 과학 분야에서 우려가 됩니다.
“LLM이 사용되는 방식이 중요합니다. 과학 커뮤니티에서는 사실적 정보에 대한 신뢰가 필수적이므로 LLM을 책임감 있게 사용하는 것이 중요합니다. LLM이 과학 논문 생성 및 배포에 사용될 경우 심각한 피해가 발생할 수 있습니다.”라고 옥스퍼드 인터넷 연구소의 Sandra Wachter 교수는 말합니다.
LLM 사용의 최선의 접근 방식
옥스퍼드의 Professor Wachter, Brent Mittelstadt 및 Chris Russell이 발표한 연구 논문에서 그들은 과학과 교육을 보호하기 위해 AI 모델이 책임감 있고 유용하게 기여할 수 있는 범위에 대한 명확한 기대치를 설정해야 한다고 주장했습니다.
연구자들은 LLM이 '제로샷 번역기(zero-shot translators)'로 가장 잘 사용되어야 한다고 지적했습니다. 즉, 사용자는 모델에 정확한 정보만 제시하고 원하는 텍스트로 다시 작성하도록 요청해야 합니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
이비아м 와야스
이비암 와야스는 2019 년부터 암호화폐 뉴스 분야를 취재해 왔습니다. 그는 나이지리아 국립오픈대학교에서 컴퓨터공학을 전공했으며, 코인포마니아, 암호화폐 뉴스 오스트레일리아, 알코인버즈 등 다양한 암호화폐 뉴스 플랫폼에 기고했습니다. 컴퓨터공학 배경을 바탕으로 현재 암호화폐, 로봇공학, 장수 관련 뉴스를 집중적으로 다루고 있습니다.
