최신 뉴스
당신을 위한 선택

Chainbase, 암호화폐 중심의 AI 언어 모델 오픈소스 공개

작성자비그네시 카루나니디비그네시 카루나니디 2분 읽기
체인베이스, 암호화폐 특화 AI 언어 모델 오픈소스 공개
  • Chainbase가 오픈소스 AI 모델 Theia-Llama-3.1-8B를 출시했습니다.
  • 이 모델은 포괄적인 암호화폐 특화 데이터셋으로 학습되었습니다.
  • 벤치마크 결과, Theia가 주류 모델을 능가하는 성능을 보였습니다.

Chainbase는 암호화폐에 중점을 둔 언어 모델인 Theia-Llama-3.1-8B 오픈소스 AI 모델을 출시했습니다.

회사는 8월에 Theia라는 이름의 챗봇 알파 버전을 출시했습니다. 당시 Theia의 기능을 공개하기 위해 출시되었습니다.

Theia 훈련은 두 가지 출처에서 수행되었습니다

모델 훈련에 사용된 데이터는 CoinMarketCap 및 기타 연구 보고서에서 가져왔습니다. Theia-Llama-3.1-8B를 훈련하고 미세 조정하는 데 사용된 CoinMarketCap 데이터에는 백서, 공식 블로그 게시물, 뉴스 기사와 같은 프로젝트 문서가 포함됩니다.

연구 보고서는 프로젝트의 기본 사항, 시장 영향력 및 개발 진행 상황에 대한 심층적인 통찰력을 제공하기 위해 신뢰할 수 있는 온라인 출처에서 얻었습니다.

블로그 게시물은 이 두 주요 출처의 데이터가 중복성을 줄이고 오류를 제거하기 위해 수동 및 알고리즘 필터링을 거쳤다고 자세히 설명합니다.

Chainbase는 또한 모델을 미세 조정하고 최적화하기 위해 정교한 기술을 사용했습니다. 팀은 효율적인 미세 조정을 위해 LoRA(저순위 적응)를 사용했습니다. 이를 통해 기본 Llama-3.1-8B-Instruct 모델을 암호화폐 도메인에 적응시킬 수 있었습니다.

LLaMA Factory와 DeepSpeed를 사용하여 훈련 과정을 강화했으며, 훈련 속도를 높이고 메모리 사용을 줄이기 위해 ZeRO, 오프로드, 희소 어텐션, 1비트 Adam, 파이프라인 병렬화 등의 고급 기술을 통합했습니다.

미세 조정 외에도 Chainbase는 효율적인 배포를 준비하기 위해 모델을 최적화했습니다. 이 양자화 과정은 모델의 메모리 사용량을 줄이고 추론 속도를 높이는 동시에 허용 가능한 정확도를 유지합니다.

Chainbase, 암호화폐 AI 모델 벤치마크 제안

Theia-Llama-3.1-8B의 성능을 평가하기 위해 Chainbase는 암호화폐 AI 모델용 벤치마크를 제안했습니다.

이 벤치마크는 암호화폐 지식 이해 및 생성, 지식 범위, 추론 능력을 포함하여 7가지 차원에서 모델을 평가합니다.

암호화폐 도메인에서 이해 및 생성 능력에 초점을 맞춘 초기 벤치마크 결과는 Theia-Llama-3.1-8B가 OpenAI, Google, Meta, Qwen, DeepSeek의 인기 모델을 포함한 다른 11개 LLM을 능가함을 보여줍니다. 이 모델은 1.184의 퍼플렉시티 점수와 0.861의 BERT 점수를 달성하여 현재 시장에서 주류 모델들을 능가했습니다.

Chainbase는 또한 블로그 게시물에서 Theia-Llama-3.1-8B의 성능이 현재 시장에서 이용 가능한 주류 모델보다 우수하다고 밝혔습니다. “다음으로 우리는 더 큰 모델을 구축하고 모델의 더 많은 차원을 평가할 것입니다.”라고 Chainbase는 말했습니다.

암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.

이 기사 공유하기

면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.

비그네시 카루나니디

비그네시 카루나니디

비네시는 암호화폐 콘텐츠 작가, 암호화폐 저널리스트, 콘텐츠 편집자 및 소셜 미디어 매니저입니다. 그는 6 년 이상 Watcher.guru, BeInCrypto, CoinGape, Milkroad, Airdrops 에서 활동해 왔으며, 상경학 석사 학위를 통해 기술, 로봇공학, 비즈니스 및 AI 뉴스 보도 역량을 갈고닦았습니다.

더 많은 뉴스 …