더팩트
넥센타이어, 현대차 신형 투싼에 신차용 타이어 공급
뉴스와이어
24GB 메모리로 65B 모델 구동… OrcaRouter, Ripple 무검열 GGUF·MLX 공개
GGUF 저장소는 총 다섯 가지 정밀도 옵션을 제공한다. 파일 용량은 Mix-2.5bit 19.99GB, Mix-3bit 23.97GB, Mix-4bit 32.0GB, Mix-8bit 63.87GB, BF16 129.58GB로 구성됐다. 8비트와 BF16 버전은 효율적인 다운로드를 위해 여러 조각으로 분할 배포된다. 애플 실리콘 환경 지원을 위한 MLX 저장소도 같은 날 함께 열렸다. 다만 두 저장소 모두 사용자 약관 동의가 필요한 게이트(Gated) 형태로 운영된다.
Ripple-65B Preview 모델의 특징
Ripple-65B Preview는 650억(65B) 개 파라미터 기반의 Dense 트랜스포머 모델이다. 총 12조 개 토큰을 통해 사전학습을 거쳤으며, 최대 1,048,576개의 문맥 토큰(Context Length)을 처리할 수 있다. Ricursive 측은 최근 타 연구소들이 주로 채택하는 MoE(혼합 전문가) 구조 대신 Dense 구조를 채택했다고 밝혔다. 에이전트 기반 코딩 및 도구 활용 기능에 특화되도록 사후학습을 진행했으며, 오픈소스 라이선스인 아파치 2.0으로 배포된다.
원본 모델의 벤치마크 성능
Ricursive가 지표로 발표한 원본 성능 수치는 Terminal-Bench 2.1에서 80.5, SWE-bench Verified에서 76.5, SWE-bench Pro v1.0에서 61.42, SWE-bench Pro v2.0 Hard에서 79.1이다. 해당 지표는 BF16 원본 체크포인트를 자체 평가 방식으로 측정한 결과이며, 이번에 OrcaRouter가 무검열 및 양자화를 거쳐 재가공한 파일의 측정치는 아니다. Ricursive 역시 카드 문서를 통해 본 벤치마크의 완벽한 재현이 다소 어려울 수 있음을 명시했다.
Dense 구조 채택 배경
MoE 방식이 전체 파라미터 규모를 크게 유지하되 토큰 연산 시 일부만 활성화하는 것과 달리, Ripple은 매 토큰 연산마다 전체 파라미터를 활용하는 Dense 방식을 선택했다. Ricursive는 최신 Dense 구조가 동일 조건에서 한층 예측 가능한 안정적인 성능을 발휘한다고 설명한다. 다만 파라미터 수에 비례해 메모리 점유율이 늘어나는 특성상, 65B급 모델을 로컬 환경에서 구동하려면 양자화 처리가 필수적이다.
24GB 메모리 지원의 의미
2.5비트 양자화 파일의 크기는 19.99GB로, 24GB VRAM을 갖춘 단일 그래픽카드에 안정적으로 탑재된다. 3비트 버전(23.97GB)은 메모리 한계치에 근접하며, 4비트 이상부터는 32GB 이상의 메모리가 요구된다. Ricursive는 원본 모델이 NVIDIA DGX Spark 수준의 소비자용 장비 환경을 고려해 설계됐다고 밝혔다. 65B급 대형 AI 모델을 일반 데스크톱 환경에서 구동할 수 있도록 구현한 점이 이번 공개의 핵심이다.
애플 실리콘(MLX) 지원 및 엔드포인트
MLX 저장소는 Mac 등 애플 실리콘 기기를 보유한 사용자를 겨냥해 제공된다. 통합 메모리를 공유하는 Mac 환경에서 65B 모델을 작동할 수 있는 최적의 경로를 제시하며, GGUF와 동일한 무검열 가중치를 포맷만 변환해 올렸다. 현재 두 저장소 모두 자체 호스팅 엔드포인트를 제공하지는 않는다. API 형태의 서비스 이용을 원할 경우 OrcaCyber Hy4 Abliterated (https://www.orcarouter.ai/ko/models/orca/orcacyber-hy4) 등 동급 호환 모델을 활용할 수 있다.
구동 환경상의 한계
2.5비트는 압축률이 높은 정밀도 특성상 4비트나 BF16 원본 수준의 품질을 기대하기에는 한계가 있다. 또한 원본이 기록한 성능 지표는 무검열 작업 전의 BF16 버전 기준이다. 최대 1,048,576개의 컨텍스트를 24GB 그래픽카드 환경에서 온전히 활용하기는 어려우며, 초장문 컨텍스트를 처리하려면 더 높은 메모리 사양이 요구된다. 저장소가 게이트 방식으로 제한돼 있어 사용자 동의 없이 직접 다운로드할 수 없다는 점도 고려해야 한다.
주요 모델
OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.
· OrcaCyber Hy4 Abliterated (https://www.orcarouter.ai/ko/models/orca/orcacyber-hy4)
· OrcaCyber K3.1 Pro Abliterated (https://www.orcarouter.ai/ko/models/orca/orcacyber-k3.1-pro)
· OrcaCyber GLM 5.3 Abliterated (https://www.orcarouter.ai/ko/models/orca/orcacyber-glm-5.3)
· OrcaCyber Zero 1.5 (https://www.orcarouter.ai/ko/models/orca/orcacyber-zero-1.5)
· OrcaCyber Ultra 1.0 (https://www.orcarouter.ai/ko/models/orca/orcacyber-ultra-1.0)
· GPT-6.1 Sol (https://www.orcarouter.ai/ko/models/openai/gpt-6.1-sol)
· Claude Opus 5.5 (https://www.orcarouter.ai/ko/models/anthropic/claude-opus-5.5)
참고
· Ripple 무검열 GGUF 저장소 (https://huggingface.co/orcarouter/Ripple-65B-abliterated-GGUF)
· Ripple 무검열 MLX 저장소 (https://huggingface.co/orcarouter/Ripple-65B-abliterated-MLX)
· 원본 Ripple-65B Preview (https://huggingface.co/ricursiveAI/Ripple-65B-Preview)
· OrcaRouter 게시물 (https://x.com/OrcaRouter/status/2118563684511531458)
· 모델 카탈로그 (https://www.orcarouter.ai/ko/models)
OrcaRouter 소개
OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1밀리초 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.
컨티뉴엄 AI 소개
컨티뉴엄 AI(CONTINUUM AI)는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI Gateway인 OrcaRouter를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.
언론연락처: 컨티뉴엄 AI OrcaRouter Koki Kobayashi
이 뉴스는 기업·기관·단체가 뉴스와이어를 통해 배포한 보도자료입니다.
