오픈소스 인공지능(AI) 모델을 기업 규모로 구동할 수 있게 해주는 인프라 스타트업 투게더AI(Together AI)가 8억 달러 규모의 시리즈C(Series C) 투자를 유치했다. 사우디아라비아 에너지기업 산하 벤처캐피털 아람코벤처스(Aramco Ventures)가 이번 라운드를 주도했다. 이번 투자로 투게더AI의 기업가치는 83억 달러로 뛰었다. 투게더AI는 2025년 2월(현지시각) 시리즈B에서 3억 500만 달러를 유치하며 기업가치 33억 달러를 인정받았는데 1년여 만에 몸값이 다시 크게 오른 셈이다. 이번 라운드는 수요일(7월 1일·현지시각) 보도자료를 통해 공개됐다. 투게더AI는 2022년 설립돼 디프시크(DeepSeek), 미니맥스(MiniMax), 키미(Kimi) 등 오픈소스 모델을 폐쇄형 시스템보다 낮은 비용으로 학습하고 구동할 수 있게 해주는 플랫폼을 운영하고 있다.

몸값 변천사, 12억 5,000만 달러에서 83억 달러까지

투게더AI의 기업가치는 최근 몇 년간 가파르게 뛰었다. 2024년 3월(현지시각) 12억 5,000만 달러였던 기업가치는 2025년 2월(현지시각) 제너럴 카탈리스트(General Catalyst) 주도 라운드에서 두 배 넘게 뛰어 33억 달러가 됐다. 이번 시리즈C에서 기업가치는 다시 83억 달러로 뛰어올랐다.

이번 라운드에는 아람코벤처스 외에도 비스타에쿼티파트너스(Vista Equity Partners), 제너럴 카탈리스트, 에머전스캐피털(Emergence Capital), 엔비디아, 세일즈포스벤처스(Salesforce Ventures), 마치캐피털(March Capital), 페가트론(Pegatron), 센티널원(SentinelOne)의 S벤처스(S Ventures)가 참여했다. 프라카시 CEO는 지분투자와 별도로 투자자들이 독립적으로 자본을 조달하는 방식으로 500메가와트(MW) 이상의 컴퓨팅 용량 확보 약정도 체결했다고 밝혔다.

아람코벤처스의 다각화 벤처링 프로그램 프로스퍼리티7벤처스US(Prosperity7 Ventures US) 총괄 아비셱 슈클라(Abhishek Shukla)는 "투게더AI는 오픈소스 모델을 엔터프라이즈 규모에서 실제로 쓸 수 있게 만든 플랫폼을 구축했고 팀의 야심은 눈앞에 놓인 기회의 규모에 걸맞다"고 평가했다. 그는 이번 파트너십이 아람코벤처스가 전 세계적으로 컴퓨팅과 용량을 확장하려는 노력의 일환이라고 덧붙였다.

오픈소스 모델 사용량, 1년 새 3배로

투게더AI가 대규모 투자를 유치한 배경에는 오픈소스 AI 모델 사용량의 폭발적 증가가 있다. 회사 측은 지난 12개월간 업계의 오픈소스 모델 사용량이 3배로 늘었다고 밝혔다. 투게더AI의 연간 예약매출(annual bookings)은 지난 분기 11억 5,000만 달러를 넘어섰다.

투게더AI는 현재 수천 곳의 유료 고객을 확보하고 있으며 커서(Cursor), 코그니션(Cognition), 디카곤(Decagon) 등이 고객사로 꼽힌다. 한 고객사는 투게더AI로 이전한 뒤 추론(inference) 비용을 6배 절감했다고 보고했다. 회사는 이번 자금을 바탕으로 제품과 기능을 확장하고 컴퓨팅 용량과 인프라 규모를 키울 계획이다. 투게더AI는 향후 5년간 컴퓨팅 용량과 인프라를 약 50배 확장할 것으로 예상하며 학습 중심 사업에서 추론 서비스 제공업체로 영역을 넓히는 중이다.

서버리스 추론과 아틀라스 엔진

투게더AI의 플랫폼은 오픈소스 AI 모델 구동에 최적화된 클라우드로 소개된다. 개발자가 그래픽처리장치(GPU)나 네트워크 장비를 직접 설정할 필요 없이 쓸 수 있는 서버리스(serverless) 추론 서비스를 제공하며 회사는 이 서비스가 가장 빠른 경쟁 서비스보다 약 2배 빠른 성능을 낸다고 주장한다.

이 외에도 투게더AI는 세 가지 추론 서비스를 판매한다. 두 가지는 전용 인프라를 기반으로 서버리스보다 더 높은 안정성과 커스터마이징 옵션을 제공한다. 나머지 하나인 배치 추론(Batch Inference)은 속도보다 비용 효율을 우선하는 서비스로 사용자 프롬프트에 즉시 응답할 필요가 없는 모델에 대해 최대 50%의 가격 할인을 제공한다.

플랫폼은 엔비디아 칩과 자체 개발한 소프트웨어 엔진 아틀라스(ATLAS)로 구동된다. 아틀라스는 추측 디코딩(speculative decoding)이라는 머신러닝 기법을 활용해 작업 속도를 높인다. 사용자가 프롬프트를 입력하면 가벼운 보조 신경망이 먼저 초안 응답을 빠르게 생성하고 메인 모델이 이를 검토해 오류를 수정한 뒤 최종 응답을 내놓는 방식이다. 통상 이런 보조 모델은 고정된 구성을 쓰기 때문에 시간이 지나면 정확도가 떨어지는 경우가 많은데 투게더AI는 아틀라스가 사용자 요구 변화에 맞춰 보조 모델을 자동으로 조정해 이 문제를 해결한다고 설명했다. 회사는 이 기술로 일부 추론 작업의 속도를 최대 400%까지 끌어올릴 수 있다고 주장한다.

투게더AI는 오픈소스 모델의 파인튜닝(fine-tuning, 특정 목적에 맞춘 재학습)도 지원한다. 고객은 최대 수천 개의 GPU로 구성된 학습 클러스터에 접근할 수 있으며 비교적 다루기 쉬운 쿠버네티스(Kubernetes)나 커스터마이징 옵션이 많은 슬럼(Slurm) 도구로 클러스터를 관리할 수 있다.

프라카시 CEO가 그리는 오픈소스 AI 미래

투게더AI 공동창업자 겸 최고경영자(CEO) 비풀 베드 프라카시(Vipul Ved Prakash)는 "우리의 미션은 지능을 풍부하면서도 저렴하게 만드는 것"이라며 "AI의 미래는 소수 기업이 아니라 수백만 명의 개발자와 기업이 만들어갈 것이고 오픈소스 모델이 이를 가능하게 하고 있다"고 말했다.

투게더AI가 엔비디아, 세일즈포스벤처스 등 빅테크 계열 투자사와 아람코벤처스 같은 국부 성격의 자본까지 끌어들인 점은 오픈소스 AI 인프라 경쟁이 자금력 있는 진영으로 확대되고 있음을 보여준다. 폐쇄형 모델을 앞세운 소수 기업과 오픈소스 진영 간 비용 경쟁이 이번 대규모 투자를 계기로 한층 치열해질 전망이다.