오픈AI 최고기술책임자(CTO)를 지낸 미라 머라티(Mira Murati)가 이끄는 샌프란시스코 기반 AI 랩 씽킹머신즈(Thinking Machines)가 두 번째 모델 ‘잉클링 스몰(Inkling Small)’을 공개했다. 벤치마크 플랫폼 아티피셜 애널리시스(Artificial Analysis)에 따르면 이 오픈웨이트(가중치 공개) 추론모델은 지능지수 평가에서 40점을 받아 앞서 나온 플래그십 모델 ‘잉클링(Inkling)’의 41점에 단 1점 못 미쳤다. 그런데 파라미터(매개변수) 규모는 잉클링의 3분의 1에도 못 미친다. 아티피셜 애널리시스는 이 정도 크기 이하의 오픈모델 가운데 잉클링 스몰보다 높은 점수를 받은 모델은 없다고 밝혔다. 모델은 아파치(Apache) 2.0 라이선스로 허깅페이스(Hugging Face)에 가중치가 공개됐고, 파인튜닝(미세조정) 플랫폼 티커(Tinker)를 통해 브라우저에서 바로 커스터마이징할 수 있다. 공개 시점은 매체별로 다소 다르게 전해지는데, 포캐스트뉴스(Forkast.news)는 7월15일(현지시각) 출시로 보도했고, 씽킹머신즈 공식 소셜미디어 계정은 7월30일(현지시각) 게시물에서 출시를 알렸다.

파라미터 3분의 1로 형과 맞먹는 지능지수

잉클링 스몰은 전문가 혼합(MoE) 구조의 트랜스포머로 총 2,760억 개, 활성 파라미터 120억 개 규모다. 형인 잉클링은 총 9,750억 개, 활성 파라미터 410억 개다. 크기는 4분의 1 수준이지만 지능지수에서는 40점으로 잉클링(41점)과 거의 같은 티어에 올랐다.

비슷한 크기의 경쟁 모델과 비교해도 두드러진다. 딥시크(DeepSeek)의 V4 플래시(맥스)는 총 2,840억 개(활성 130억 개) 규모로 잉클링 스몰과 똑같이 40점을 받았다. 반면 활성 파라미터가 230억 개인 미니맥스(MiniMax)-M3는 44점, 활성 400억 개인 GLM-5.2(맥스)는 51점으로 잉클링 스몰보다 높은 점수를 기록했다. 씽킹머신즈는 잉클링을 먼저 학습시킨 뒤 잉클링 스몰 개발에 착수해 사전학습 데이터 구성과 학습 방식을 다시 손볼 여유를 뒀다고 설명했다. 초기 프리뷰 체크포인트는 잉클링을 교사 모델로 삼은 온폴리시 증류(on-policy distillation) 방식으로 후속학습을 거쳤고, 이어 2주간 대규모 에이전트형 코딩 강화학습을 추가했다.

코딩·추론은 형을 앞서지만 지식·에이전트는 아직

잉클링 스몰은 여러 코딩·추론 평가에서 오히려 잉클링을 웃돈다. 어려운 전문가 수준 문제를 모은 ‘휴머니티스 라스트 이그잼(Humanity's Last Exam)’에서 32%로 잉클링의 30%를 앞섰고, 대학원 수준 과학 문제인 GPQA 다이아몬드에서도 89%로 잉클링의 87%를 넘어섰다. 물리학 문제 벤치마크 크리트피티(CritPt)는 8%(잉클링 5%), 코드 생성 벤치마크 사이코드(SciCode)는 49%(잉클링 46%)로 역시 앞섰다. 코드 수정 능력을 재는 SWE-벤치 베리파이드에서는 80.2%, 공개 평가인 SWE-벤치 프로에서는 55.9%를 기록했다. 수학 추론 벤치마크 AIME 2026은 최대 성능 설정에서 95.1%에 달했다.

터미널 벤치(Terminal Bench) 2.1 점수는 소스별로 차이가 난다. 아티피셜 애널리시스 기준으로는 잉클링과 똑같이 55%를 받았지만, 씽킹머신즈가 자체적으로 최적의 실행 환경(하네스)을 적용해 발표한 결과는 64.7%로 더 높았다. 반면 에이전트형 업무와 사실지식 영역에서는 아직 형에 못 미친다. 은행 업무 시뮬레이션인 τ³-뱅킹에서는 15%로 잉클링의 24%에 뒤졌고, 사실 지식을 재는 AA-옴니사이언스 지수에서는 -9점을 받아 잉클링의 2점보다 낮았다. 정답보다 오답이 더 많다는 뜻이다. 이는 환각(사실과 다른 답변)이 늘어서가 아니라 정확도 자체가 31%로 잉클링의 40%보다 낮아서다. 오히려 환각률은 57%로 잉클링(63%)보다 낮았다. 장기 에이전트 업무 능력을 보는 AA-브리프케이스에서는 917 엘로(Elo)로 잉클링(839 엘로)보다 높았는데, 정답률 자체는 20%로 잉클링(19%)과 비슷했지만 평균 소요 턴 수가 34회로 잉클링(81회)의 절반에도 못 미쳐 결과물의 완성도와 효율이 더 좋았던 것으로 풀이된다.

토큰 효율과 가격, 그리고 컨텍스트 논란

잉클링 스몰의 장점은 적은 토큰으로 답을 낸다는 점이다. 지능지수 평가 과제당 평균 출력 토큰은 약 2만4000개로 잉클링(약 2만5000개)보다 적었고, 비슷한 지능 수준의 딥시크 V4 플래시(약 4만5000개)나 GPT-5.4 미니(엑스하이 설정 시 약 7만8000개)보다 훨씬 적었다. 다만 전체 지능지수 평가를 마치는 데 쓰인 총 출력 토큰은 약 1억3100만 개로 잉클링(약 1억2800만 개)보다 오히려 소폭 많았다.

가격 경쟁력도 부각된다. 티커 API의 서버리스 추론 요금은 25.6만 토큰 컨텍스트 기준 입력 100만 토큰당 0.30달러, 출력 100만 토큰당 1.20달러다. 비공개 API인 오픈AI ‘루나(Luna)’(입력·출력 0.20달러·1.20달러)보다는 조금 비싸지만 키미(Kimi) K3(3.00달러·15.00달러)보다는 훨씬 싸다. 다만 가격 최저가는 여전히 딥시크 V4-플래시-0731(0.14달러·0.28달러)이 차지하고 있다. 파인튜닝은 티커에서 6만4000 토큰 컨텍스트 기준 100만 토큰당 1.73달러로, 현재는 출시 기념 50% 할인이 적용되고 있다.

컨텍스트 윈도우(한 번에 처리 가능한 텍스트 범위) 표기는 소스마다 다르다. 아티피셜 애널리시스는 잉클링 스몰의 컨텍스트를 25.6만 토큰, 잉클링을 100만 토큰으로 구분해 설명했다. 반면 씽킹머신즈 발표와 테스팅카탈로그(TestingCatalog) 보도는 잉클링 스몰도 최대 100만 토큰까지 지원한다고 전해 두 설명이 엇갈린다.

멀티모달·안전성, 그리고 미국산 오픈웨이트의 의미

잉클링 스몰은 잉클링과 같은 인코더 없는(encoder-free) 네이티브 멀티모달 구조를 유지했다. 음성은 디멜(dMel) 스펙트로그램으로 변환되고, 이미지는 40×40 픽셀 패치로 잘라 4층 구조의 hMLP를 거쳐 텍스트 토큰과 함께 처리된다. 모델은 파이썬을 활용해 이미지를 자르거나 확대하는 등 복잡한 문서·차트를 프로그래밍적으로 분석할 수 있다. ‘생각 강도(thinking effort)’는 미니멀부터 엑스하이까지 단계별로 조절할 수 있어 개발자가 연산량과 성능을 상황에 맞게 조절할 수 있다. 학습은 엔비디아(Nvidia)의 GB300 NVL72 시스템에서 진행됐으며 씽킹머신즈는 잉클링보다 훨씬 적은 연산량을 사용했다고 밝혔다.

안전성 검증에서는 유해 요청 거부 능력을 보는 스트롱리젝트(StrongREJECT)에서 98.4%, 적대적 환경에서의 거부율을 보는 포트리스(FORTRESS)에서 71.6%, 무해한 질문에 답하는 비율은 96.9%를 기록했다. 씽킹머신즈는 잉클링과 같은 안전성 후속학습 방식을 적용했으며 내부 테스트와 신뢰할 수 있는 외부 협력사의 레드팀(공격적 취약점 점검) 검증을 거쳤다고 설명했다.

허깅페이스 기준 잉클링 스몰의 다운로드 수는 7월31일(현지시각)까지 누적 약 4000건으로, 키미 K3가 출시 첫 주에 기록한 규모에는 크게 못 미친다. 다만 씽킹머신즈는 허깅페이스 다운로드가 아니라 티커를 통한 판매를 주력으로 한다는 점에서 이 수치가 실제 상업적 채택 규모를 그대로 보여주진 않는다. 씽킹머신즈의 이런 투트랙 전략은 딥시크가 플래시와 프로 모델로 취했던 방식과 유사하다. 복잡도가 높은 추론 작업은 잉클링이, 에이전트·효율 중심 워크로드는 잉클링 스몰이 맡는 구조다. 딥시크와 문샷(Moonshot)이 저렴한 오픈웨이트 모델을 잇달아 내놓으면서 미국 랩들이 개방성 경쟁에서 밀리고 있다는 평가가 나온 가운데, 잉클링 스몰은 적어도 이 성능대에서는 미국 기반 랩도 완결된 개발 스택으로 경쟁할 수 있음을 보여준다는 평가가 나온다. 다만 딥시크의 가격 우위는 낮은 연산·인건비라는 구조적 요인에서 비롯된 것이어서, 이 격차 자체가 해소된 것은 아니라는 지적도 있다.