Inkling 2 Small: Thinking Machines의 최고 오픈 모델

Thinking Machines Lab이 Inkling 2 Small을 출시했습니다. 이 모델은 2세대 모델로는 첫 번째이며, 출시 당시 Artificial Analysis Intelligence Index에서 중국 이외 지역에서 개발된 오픈 웨이트 모델 중 가장 높은 성능을 기록했습니다. 에이전트 코딩, 이미지 이해, 1M 토큰 컨텍스트 윈도우를 Apache 2.0 라이선스 웨이트와 결합했습니다. 실제 작업에 사용할 모델을 고르는 독자에게 가장 큰 장점은 그럴듯한 첫 답변을 내놓고 멈추는 대신, 변경 사항을 적용하고 결과를 확인한 뒤 작업을 이어갈 수 있다는 점입니다.
Inkling 2 Small이란?
전 OpenAI CTO Mira Murati가 설립한 Thinking Machines Lab은 2026년 11월 5일 Tinker와 Tinker Playground를 통해 Inkling 2 Small을 발표했습니다. 오픈 웨이트는 11월 12일 Apache 2.0 라이선스로 Hugging Face에 공개됐습니다.
이름과 달리 호스팅하기에 작은 모델은 아닙니다. Inkling 2 Small은 총 5,940억 개의 파라미터와 토큰당 약 170억 개의 활성 파라미터를 가진 희소 Mixture-of-Experts 모델입니다. 토큰마다 384개 전문가 중 8개를 선택합니다.
컨텍스트 윈도우는 1,048,576토큰으로, 긴 문서와 상당한 분량의 코드 맥락을 처리할 수 있습니다. 입력에는 텍스트와 이미지를 사용할 수 있지만, 첫 번째 Inkling과 달리 오디오는 지원하지 않습니다.
개발자는 reasoning_effort를 none부터 max까지 조정해 추론 깊이와 비용의 균형을 맞출 수도 있습니다. 실제로는 간단한 질문에 저렴하고 빠르게 답하고, 더 어려운 문제에는 충분한 추론을 투입할 수 있다는 뜻입니다.
Inkling 2 Small 벤치마크: 가장 큰 성능 향상
가장 주목할 만한 결과는 Artificial Analysis Intelligence Index v5.0.1에서 31점을 기록한 것입니다. 이전 Inkling Small의 13점에서 크게 상승했습니다. 해당 평가에서 중국 이외 지역에서 개발된 모든 오픈 모델을 앞섰으며, 추론 노력을 높게 설정한 Gemini 3.8 Flash와 비슷한 수준입니다.
다음 결과를 보면 성능 향상을 더 구체적으로 확인할 수 있습니다.
| 벤치마크 | Inkling 2 Small 결과 | 의미 |
|---|---|---|
| SWE-Bench Pro v2 (Hard) | 86.3% | 어려운 코딩 작업에서 강한 성능 |
| ARC-AGI-2 | 81.7% | ARC Prize에 따르면 오픈 웨이트 모델 중 최고 기록 |
| AA Intelligence Index v5.0.1 | 31점, 이전 13점 | 세대 간 큰 폭의 성능 향상 |
| AA-Briefcase | 1527 Elo, 이전 912 Elo | 장시간 비즈니스 작업 수행 능력 향상 |
| AA-Omniscience v1.1 | 환각 비율 27%, 이전 61% | 더 신중한 답변으로 환각 감소 |
스프레드시트, 프레젠테이션, 메모 작업을 평가하는 AA-Briefcase에서 기록한 1527 Elo는 추론 노력을 중간으로 설정한 Claude Sonnet 5.5의 1439와 추론 노력을 높게 설정한 Gemini 3.8 Flash의 1203도 앞섭니다.
환각 관련 결과는 신중하게 해석해야 합니다. 환각 감소는 주로 사실 오류를 없앤 것이 아니라 더 신중하게 답한 데서 비롯됐습니다. 개선은 분명하지만, 중요한 주장은 여전히 확인이 필요합니다.
실제 작업에서 Inkling 2 Small이 잘하는 일
에이전트 코딩은 가장 먼저 시험해 볼 만한 분야입니다. 학습 과정에는 수십만 건의 장시간 코딩 작업이 포함됐으며, 지시를 따르고 변경 사항을 평가하며 완료한 작업을 확인하는 데 중점을 뒀습니다. 따라서 단독 함수를 요청하는 것보다 저장소 단위 작업으로 성능을 확인하는 것이 더 적절합니다.
이미지 입력은 유용한 기능을 더합니다. 바로 비전을 활용한 자기 검증입니다. 에이전트는 전자상거래 사이트를 생성하고, 렌더링된 모습을 살펴본 뒤, 시각적 피드백을 바탕으로 결과물을 평가할 수 있습니다. 이는 주어진 이미지를 설명하는 것 이상의 기능입니다.
금융 및 지식 노동 분야에서는 AA-Briefcase 결과를 바탕으로 단일 요약보다 여러 결과물이 필요한 과제로 테스트해 볼 만합니다. Finance Agent v2.1에서도 67.5%를 기록했습니다.
데이터 분석도 가능성이 있는 활용 분야입니다. Plotly DataAnalyticsBench에서 43개 중 39개, 즉 91%를 기록했으며, 모호한 요청, 실행 불가능한 요청, 데이터 품질 문제, 통계적 함정이 포함된 항목에서는 만점을 받았습니다.
연구 워크플로의 경우, 신경망 미세 조정과 GPU 커널 최적화 같은 "autoresearch" 훈련 과제가 포함됐습니다. 공개된 사례에서는 모델이 독립적으로 시계열 예측용 Qwen3.5-4B를 미세 조정해, Tinker에서 426달러를 들여 4.5시간 만에 해당 모델의 점수를 두 배로 높였습니다. 이는 특정 사례이며 다른 실험에서도 같은 결과를 보장하지는 않습니다.
Apache 2.0 개방성과 Inkling 2 Small 생태계
Apache 2.0 라이선스 웨이트를 통해 Inkling 2 Small을 맞춤화할 수 있으며, 기업은 미세 조정 버전에 대한 소유권도 가질 수 있습니다. Thinking Machines는 동일한 데이터와 알고리즘을 사용했을 때 이전 모델보다 미세 조정 속도가 빠르고 결과 품질도 높았다고 보고했습니다.
출시 당일부터 vLLM, SGLang, Together AI, Snowflake Cortex, Cloudflare Workers AI가 지원됐습니다. OpenRouter에서도 모델을 사용할 수 있습니다.
이 규모에서는 서빙 최적화가 중요합니다. DSpark speculative decoding은 단계마다 7개 토큰을 초안으로 생성하며, GB200에서 TP4 기준 사용자당 초당 최대 약 630토큰을 기록했습니다. SGLang은 NVIDIA Vera Rubin에서 초당 576토큰을 시연했습니다. 이는 특정 하드웨어에서 얻은 결과이며, 모든 환경에서 같은 속도를 보장하지는 않습니다.
로컬 배포에는 여전히 상당한 하드웨어가 필요합니다. 4비트 양자화 버전도 약 356GB의 메모리가 필요합니다.
Inkling 2 Small이 아직 어려움을 겪는 부분
성능은 작업에 따라 차이가 큽니다. Inkling 2 Small은 Terminal-Bench 4.0에서 13.1%에 그쳤으며, Artificial Analysis에 따르면 Intelligence Index의 작업당 처리 시간은 약 21.5분입니다. 따라서 토큰 생성 속도가 높더라도 장시간 작업에는 시간이 걸릴 수 있습니다. 환각과 긴 다중 턴 대화에서의 성능 저하도 알려진 한계입니다. 컨텍스트 윈도우가 크다고 이런 약점이 사라지는 것은 아닙니다.
vega.chat에서 Inkling 2 Small 사용해 보기
Inkling 2 Small은 vega.chat 모델 선택기의 채팅 및 코드 그룹에서 사용할 수 있습니다. 이미지 입력은 지원하지만 PDF 입력은 지원하지 않습니다. 평소 사용하던 모델과 함께 실제 코딩 작업이나 긴 문서를 맡겨 보고, 스스로 작업을 확인해야 하는 상황에서 얼마나 잘 대응하는지 살펴보세요.
개발자는 api.vega.chat의 OpenRouter 호환 API를 통해 에이전트, 코딩 워크플로, 자체 애플리케이션에서 테스트할 수 있습니다.