Sarvam Vision: 30억 파라미터 상태공간 모델로 문서 AI SOTA 달성

title: "처음부터 SOTA까지: 30억 파라미터 상태공간 비전 모델 학습" title_original: "From Scratch to SOTA: Training a 3B State-Space Vision Model — Krishna Prasad Srinivasan, Sarvam" source: "aiDotEngineer" channel: "AI Engineer" speaker: "Krishna Prasad Srinivasan" date: "2026-09-24" video_id: "T72nqdC92PM" url: "https://www.youtube.com/watch?v=T72nqdC92PM" category: "ai-llm" tags: ["Sarvam", "Sarvam Vision", "VLM", "SSM", "state space model", "OCR", "Document AI", "Indic languages", "RLVR", "sovereign AI"]

📌 핵심 질문 / 이 발표가 다루는 핵심 논점

==30억(3B) 파라미터의 상태공간 비전 모델(State-Space Vision Model)이 단일 GPU에서 실행되면서도 대형 모델보다 효율적으로 문서 지능(Document Intelligence)을 수행하려면, 모델 구조보다 데이터·평가·배포를 어떻게 설계해야 하는가?==

• Sarvam Vision은 영어와 인도 공식 언어 22개를 대상으로 데이터·컴퓨트·학습을 인도에서 처음부터 수행한 주권형(sovereign) 비전 언어 모델(VLM)이다.
• 문서 전체를 한 번에 읽는 거대 모놀리식 VLM 대신 레이아웃·읽기 순서를 먼저 분석하고 블록 단위 OCR을 수행해 긴 문서의 비용을 낮춘다.
• Transformer의 제곱 복잡도를 피하기 위해 상태공간 모델(SSM)의 선형 연산·상수 메모리 특성을 사용하고, 텍스트 사전학습→이미지-텍스트 사전학습→OCR 지도학습→강화학습의 4단계 커리큘럼을 적용한다.
• 13조 텍스트 토큰, 3억 이미지-텍스트 쌍, 1억 OCR 샘플, 결정론적 OCR에 맞춘 RLVR이 모델 성능의 기반이 된다.

인도 언어 문서는 데이터가 부족해서 어려운 것이 아니라 아직 충분히 디지털화되지 않았기 때문에 어려우며, 고품질 데이터와 측정 가능한 평가를 함께 구축해야 실제 SOTA(State of the Art)와 산업 배포가 가능하다. Sarvam Vision은 출시 시점 영어 벤치마크에서 CRB Bench 84.3, OmniDocBench 93.2를 기록했고, 인도 언어 22개에서는 Gemini·ChatGPT·Opus를 포함한 프런티어 모델 대비 선두를 주장했다.

1. Sarvam과 문제의 출발점

Sarvam은 인도의 언어·문서 현실을 기계가 읽을 수 있는 형태로 바꾸는 주권형 파운데이션 모델 회사다.

1.1. 회사의 범위와 Sarvam Vision의 위치

1. 여러 모달리티를 다루는 파운데이션 모델 회사

   1. 음성(Voice): 음성-텍스트(Speech-to-Text)와 텍스트-음성(Text-to-Speech) 모델을 개발한다.
   2. 텍스트(Text): 300억(30B) 및 1,000억(100B) 파라미터 언어 모델을 보유한다.
   3. 비전(Vision): 이번 발표의 주제인 문서 지능 모델 Sarvam Vision을 개발한다.

2. 주권형 AI(Sovereign AI)의 목표

   1. 인도에서의 종단 간 구축: 데이터 수집·가공, 모델 학습, 컴퓨트 운영을 인도 안에서 수행했다.
   2. 서비스 형태: 모델은 API와 온프레미스(On-Prem) 형태로 제공되며, 문서 변환·추출 작업을 위한 에이전트 플랫폼도 함께 제공된다.

1.2. 인도가 기계 판독 세계에서 빠진 이유

1. 학습 코퍼스의 대표성 부족

   1. Common Crawl 비중: 프런티어 모델 학습에 쓰이는 Common Crawl에서 인도 언어가 차지하는 비중은 1%보다 훨씬 낮다.
   2. 시장과 데이터의 불일치: 프런티어 연구소들은 인도를 크고 빠르게 성장하는 시장으로 말하지만, 매일 학습되는 모델 안의 인도 데이터 대표성은 여전히 매우 낮다.

2. 데이터가 없는 것이 아니라 디지털화되지 않은 문제

   1. 지식의 존재: 인도 사회에 데이터나 지식이 부족해서가 아니라 문서와 지식이 아직 기계 판독 형식으로 전환되지 않은 것이 핵심 원인이다.
   2. Sarvam의 역할: Sarvam은 문서 지능을 통해 아날로그 문서에 묻힌 지식을 디지털화하고, 이후 모델 학습에 다시 사용할 수 있는 데이터로 만든다.

1.3. Indic 문서 지능이 어려운 세 가지 이유

1. OCR보다 지식 추출이 필요하다

   1. 텍스트만 뽑는 한계: 글자를 단순히 추출해도 문서의 논리적 일관성이 복원되지 않으면 의미가 없다.
   2. 문서 지능의 목표: 표·수식·레이아웃·문단 관계를 포함해 문서에서 지식(knowledge)을 추출해야 한다.

2. Indic 스크립트의 시각·문자적 복잡성

   1. 사람과 기계의 차이: 사람이 보는 단어의 모양과 기계가 처리하는 표현은 크게 다르다.
   2. 유니코드 조합: 인도 언어는 여러 유니코드(Unicode) 요소가 융합되어 문자가 표현되므로, 22개 언어 전체에서 강한 언어 모델이 필요하다.

3. 대부분이 저자원 언어다

   1. 학습 데이터 부족: 인도 언어 다수는 저자원(low-resource) 언어로 분류되어 모델을 훈련할 라벨 데이터가 적다.
   2. 문서 지능의 난도: 언어 수가 22개로 많고 문서의 역사·형식·혼합 언어가 다양해, 한 언어의 데이터를 늘리는 것만으로 해결되지 않는다.

2. Sarvam Vision의 설계 선택

Sarvam은 모든 것을 크게 만드는 대신 문서 구조를 쪼개고, 긴 시퀀스에 유리한 SSM을 선택해 단일 GPU 실행 가능성을 확보했다.

2.1. 블록 단위 OCR이라는 초기의 역발상

1. 초기 OCR 시장의 기본값

   1. 모놀리식 VLM: 2025년 말 초기 개발을 시작했을 때 OCR 분야의 주류 VLM은 페이지 전체를 한 번에 처리하는 페이지 레벨 OCR을 수행했다.
   2. 페이지 전체의 부담: 레이아웃과 텍스트를 한 덩어리로 읽는 방식은 문서가 길고 복잡할수록 시각 토큰과 추론 비용이 커진다.

2. Sarvam의 contrarian bet

   1. 블록 레벨 OCR(Block-level OCR): 페이지를 의미 있는 블록으로 나눈 뒤 각 블록을 인식하는 접근을 선택했다.
   2. 문서 하네스(Document harness): 모델 주변에 문서 레이아웃과 읽기 순서를 담당하는 하네스를 추가해, VLM이 문서 전체의 구조를 직접 감당하지 않도록 했다.
   3. 업계의 수렴: 2026년에 출시된 여러 모델이 레이아웃 하네스와 소형 모델 조합으로 수렴하면서, 초기 방향의 가치가 확인되고 있다고 설명했다.

2.2. 두 개의 하네스와 VLM의 분업

1. 레이아웃 하네스(Layout harness)

   1. 공간 구조 분석: 페이지에서 텍스트·표·수식·이미지 등 문서 블록의 위치와 경계를 파악한다.
   2. 읽기 단위 생성: 페이지 전체를 거대한 시퀀스로 넣는 대신, 모델이 처리할 의미 있는 블록 단위를 만든다.

2. 읽기 하네스(Reading harness)

   1. 순서 복원: 시각적으로 흩어진 블록을 사람이 읽는 논리적 순서로 정렬한다.
   2. 추출 품질 보조: 블록별 OCR 결과가 문서의 논리적 지식으로 이어지도록 문서 구조 정보를 제공한다.

3. 상태공간 VLM

   1. 최종 역할: 두 하네스가 만든 블록을 입력받아 블록 단위 OCR과 지식 추출을 수행한다.
   2. 성능과 비용의 균형: 일부 회수율(recall)을 손실할 수 있지만, 긴 문서에서 Transformer가 만드는 높은 컴퓨트 비용을 피하는 선택이다.

2.3. Transformer 대신 SSM을 선택한 이유

1. 두 모델의 공통점과 차이

   1. 공통점: Transformer와 SSM(State-Space Model)은 모두 시퀀스를 처리하는 모델이다.
   2. Transformer의 상호작용: Transformer는 모든 토큰이 다른 모든 토큰을 바라보는 전역 상호작용을 사용한다.
   3. SSM의 상태 갱신: SSM은 하나의 상태(single state)를 유지하고 토큰을 하나씩 읽으며 그 상태를 갱신한다.

2. 복잡도 차이

   1. Transformer 계산량: 시퀀스 길이를 L이라고 할 때 토큰 간 L×L 상호작용이 발생해 계산량이 시퀀스 길이에 대해 제곱으로 증가한다.
   2. Transformer 메모리: 시퀀스가 길어질수록 메모리 요구량도 증가한다.
   3. SSM 계산량: 상태를 토큰별로 갱신하므로 계산량이 선형적으로 증가한다.
   4. SSM 메모리: 상태 하나를 유지하는 구조라 시퀀스가 길어져도 메모리 사용량이 일정하게 유지된다.

3. OCR에서 긴 시퀀스가 만드는 비용

   1. 시각 토큰 규모: 긴 문서에서는 한 페이지가 5,000~10,000개의 시각 토큰(visual tokens)에 이를 수 있다.
   2. 실행 비용: 이 길이에서 Transformer의 제곱 복잡도는 추론 계산량과 메모리를 빠르게 키운다.
   3. 실용적 절충: 블록 레벨 OCR과 SSM을 조합하면 어느 정도 손실이 있는 회수율을 감수하면서도 비용을 크게 낮출 수 있다.

3. 처음부터 SOTA까지 이어진 4단계 학습 커리큘럼

언어 능력을 먼저 만들고 픽셀을 보여준 다음, OCR 특화 지도학습과 결정론적 강화학습으로 성능의 상한을 밀어 올렸다.

3.1. 1단계: 텍스트 사전학습(Text Pre-training)

1. 언어 백본의 선행 구축

   1. 규모: 영어, 인도 언어, 수학, 코드가 포함된 13조(13T) 토큰으로 30억 파라미터 언어 백본을 사전학습했다.
   2. 순서의 의미: 모델이 픽셀을 보기 전에 언어 능력을 먼저 구축해 일반적인 언어 prior를 강하게 만들었다.

2. 흐릿한 문자를 읽는 언어 prior

   1. 사람의 읽기 방식: 사람이 반쯤 흐린 단어도 문맥상 들어갈 단어를 알고 읽어내듯, 모델은 이미지가 모호해도 언어 지식으로 후보를 좁힌다.
   2. OCR 효과: 지워짐·번짐·저해상도 때문에 글자 자체가 불완전할 때 강한 언어 모델이 문맥에 맞는 해석을 돕는다.

3.2. 2단계: 이미지-텍스트 지속 사전학습(Continual Pre-training)

1. 일반 시각 능력 주입

   1. 데이터 규모: 3억(300M) 이미지-텍스트 쌍(image-text pairs)으로 지속 사전학습을 수행했다.
   2. 학습 내용: 언어 모델이 픽셀을 보고 시각 정보를 해석하는 방법과 일반적인 비전 능력을 익힌다.

2. OCR 이전의 기반 능력

   1. 일반 VLM 능력: 특정 OCR 규칙을 바로 주입하기 전에 이미지와 텍스트 사이의 대응을 학습한다.
   2. 다음 단계의 준비: 다양한 문서 구성 요소를 OCR 데이터로 학습할 수 있도록 시각 입력을 언어 백본에 연결한다.

3.3. 3단계: OCR 지도 미세조정(Supervised Fine-Tuning)

1. 100M OCR 샘플의 목적

   1. OCR 전문화: 일반 비전-언어 모델을 강한 OCR 모델로 바꾸기 위해 1억(100M) OCR 샘플에서 지도학습을 했다.
   2. 언어 범위: 영어와 인도 공식 언어 22개를 모두 포함하는 다양한 데이터를 구성했다.

2. 문서 구성 요소의 다양성

   1. 표(Table): 텍스트뿐 아니라 표의 구조와 셀 관계를 추출하도록 학습했다.
   2. 수식(Equation): 수학식의 기호와 구조를 보존하는 데이터를 포함했다.
   3. 손글씨 문서(Handwritten documents): 인쇄체와 다른 손글씨 입력도 처리 범위에 넣었다.
   4. 복합 문서: 언어·레이아웃·구성 요소가 섞인 실제 문서에 대응하도록 데이터의 폭을 넓혔다.

3.4. 4단계: 강화학습(Reinforcement Learning)

1. 지도학습의 천장을 넘는 단계

   1. 역할: 지도 미세조정이 도달할 수 있는 성능의 상한을 넘도록 강화학습을 적용했다.
   2. OCR의 적합성: OCR은 결과가 기계 판독 가능하고 정답 여부를 규칙으로 확인할 수 있어 강화학습 보상 설계가 비교적 쉽다.

2. RLVR 파이프라인(Reinforcement Learning with Verifiable Rewards)

   1. 그룹 샘플링: 여러 출력 샘플을 하나의 그룹으로 뽑는다.
   2. 단위 테스트 채점: 각 출력을 unit test로 채점한다.
   3. 평균 기준 강화: 그룹의 평균 성능을 넘는 출력에 해당하는 행동을 강화한다.
   4. 반복: 샘플링·채점·강화 과정을 반복해 모델을 개선한다.
   5. 확장성: OCR 결과가 결정론적으로 검증되므로 RLVR을 매우 큰 규모로 확장할 수 있다.

4. 데이터 엔진과 평가 엔진이 만드는 해자

학습 단계 자체는 표준적인 레시피에 가깝지만, 22개 언어의 라벨 부족을 해결하는 데이터 엔진과 진짜 유용한 SOTA를 측정하는 평가 엔진이 핵심 해자(moat)다.

4.1. 라벨이 없는 22개 언어를 위한 데이터 엔진

1. 합성 데이터와 실문서 파이프라인

   1. 합성 문서(Synthetic documents): 라벨 데이터가 부족한 언어를 위해 다양한 문서와 학습 예제를 인공적으로 만든다.
   2. 실제 문서(Doc data from real documents): 실제 문서에서 문서 데이터를 만들고, 현실의 레이아웃과 언어 혼합을 학습에 반영한다.

2. 평가에 따른 지속 개선

   1. 연결된 파이프라인: 평가 결과를 보고 학습에 들어가는 데이터를 계속 개선한다.
   2. 향후 방향: 에이전트형 비전 능력을 확장하기 위해 RLMs 패러다임을 적극적으로 검토하고 있다.

4.2. 측정할 수 있어야 SOTA에 도달한다

1. 평가의 두 조건

   1. 정확성: 모델이 얼마나 잘하는지를 측정해야 한다.
   2. 유용성: 점수가 높기만 한 것이 아니라 최종 사용자가 실제로 쓸 수 있는 능력을 측정해야 한다.

2. Sarvam의 평가 구성

   1. 광범위한 자체 평가: 인도 언어와 다양한 문서 형태를 포함하는 평가를 큐레이션했다.
   2. 벤치마크의 의미: 글로벌 리더보드에서 SOTA인지뿐 아니라, 실제 문서 지능 문제에 유용한지까지 확인하는 것을 목표로 한다.

5. 성능과 실제 제품

Sarvam Vision은 글로벌 영어 벤치마크와 인도 언어 벤치마크에서 성능을 제시했고, 점수 이상의 산업 사용량으로 실용성을 입증하려 한다.

5.1. 글로벌 영어 벤치마크

1. 출시 시점 점수

   1. CRB Bench: 84.3점을 기록했다.
   2. OmniDocBench: 93.2점을 기록했다.

2. 리더보드의 변화

   1. 빠른 경쟁: 이후 출시된 모델들이 벤치마크 점수를 상당히 끌어올렸다.
   2. 후속 모델: Sarvam은 곧 글로벌 리더보드에서 더 강한 모델을 공개하겠다고 밝혔다.

5.2. 22개 인도 언어에서의 선두

1. 프런티어 모델과의 비교

   1. 비교 대상: Gemini, ChatGPT, Opus 등 폐쇄형·프런티어 모델과 비교했다.
   2. 주장한 결과: 22개 인도 언어에서 이들 모델을 포함한 경쟁 모델 대비 깨지지 않는 선두(unbeaten lead)를 확보했다고 설명했다.

2. 비교가 중요한 이유

   1. 언어 표현의 공백: 영어 점수만으로는 14억 인구가 실제로 사용하는 문서의 접근성을 평가할 수 없다.
   2. 문서 특화성: Indic 문서의 레이아웃·문자 조합·저자원 문제를 함께 다룬 성능이 실제 디지털화의 기준이 된다.

5.3. Aure 에이전트형 문서 지능 워크벤치

1. Human-in-the-loop 디지털화

   1. 플랫폼: Sarvam Vision은 Aure라는 에이전트형 문서 지능 워크벤치를 제공한다.
   2. 사람의 개입: 사람이 결과를 검토하고 에이전트가 문서 디지털화·추출·후속 시스템 주입을 수행하는 human-in-the-loop 흐름을 지원한다.

2. 검증과 추출 기능

   1. 신뢰도 점수(Confidence scores): 추출 결과마다 신뢰도를 제공한다.
   2. 블록 단위 근거(Block-level grounding): 결과가 문서의 어느 블록에 근거했는지 연결한다.
   3. 에이전트형 교정(Agentic proofreading): 에이전트가 추출 결과를 교정하고 검토하는 기능을 제공한다.

5.4. 실제 배포 규모

1. 사용 조직

   1. 산업 범위: 보험, 은행, 정부, 역사 보존 조직 등 세계 최대 규모의 기업·기관이 사용하고 있다.
   2. 제공 방식: API, 온프레미스 모델, 에이전트 플랫폼을 각 배포 환경에 맞춰 제공한다.

2. 처리량

   1. 페이지 수: 영어와 인도 언어 22개에 걸쳐 3,500만 페이지 이상을 디지털화하고 있다.
   2. 시장 신호: 출시 후 약 4개월 만에 이 규모에 도달한 것은 인도에서 주권형 문서 지능 솔루션에 대한 대기 수요가 컸다는 신호다.

6. 주권형 문서 AI의 의미와 향후 계획

인도 문서의 디지털화는 단순한 OCR 기능 경쟁이 아니라, 데이터가 어디로 가고 누가 통제하는지에 관한 국가·기관 차원의 문제다.

6.1. 세 가지 핵심 가치

1. 주권성(Sovereignty)

   1. 데이터 통제: 정부 기관은 외부에 배포된 모델을 사용하면서 문서 전사 데이터가 어디로 가는지 모르는 상황을 피해야 한다.
   2. 사용 통제: 데이터가 언제, 얼마나, 어떤 방식으로 사용되는지 통제할 수 있어야 한다.

2. 모델 능력(Capability)

   1. 현실의 서류 문제: 14억 인구의 일상은 여전히 많은 서류 업무와 연결되어 있다.
   2. 기존 모델의 공백: 복잡한 인도 언어 문서를 제대로 처리하는 공개·비공개 프런티어 모델은 아직 없다고 진단했다.

3. 학습 데이터(Data)

   1. 시작점의 필요: AI가 일상에 들어오고 사용자가 선호하는 언어로 개인화 에이전트를 갖기 위해서는 먼저 고품질 데이터가 만들어져야 한다.
   2. 선순환: 좋은 데이터가 모델을 SOTA로 만들고, SOTA 모델이 보험사·정부 기관의 디지털화를 촉진하며, 배포에서 얻은 피드백이 다음 학습 데이터로 돌아간다.

6.2. 출시 이후의 계획

1. 주권형 모델의 출발

   1. 공백 해소: 발표 시점 기준 4개월 전까지만 해도 인도에서 만든 주권형 모델은 없었지만, Sarvam Vision은 처음부터 학습해 이 공백을 메웠다.
   2. 가격 경쟁력: 공개·폐쇄형 솔루션을 포함한 다른 대안과 비교해 매우 경쟁력 있는 가격을 목표로 한다.

2. 일반 목적 VLM으로 확장

   1. 현재의 초점: 가장 어려운 인도 언어 문서 지능 문제를 먼저 해결했다.
   2. 다음 단계: 더 많은 시각 능력을 갖춘 일반 목적 VLM을 곧 공개할 계획이다.
   3. 배포 피드백 학습: 여러 주에서 지역 언어 문서와 영어·혼합 언어 문서를 디지털화하며 얻는 피드백을 다음 모델 학습에 반영한다.

7. Q&A: 데이터·언어·주권성에 대한 추가 설명

7.1. 22개 언어 능력이 영어에도 도움이 되는가

1. 질문의 요지

   1. 언어 간 전이: 22개 인도 언어를 함께 학습하는 것이 영어 능력도 높이는지 질문이 나왔다.
   2. 저자원 언어 일반화: 이 효과가 인도 언어에만 해당하는지, 모든 저자원 언어에 적용되는지도 함께 묻는 취지였다.

2. 답변의 핵심

   1. 긍정적 효과: 22개 언어 능력은 영어 능력을 상당한 폭으로 향상시킨다고 답했다.
   2. 일반성: 이 현상은 인도 저자원 언어뿐 아니라 저자원 언어 전반에 적용될 수 있다고 설명했다.

7.2. 다국어 능력을 코딩에 활용할 수 있는가

1. 연결 가능성

   1. 질문의 방향: 여러 자연어 능력을 활용해 코딩 모델을 더 빠르게 만들거나 일반 언어 능력으로 코딩을 보조할 수 있는지 질문이 있었다.
   2. 가능한 평행선: 언어 능력이 다른 작업의 속도를 높일 수 있다는 점에서는 이 연구와 평행선을 그을 수 있다.

2. 현재 모델의 범위

   1. 비전 중심: Sarvam Vision은 문서에서 정보와 지식을 추출하는 비전 중심 모델이다.
   2. 범위 밖의 문제: 코딩 지원은 가능성이 있지만 이번 작업의 중심(periphery)은 아니며, 직접 다루지 않았다고 선을 그었다.

7.3. 합성 문서와 RL 보상은 어떻게 만드는가

1. 합성 데이터의 사용처

   1. 일반 사전학습 이후: 일반적인 후속 학습을 위해 합성 문서와 인공 문서를 만든다.
   2. SFT와 RL: 합성 데이터는 지도 미세조정(SFT)과 강화학습(RL) 양쪽에 사용될 수 있다.

2. RL에서는 실제 문서가 더 유리한 이유

   1. 현실의 복잡성: 합성 문서도 가능하지만, 충분히 복잡한 실제 문서를 사용하는 편이 다양한 실패를 드러낸다.
   2. 규칙 기반 보상: 실제 문서에 대해 문자 오류율(Character Error Rate), 표 구조, 수식 구조, 언어별 문법 등으로 보상 규칙을 만들 수 있다.
   3. 반복 개선: 모델이 각 설정에서 생성한 결과를 규칙으로 평가하고, 그 규칙에 따라 반복적으로 모델을 개선한다.

7.4. Indic 벤치마크와 Chundra 관련 질문

1. 벤치마크 공개 계획

   1. 자체 Indic 벤치마크: 22개 언어를 대상으로 만든 Sarvam Indic benchmark를 공개할 예정이다.
   2. 시간 범위: 1800년대 문서부터 현대 문서까지 매우 긴 시간 범위를 포함한다.

2. 내용 범위

   1. 레이아웃과 문서 유형: 서로 다른 레이아웃과 인도 언어 문서 형식을 포함한다.
   2. 장르: 산문, 시, 문학, 표, 금융 문서 등 다양한 장르를 포함한다.

3. Chundra 언급에 대한 응답

   1. 질문 확인: 청중이 “Chundra의 팬인가”라는 취지의 질문을 던졌고, 발표자는 그것이 다른 연구소의 모델이라고 정정했다.
   2. 태도: Chundra를 만든 연구소 역시 좋아한다고 답한 뒤 Indic 벤치마크 공개 계획으로 답변을 이어갔다.

7.5. 번역·음역(Transliteration)이 OCR에 미치는 영향

1. 핵심 목표의 차이

   1. OCR의 우선순위: OCR은 원본 이미지의 내용을 높은 충실도(high fidelity)로 추출해야 한다.
   2. 오류 보존: 이미지에 오탈자가 있어도 모델이 임의로 고치지 말고, 이미지에 있는 오류까지 정확히 추출해야 한다.

2. 음역 데이터의 현재 상태

   1. 직접적 역할 부족: 이런 목표 때문에 번역이나 음역은 Sarvam Vision OCR에 직접 들어가는 요소가 아니다.
   2. 학습 데이터 유입: 다만 OCR 훈련에 음역을 거쳐 들어오는 데이터가 늘고 있어, 그 품질과 유용성에 대해서는 아직 결론이 나지 않았다고 설명했다.

7.6. 인도 언어 문서에 특화된 모델이 필요한 이유

1. 기술·사회적 공백

   1. 경쟁 모델의 한계: 공개 모델이나 폐쇄형 프런티어 모델 어느 쪽도 복잡한 인도 언어 문서를 충분히 잘 처리하지 못한다.
   2. 생활의 문서화: 14억 인구의 일상은 여전히 서류와 행정 문서에 크게 의존하며, 국가는 지금도 디지털화되고 있다.

2. 장기적인 AI 생태계의 시작점

   1. 개인화 에이전트: 사용자가 원하는 언어와 방식으로 작동하는 개인화 에이전트를 만들려면 먼저 해당 언어의 고품질 데이터가 필요하다.
   2. 산업 수요: 주권성과 모델 능력, 데이터라는 세 요소가 보험·정부·기업의 도입을 동시에 자극한다.

3. 실제 시장 반응

   1. 초기 배포: 출시 약 4개월 만에 3,500만 페이지를 처리했다.
   2. 해석: 시장이 인도 문서 지능을 위한 주권형 솔루션을 기다리고 있었고, 해당 모델이 인도 AI 디지털화 물결을 시작할 수 있음을 보여주는 수치라고 설명했다.

7.7. 학습 데이터 구성 비율

1. 언어 비중

   1. Indic 데이터: 전체 학습 데이터의 약 40%가 Indic 언어 데이터다.
   2. 나머지 데이터: 나머지는 영어이며, 수학·코드 등의 데이터가 포함된다.

2. 구성의 의미

   1. 다국어와 영어의 결합: 영어 중심의 언어 prior와 Indic 문서 데이터가 함께 모델의 문서 해석 능력을 만든다.
   2. 수학·코드의 역할: 수식과 구조적 표현을 다루는 데 필요한 일반 능력도 텍스트 사전학습 단계에서 함께 구축된다.

7.8. 현재 배포의 지역별 피드백

1. 배포 환경

   1. 여러 주: 현재 배포는 인도의 서로 다른 주에서 진행되고 있다.
   2. 문서 조합: 지역 언어 문서뿐 아니라 영어 문서와 영어-지역 언어 혼합 문서도 함께 처리한다.

2. 학습 파이프라인

   1. 피드백 수집: 실제 배포에서 얻는 오류와 사용자 피드백을 모으고 있다.
   2. 다음 학습: 수집한 피드백을 다음 모델 학습에 넣는 파이프라인을 이미 시작했다.

주요 발언 모음

“30억 파라미터 모델 하나가 단일 GPU에서 실행되면서 문서 AI에서 SOTA를 달성하고, 크기가 100배 더 큰 모델을 능가합니다.”

“문제는 데이터가 부족하거나 지식이 존재하지 않아서가 아니라, 데이터가 아직 디지털화되지 않았다는 것입니다.”

“사람이 반쯤 흐린 단어를 읽을 수 있는 것은 어떤 단어가 그 자리에 와야 하는지 알고 있기 때문입니다.”

“Transformer의 계산은 시퀀스 길이에 대해 제곱으로 증가하지만, SSM에서는 계산이 선형으로 증가하고 메모리는 일정하게 유지됩니다.”

“SOTA에 도달하려면 모델이 얼마나 잘하는지 측정할 수 있어야 합니다.”

“좋은 데이터가 모델을 SOTA로 만들고, SOTA 모델은 데이터가 필요한 다음 디지털화의 출발점이 됩니다.”

“정부 기관은 다른 곳에 배포된 모델을 사용할 수 없고, 데이터가 어디로 가는지 모르는 상황을 받아들일 수 없습니다.”

핵심 데이터 & 수치

• 모델 규모: 30억(3B) 파라미터이며 단일 GPU에서 실행할 수 있도록 설계했다.
• 지원 언어: 영어와 인도 공식 언어 22개를 포함한다.
• 텍스트 사전학습: 영어·Indic 언어·수학·코드 13조(13T) 토큰을 사용했다.
• 이미지-텍스트 지속 사전학습: 3억(300M) 이미지-텍스트 쌍을 사용했다.
• OCR 지도학습: 1억(100M) OCR 샘플을 사용했다.
• 긴 문서 길이: 문서 한 페이지가 최대 5,000~10,000 시각 토큰에 이를 수 있다.
• 출시 시점 CRB Bench: 84.3점을 기록했다.
• 출시 시점 OmniDocBench: 93.2점을 기록했다.
• 실제 디지털화: 영어와 22개 인도 언어에서 3,500만 페이지 이상을 처리하고 있다.
• 출시 경과: 발표 시점 기준 약 4개월 만에 주권형 문서 지능 배포가 이 규모에 도달했다.
• 학습 데이터 비율: 약 40%가 Indic 데이터이고, 나머지는 영어·수학·코드 등으로 구성된다.
• 언어·문서 범위: 자체 Indic 벤치마크는 1800년대부터 현대까지의 문서, 산문·시·문학·표·금융 자료를 포함할 예정이다.

결론 및 시사점

1. 소형화는 모델 하나의 축소가 아니라 시스템 설계다: SSM의 선형 계산과 상수 메모리, 블록 OCR, 레이아웃·읽기 하네스를 함께 설계해야 3B 모델이 긴 문서에서 실용적인 비용을 달성할 수 있다.
2. 언어 prior가 시각 OCR을 보강한다: 픽셀을 보기 전에 13조 토큰으로 언어 능력을 만든 덕분에 흐릿하거나 손상된 문자를 문맥에 맞게 해석할 수 있다.
3. 저자원 언어에서는 데이터 엔진이 핵심 자산이다: 라벨이 부족한 22개 언어를 위해 합성 문서, 실제 문서, 평가 피드백을 연결한 지속 개선 파이프라인이 필요하다.
4. OCR은 검증 가능한 강화학습에 적합하다: 문자 오류율, 표 구조, 수식 구조, 문법을 단위 테스트로 채점하면 RLVR을 대규모로 반복할 수 있다.
5. 글로벌 벤치마크만으로는 충분하지 않다: CRB Bench와 OmniDocBench 점수뿐 아니라 실제 Indic 문서와 지역별 배포에서 유용한지를 별도로 측정해야 한다.
6. 주권성은 기술 기능이자 도입 조건이다: 정부와 기업은 전사 데이터의 위치·사용 시점·사용량을 통제해야 하므로 API·온프레미스·에이전트 플랫폼을 함께 요구한다.
7. 배포는 다음 학습의 데이터 생성 과정이다: 여러 주의 지역 언어·영어·혼합 문서를 실제로 처리하면서 얻은 피드백이 차기 모델의 학습 데이터로 되돌아간다.
8. 인도 문서 지능은 더 큰 일반 목적 VLM으로 가는 출발점이다: 가장 어려운 언어 문서 문제를 먼저 풀고, 이후 더 넓은 시각 능력을 가진 일반 목적 모델로 확장하는 전략이다.