긴 PDF 하나를 AI에게 맡기고 싶을 때 항상 걸리는 문제가 있어요. 페이지가 많아질수록 AI가 버티지 못하는 경우가 많다는 점이에요. 그래서 Baidu의 Unlimited OCR 이 나왔다고 해서, 직접 60페이지짜리 PDF를 넣어봤어요.
잊으면서 읽는다는 게 무슨 뜻이냐면
Baidu가 최근 내놓은 OCR 모델 Unlimited OCR은 사람이 긴 책을 베껴 쓸 때처럼 작동해요. 앞장을 토씨 하나까지 기억하지 않고, 오래된 내용은 일부러 잊으면서 읽어요.
일반적인 OCR 모델은 긴 문서를 처리할수록 앞에서 본 내용을 계속 쌓아둬야 해요. 그래서 문서가 길어질수록 속도와 메모리 부담이 커지는 문제가 있었어요. Unlimited OCR은 이 기억 공간의 크기를 고정하고, 새로운 내용이 들어오면 오래된 정보를 밀어내는 방식으로 처리해요. 벤치마크(OmniDocBench v1.6)에서 93.92점으로 1위를 차지했고, 오픈소스로 공개돼 있어서 직접 테스트해볼 수 있다는 기대가 있었어요.
직접 60페이지짜리 문서를 넣어봤어요
Hugging Face에 있는 데모에 실제로 60페이지짜리 PDF를 넣어봤어요. 처음 3페이지까지는 정확했어요. 소제목, 볼드 강조, 심지어 한글까지 원본 그대로 인식했고요.
그런데 거기서 멈췄어요.
이유가 있어요. 이 데모는 Hugging Face가 무료로 제공하는 공유 GPU 위에서 돌아가고 있었어요. 모델 자체가 3페이지까지만 처리하는 게 아니라, 무료 공유 GPU 환경의 실행 제한 때문에 끝까지 처리되지 못한 것으로 보여요. 속도와 메모리가 페이지 수와 상관없이 일정하게 유지된다는 성능은 Baidu 연구팀이 자체 실험 환경에서 측정한 결과예요.
논문 속 성능과, 내가 실제로 쓸 수 있는 성능
기술 자체는 인상적이었어요. 3페이지까지 나온 결과만 봐도 레이아웃 인식이 꽤 정교했거든요. 이번 경험에서 확인한 건 Unlimited OCR이 부족하다는 게 아니었어요. 논문에서 측정한 최고의 환경과, 내가 실제로 클릭해서 쓰는 환경 사이에는 생각보다 큰 간격이 있다는 점이었어요.
여러분은 AI 도구를 선택할 때, 벤치마크 결과와 실제 사용 환경의 차이를 얼마나 확인하고 계세요?