작아도 에이전트다: OpenBMB가 MiniCPM5-2B를 연 이유

핵심 요약 (TL;DR)

2026년 9월 6일 Hugging Face에 openbmb/MiniCPM5-2B가 올라왔고, OpenBMB 체인지로그는 9월 7일을 공개일로 적는다. WAIC 2026(7월 19일)에서 ModelBest·OpenBMB가 “4B 미만 Artificial Analysis 1위, 가중치는 곧”이라고 했던 그 모델이다. 프레스 이벤트 없이 카드와 가중치가 먼저 열렸다. 라이선스는 Apache 2.0, 게이트 없음.

한 줄로 정리하면 이렇다. 표준 LlamaForCausalLM 2.52B 밀집 모델이 온디바이스·에이전트·도구 호출을 노리고, BF16·GGUF·MLX·GPTQ·DSpark까지 같이 풀렸다. 카드 평균 53.9(벤더 자체 재현)로 비교군 최고 Qwen3.5-4B(51.1)를 앞선다고 적혀 있고, Artificial Analysis Intelligence Index v4.2에서는 오픈 웨이트 4B 미만 1위(15점)로 바깥 측정이 한 줄 붙었다. 커스텀 커널·포크가 없어 vLLM 0.21+가 day-0로 받는다.

배경 및 맥락

소형 온디바이스 LLM은 이미 포화에 가깝다. Qwen3.5-2B·4B, Gemma-4 E2B, LFM2.5, granite-4.2가 같은 보드에 앉는다. 문제는 “작다”가 아니라 에이전트·도구·코딩을 작은 파라미터에 어떻게 심느냐다. MiniCPM5-1B는 5월 19일 오픈됐고, 2B는 WAIC에서 제품으로 먼저 공개된 뒤 7주를 기다렸다.

용어를 짧게 풀자. 온디바이스는 클라우드 API가 아니라 폰·PC·NPU에서 돌리는 쪽이다. 도구 호출(tool calling)은 모델이 함수를 골라 인자를 넘기는 형식이다. OPD(On-Policy Distillation)는 여러 RL 전문가의 로짓을 학생 모델에 증류해 한 체크포인트로 합치는 후학습 단계다. MiniCPM5-2B는 이 세 축을 동시에 판다.

주요 내용 분석

표준 라마, 커널 없는 2B

카드가 가장 강하게 밀는 문장은 이것이다. “no custom kernels, no model-code fork.” 엔진이 Llama 계열만 받으면 바로 로드된다. vLLM Recipes는 H200 TP=1 BF16 기준으로 vllm serve openbmb/MiniCPM5-2B --enable-auto-tool-choice --tool-call-parser minicpm5를 적는다. Think/No-Think는 채팅 템플릿의 enable_thinking으로 같은 가중치에서 갈린다.

주의할 숫자 하나. WAIC 슬라이드의 512K 컨텍스트는 공개 config에 없다. max_position_embeddings=131072이고 RoPE 스케일 항목도 없다. 설계 기준은 128K다.

학습 레시피: SFT → RL → OPD

베이스·미드트레이닝으로 언어·분포를 잡고, 포스트는 세 단계다. 먼저 딥싱킹 SFT 약 400B 토큰. 그다음 수학·코드·에이전트·글쓰기용 RL 교사(JustRL II 계열). 마지막이 OPD다. 16개 RL 전문가(그중 에이전트 5개)를 한 학생으로 합치고, 위치마다 전체 어휘 reverse KL을 advantage로 쓴다. 카드는 RL+OPD가 추론·일반 +10.96, 에이전트 +6.96이라고 적는다. 내부 델타다.

숫자: 누가 쟀나

카드는 출처를 갈라 둔다. †는 Artificial Analysis 공식, 나머지는 OpenBMB 자체 재현이다. 눈길을 끄는 행은 대부분 후자다. LiveCodeBench v6 69.1, AIME 2025/2026 86.5, SWE-bench Verified 46.4, τ²-Bench Telecom 97.1, GAIA Text-103 88.7, MMLU-Pro 70.8. 53.9 평균은 비교군 상대 점수다. 일반 지식(MMLU-Pro, HLE)에서는 4B급에 밀린다.

바깥에서 확인된 것은 AA v4.2 복합 15점과 “오픈 <4B 1위” 자리, 그리고 vLLM day-0 서빙이다. SWE-bench 46.4 같은 개별 행은 아직 독립 재현이 없다. OrcaRouter·MarkTechPost도 같은 경계를 적는다.

데이터와 중간 체크포인트도 연다

Ultra-FineWeb·UltraX·UltraData-Code·Math·SFT-Agent-2609(약 50만)·RL-2609(8만+)가 같이 풀렸다. Base·Midtrain·SFT만 받은 체크포인트도 있다. “최종 점수만 보여주는 드롭”이 아니라, 단계별 기여를 재현할 재료를 남긴 셈이다. FlagOS로는 Nvidia·Ascend·Hygon 등 9칩 빌드가 FlagRelease에 올라 있다.

실사용자 반응

공개 직후 반응은 세 갈래다. 첫째, “조용한 드롭인데 패키지가 두껍다” — BF16뿐 아니라 GGUF·MLX·GPTQ·DSpark·쿡북·에이전트 스킬이 한날 붙었다. 둘째, 서빙 실측 — vLLM Recipes와 day-0 파서가 “돌려볼 수 있다”는 신호를 먼저 줬다. HF 좋아요는 공개 이틀차에 이미 600을 넘겼다(API 기준 약 661). 셋째, 벤치 경계 — 2.5B가 4B를 넘는다는 주장은 카드 비교군 안에서의 이야기이고, † 없는 행은 아직 벤더 숫자로 읽는 편이 안전하다는 경고가 반복된다.

의미와 시사점

첫 번째, 소형 모델 경쟁의 축이 “지식 평균”에서 “에이전트·도구·코딩”으로 기운다. MiniCPM5-2B가 강하게 보이는 칸이 바로 그 축이다. 두 번째, 배포 마찰을 없애는 설계가 제품이다. 표준 라마 + day-0 엔진 + 양자화 동반은 “새 아키텍처 자랑”보다 오늘 밤 로컬 실험 비용을 낮춘다. 세 번째, 데이터·중간 체크포인트 공개는 주장의 검증 가능성을 올린다. 반대로 AA 복합만으로 카드의 개별 행을 보증하진 않는다. 프로덕션에 올릴 때는 SWE-bench·도구 호출을 자기 태스크로 다시 재는 게 맞다.

마치며

MiniCPM5-2B의 메시지는 단순하다. 2B급을 에이전트용으로 키우고, 커널 없이 열었다. 9월 6–7일 조용한 HF 드롭, Apache 2.0, 128K 설정, RL+OPD, UltraData, vLLM day-0. WAIC에서 약속한 “곧”이 주말 사이에 도착한 셈이다. 다음으로 볼 것은 llama.cpp/Ollama 라이브러리 반영, 호스팅 API 상장, 그리고 카드 † 없는 행의 독립 재현이다.

출처

• Hugging Face — openbmb/MiniCPM5-2B
• GitHub — OpenBMB/MiniCPM
• vLLM Recipes — MiniCPM5-2B
• MarkTechPost — OpenBMB Releases MiniCPM5-2B (2026-09-07)
• OrcaRouter — MiniCPM5-2B open weights are live

이 글은 AI가 작성하여 자동 발행된 콘텐츠입니다.