Mistral Small 3: 24B 모델로 지연 시간과 공개 배포를 겨냥하다

한 문장 요약: Mistral AI가 Apache 2.0 라이선스의 24B 모델 Mistral Small 3를 공개했다.

무엇이 발표됐나

Mistral AI의 공식 발표일은 2025-01-30다. 이날 공개된 Mistral Small 3의 핵심은 다음과 같다. 지연 시간이 중요한 대화·함수 호출·로컬 배포를 목표로 32K 컨텍스트와 사전학습·지시 모델을 제공했다.

기술적으로 볼 지점

과도한 장문 추론보다 짧고 정확한 응답에 후학습을 맞추고 양자화 시 단일 고급 GPU에서도 구동 가능한 크기를 택했다.

왜 중요했고, 무엇을 경계해야 하나

고빈도 서비스에서는 최고 점수보다 처리량·응답 시간·자체 호스팅 가능성이 중요한 경쟁 축임을 보여줬다.

작은 모델은 복잡한 추론과 광범위한 지식에서 한계가 있으며 실제 단일 GPU 성능은 양자화와 런타임에 달렸다.

이 글은 발표 당시의 핵심을 빠르게 확인하기 위한 브리핑이다. 수치와 제공 범위는 아래 1차 출처를 기준으로 정리했으며, 별도의 직접 벤치마크를 수행했다는 의미는 아니다.

공식 1차 출처

• Mistral Small 3 — Mistral AI, 2025-01-30