Pixtral 12B: Mistral의 첫 오픈 멀티모달 모델
Mistral AI가 이미지와 텍스트를 함께 처리하는 12B 멀티모달 모델 Pixtral을 공개했다.
브리핑작성 coyaSONG
0 views
Mistral AIVision Language ModelOpen Model
공유하기:
한 문장 요약: Mistral AI가 이미지와 텍스트를 함께 처리하는 12B 멀티모달 모델 Pixtral을 공개했다.
무엇이 발표됐나
Mistral AI의 공식 발표일은 2024-09-17다. 이날 공개된 Pixtral 12B의 핵심은 다음과 같다. 가변 해상도와 여러 이미지 입력을 지원하고 Apache 2.0 가중치를 배포했다.
기술적으로 볼 지점
전용 비전 인코더 출력을 언어 모델 토큰과 연결하면서 원본 종횡비와 해상도를 유지하는 설계를 채택했다.
왜 중요했고, 무엇을 경계해야 하나
문서·차트·이미지 분석을 자체 호스팅하려는 팀에 비교적 작은 오픈 가중치 선택지가 생겼다.
OCR과 시각 질의응답 벤치마크가 실제 복잡한 문서의 정확도를 보장하지 않으며 이미지 토큰 비용을 측정해야 했다.
이 글은 발표 당시의 핵심을 빠르게 확인하기 위한 브리핑이다. 수치와 제공 범위는 아래 1차 출처를 기준으로 정리했으며, 별도의 직접 벤치마크를 수행했다는 의미는 아니다.
공식 1차 출처
- AI in abundance — Mistral AI, 2024-09-17
관련 포스트
AI
Mixtral 8x22B: 더 큰 희소 MoE를 오픈 가중치로
Mistral AI가 8개 전문가 중 2개를 활성화하는 대형 희소 MoE 모델 Mixtral 8x22B를 공개했다.
AI
Mathstral 7B: 수학 추론에 특화한 작은 공개 모델
Mistral AI와 Project Numina가 수학 추론에 특화한 7B 오픈 모델 Mathstral을 공개했다.
AI
Mistral NeMo 12B: 128K 컨텍스트와 새 토크나이저
Mistral AI와 NVIDIA가 12B 크기, 128K 컨텍스트의 공개 모델 Mistral NeMo를 발표했다.