Llama 4 Scout 17B-16E는 여러 벤치마크에서 이전 Llama 세대 및 기타 오픈 및 독점 모델보다 우수한 성능을 제공하는 최신 크기 클래스 결과를 제공합니다. 총 파라미터 1,090억 개 중 활성 파라미터 170억 개와 전문가 16개가 있는 MoE 아키텍처를 갖추고 있습니다.
Llama 4 Scout 17B-16E는 긴 컨텍스트 내 검색 태스크와 대규모 여러 문서 요약, 맞춤설정을 위한 다양한 사용자 상호작용 로그 분석, 대규모 코드베이스 전반에서 추론과 같은 대량의 정보에 대한 추론이 필요한 태스크에 적합합니다.
관리 API (MaaS) 사양
Agent Studio에서 사용해 보기 Model Garden에서 모델 카드 보기
| 모델 ID | llama-4-scout-17b-16e-instruct-maas |
|
|---|---|---|
| 출시 단계 | GA | |
| 지원되는 입력 및 출력 |
|
|
| 기능 |
|
|
| 사용량 유형 |
|
|
| 지식 단절 날짜 | 2024년 8월 | |
| 버전 |
|
|
| 지원되는 리전 | ||
|
모델 가용성 |
|
|
|
ML 처리 |
|
|
| 할당량 한도 |
us-east5:
|
|
| 가격 책정 | 가격 책정을 참조하세요. | |
자체 배포 모델로 배포
모델을 자체 배포하려면 Model Garden 콘솔에서 Llama 4 Scout 17B-16E 모델 카드로 이동하여 모델 배포를 클릭합니다. 파트너 모델 배포 및 사용에 관한 자세한 내용은 파트너 모델 배포 및 예측 요청을 참고하세요.
고려사항
- 요청당 이미지를 최대 3개까지 포함할 수 있습니다.
- MaaS 엔드포인트는 이전 버전과 달리 Llama Guard를 사용하지 않습니다. Llama Guard를 사용하려면 Model Garden에서 Llama Guard를 배포한 후 프롬프트와 응답을 해당 엔드포인트로 전송합니다. 하지만 Llama 4에 비해 Llama Guard는 더 제한적인 컨텍스트(128,000)를 갖추고 있으며 프롬프트 시작 부분에 단일 이미지가 있는 요청만 처리할 수 있습니다.
- 일괄 예측은 지원되지 않습니다.