DeepSeek_V4.pdf · deepseek-ai/DeepSeek-V4-Flash at main
핵심 포인트
- 1제공해주신 내용은 학술 논문이 아니라 Hugging Face 모델 저장소의 메타데이터 정보입니다.
- 2따라서, 학술 논문 요약 요청에 따라 내용을 요약해 드릴 수 없습니다.
제공된 문서는 연구 논문이 아닌 Hugging Face 모델 카드이므로, 모델의 아키텍처, 훈련 방법론, 성능 평가 등과 같은 심층적인 기술적 세부 정보는 포함되어 있지 않습니다. 해당 문서에서 파악할 수 있는 내용은 다음과 같습니다.
이 문서는 Hugging Face 허브에 호스팅된 deepseek-ai/DeepSeek-V4-Flash 모델에 대한 정보를 담고 있습니다. 해당 모델은 텍스트 생성(text-generation)을 위한 transformers 라이브러리 기반의 언어 모델입니다.
주요 특징 및 기술적 정보는 다음과 같습니다:
- 모델 명칭:
deepseek-ai/DeepSeek-V4-Flash - 파이프라인 태그(Pipeline Tag):
text-generation - 라이브러리:
transformers - 라이선스: MIT License
- 지원 태그:
transformers,safetensors,deepseek_v4,endpoints_compatible,8-bit,fp8,region:us - 모델 유형:
transformersInfo에 따르면AutoModelForCausalLM으로 자동 로드될 수 있는 Causal Language Model입니다. - Safetensors 통계:
- 총 파라미터(total parameters): 158,069,433,298개
- 샤딩(sharded): True
- 총 파일 크기(totalFileSize): 159,622,520,421 바이트
- 파라미터 타입별 용량:
- BF16 (bfloat16): 1,415,259,264
- I64 (int64): 2,327,040
- F32 (float32): 36,168,018
- F8_E8M0 (FP8 E8M0): 8,858,737,664
- F8_E4M3 (FP8 E4M3): 6,023,020,544
- I8 (int8): 141,733,920,768
이 모델은 FP8 (8-bit) 정밀도를 지원하며, 이는 모델 추론 시 메모리 사용량과 연산 속도 효율성을 높이는 데 기여합니다. 문서에 언급된 Xet Pointer Details는 대용량 파일을 Git 저장소에서 효율적으로 관리하기 위한 Xet 기술을 사용하고 있음을 나타냅니다.