LinVK

llm

此标签下有1条笔记。

  • 2026年10月28日

    V100 显卡与大模型量化入门:从 FP16、Q4_K_M 到 FP8、NVFP4

    • gpu/nvidia
    • llm/量化
    • llama.cpp
    • gguf
    • cuda

Created with Quartz v5.0.0 © 2026

  • GitHub
  • Discord Community