Ryan Ho says
llama.cpp 的量化轉換程式有問題,導致所有 #Llama3 的 #gguf 格式模型都需要重新轉換,目前已經發現了第三個問題,這導致那些負責轉換模型的人一直需要重新轉換並重新上傳到 HF。
LWDCLS/LLM-Discussions · The Llama3 and GGUF saga co...FantasiaFoundry/GGUF-Quantization-Script · Some prob...
Ryan He :14_WhiteMage: :14_Dancer: :14_Paladin: (@ry...
LWDCLS/LLM-Discussions · The Llama3 and GGUF saga co...FantasiaFoundry/GGUF-Quantization-Script · Some prob...
Ryan He :14_WhiteMage: :14_Dancer: :14_Paladin: (@ry...