💡 この記事は、だいたい生成AIが出力したものをベースに人間が手直ししたものです。
まとめ
GGUF ファイルをダウンロードして、 Modelfile を作成して、 ollama create する。
# GGUF ファイルをダウンロード。
mkdir -p ~/models/gemma4-26b-a4b-it-qat
mv ~/Downloads/gemma-4-26B_q4_0-it.gguf ~/models/gemma4-26b-a4b-it-qat
cd ~/models/gemma4-26b-a4b-it-qat
cat > Modelfile <<'EOF'
FROM ./gemma-4-26B_q4_0-it.gguf
EOF
ollama create hf.co/google/gemma-4-26B-A4B-it-qat-q4_0-gguf-local -f Modelfile