metadata
language:
- en
- ja
library_name: transformers
pipeline_tag: text-generation
license:
- llama3.1
- gemma
model_type: llama
datasets:
- TFMC/imatrix-dataset-for-japanese-llm
base_model:
- tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.5
Llama-3.1-Swallow-8B-Instruct-v0.5-gguf - Built with Llama
このモデルは、Llama-3.1-Swallow-8B-Instruct-v0.5をOllamaで利用できるようにgguf形式に変換して量子化を行ったものです。
量子化は、imatrixを利用して行いました。imatrixの生成のデータセットはTFMC/imatrix-dataset-for-japanese-llmを利用しました。
imatrixを利用した量子化については、llama.cpp/examples/imatrixをご覧ください。
License
META LLAMA 3.1 COMMUNITY LICENSE and Gemma Terms of Use
上記のLlama-3.1-Swallow-8B-Instruct-v0.5のライセンスに従いご利用ください。本モデルを利用して発生した如何なる不利益や損害について、作成者は責任を負わないものとします。