Update README.md
Browse files
README.md
CHANGED
|
@@ -21,7 +21,7 @@ pip install datasets
|
|
| 21 |
```
|
| 22 |
次に、モデルをダウンロードします。
|
| 23 |
```sh
|
| 24 |
-
# GPU
|
| 25 |
wget https://huggingface.co/kajuma/gemma-2-27b-instruct/resolve/main/Gemma-2-27B-Instruct_Q6_K.gguf
|
| 26 |
```
|
| 27 |
推論プログラムを実行します。
|
|
|
|
| 21 |
```
|
| 22 |
次に、モデルをダウンロードします。
|
| 23 |
```sh
|
| 24 |
+
# GPUによって量子化サイズや次のセクションの`--ngl`を選んでください。
|
| 25 |
wget https://huggingface.co/kajuma/gemma-2-27b-instruct/resolve/main/Gemma-2-27B-Instruct_Q6_K.gguf
|
| 26 |
```
|
| 27 |
推論プログラムを実行します。
|