MINISFORUM UM890 Proの初期設定が終了するや否や、LM studioを入れてLlama 3.1 8Bモデルでの応答があまりにも素早いのにびっくりしながら、70Bモデルをダウンロード。ロードするとシステムの資源をぎりぎりまで絞り出してやっと動いている感じになる。プロンプトを入れるとGPU稼働率が99%に跳ね上がるのに感動する。応答は8Bモデルより少し遅いが、いろいろとよく勉強していて、好奇心を示しながら親身に意見を言ってくれるひとに相談に乗ってもらっているうちに自分の中での理解も深まってきた感じになる。
一方で120Bモデルをロードしていると途中でOSの応答が消失してしまう。
