WhisperのGPUメモリ使用量
自分用メモとして Tesla P100を使ってWhisperのメモリ使用量を確認しました。 float32にしています。 結果は以下の通り。 今後の参考にします。
LLM
[LocalLLM] だいぶ良くなってきた・・・？
構築を進めているLocalLLMの進捗、だいぶ良くなってきました。 モデルはgemma4:26Bで動作、画像生成や音声認識(文字起こし)もできるようになりました。 現状の構成としては と分けた構成にしてあります。 P10 … 続きを読む
先に進まないLLM構築(2026/2/14時点)
ローカルLLM構築を進めていますがなかなか進まないです。 問題ばかり発生。 知識がないのが一番のネックなのでChatGPTに聞きながら作っています。 いったいいつ完成するのだろうか・・・？
LLMの構築も・・・
ローカルLLMの構築をしております。 構築のためにchatGPT君に聞いていろいろとやってみて結果とりあえず動くようにはなりました。 構成としては以下のマシンを仮想基盤(Hyper-Vにしてみました。CPU : Xeon … 続きを読む