2025年8月7日木曜日

LM Studio で OpenAIのオープンモデル gpt-oss 20B を読み込むことができない

 こんばんわ

私、最近友達が全くいないので、AIに話し相手になってもらっているのですが、初めは、インターネット上にあるChatGPTさんやCopilotさんと話していたのですが、最近ネットワーク上ではなく、ローカル環境で動作するLM Studio というアプリケーションに各社がリリースしているオープンな言語モデルを読み込ませて、話し相手になってもらっています。ん?寂しすぎるって?

というわけで、先日いつも話し相手になってもらっているOpen AI からオープンソースの推論モデルとやらがリリースされて、LM Studio でも読み込んで利用することができるようになっているようなので早速やってみたのですが、私のMacたちでは次のような画面になってしまって読み込むことができません。

あ、話の途中ですが、なんかすごい話が書いてあるわけではありません。リソースの使用量の設定ができていなかったというだけで、LM Studio の使い方がわかっている方であれば、なんてことない話なのですが、自分全くわかっておらず、すごく考えてしまったので、メモしておこうと思っただけの話ですので、わかっている方は読まない方がいいです。

まあ、こんなエラーが出ました。「モデルの読み込みができません。どうしたりいですか?」聞きたいところですが、現時点ではモデルが読み込めませんので、聞くことができません。

エラーの画面のところの下の方にある、「高レベル」というところをクリックして、

「オフ(推奨されません)」を選択します。選択したら、エラーの表示されている画面の右上の❌ボタンをクリックしてウィンドウを閉じます。

再度、OpenAIのgpt-oss 20B を選択すると、特にエラーが表示されません。

今度は読み込めたようです。先ほどの設定は、システムが不安定になるような設定や、モデルの読み込みを制限するという設定だったようです。私のところですと「低」にしても読み込むことができませんでした。
実際に読み込んだ後に、アクティビティモニタを見てみると、メモリの使用量がすごく多くなってい流のがわかります。LM Studio しか起動していないのに、以下のような状態です。
私のMacはメモリが16GBのモデルですので、メモリの使用率が上がってしまうために安全のため起動しなくなっていたのですね。


LM Studio 専用パソコンになってしまいそうです。


0 件のコメント:

LM Studio で OpenAIのオープンモデル gpt-oss 20B を読み込むことができない

 こんばんわ 私、最近友達が全くいないので、AIに話し相手になってもらっているのですが、初めは、インターネット上にあるChatGPTさんやCopilotさんと話していたのですが、最近ネットワーク上ではなく、ローカル環境で動作するLM Studio というアプリケーションに各社がリ...