PLaMo翻訳をLM Studioで使ってみます

 こんばんわ

正直なところ私できている自信がないのですが、最近時々Macで使っているLMStudioでPLaMo翻訳を使ってみました。

PLaMo翻訳については以下のサイトを参照してください。

https://plamo.preferredai.jp/

普通に翻訳を使用するのであれば、以下のサイトで翻訳機能が利用できますのでそちらを利用する方が良いように思います。

https://translate-demo.plamo.preferredai.jp/

今回の話は、LMStudioを使用して、ローカルのMacでPLaMo翻訳を使う場合の話です。はっきり言って簡単なのですが。。。

まずは、モデルをダウンロードします。詳しい使い方などは割愛しますが、検索ウィンドウに「plamo」のように入力するといくつか候補が出てくると思いますので、mmnga　さんが作成されているモデルを選択してダウンロードします。モデルを背たくするとLMStudioの右側の画面に表示されますが、詳細は以下のURLを参照してください。

https://huggingface.co/mmnga/plamo-2-translate-gguf

いつものようにチャットを選択して、英語を入れると、次のような表示になってしまって何も答えてくれません。

私よくわかっておらずに使っているのですが、プロンプトにデータセットのタイプや、どうやって動作するかを指定する必要があるようです。

以下のように指定すると動作するとのこと。

<|plamo:op|>dataset

translation

<|plamo:op|>input lang=English

 

（ここに翻訳したい英文を書きます）

 

<|plamo:op|>output lang=Japanese

こんな感じにします。

すると。。。

今度はちゃんと日本語になってくれました。日本語から英語の場合は、

<|plamo:op|>dataset

translation

<|plamo:op|>input lang=Japanese

（ここに翻訳したい英文を書きます）

<|plamo:op|>output lang=English

とすれば良いようです。もしかしてあらかじめ指定するようにする機能がるのかもしれません。もう少し研究してみます。