AIエージェント さいと君(2)

AIエージェント さいと君(1):誕生

の続きです。

AIエージェント さいと君(2):なぜqwenなのか?

「ollama + qwen2.5:7B」で
ローカルLLMを構築したという話をしたのですが、

qwen(クゥェン)とは、
アリババグループが開発した
最新の大規模言語モデル(LLM)です。

qwenのqは千(qian)のq、wenは問(wen)です。

AI機械翻訳としては、
DeepLが翻訳精度が高く、私も良く利用します。

ただ、
「情報漏洩の防止」という最重要の課題をクリアするには、
Pro版(有料版)の使用が必須です。

無駄なランニングコストはかけたくないですし、

プライバシーポリシーには、
「お客様の同意なしにテキストを保存することはありません」
と書いてありますが、

ローカルで動作するわけではないので、
情報漏洩の問題は完全にはクリアできません。

「だったら自作すればいいじゃない」ということで、
「ollama(オラマ)+qwen(クゥエン)」を選択しました。

「ollama(オラマ)+llama(ラマ)」でも
日英翻訳はできますが、

メタのllamaよりも、qwenの方が、
日本語の処理能力は高いという評判です。

qwenは中国の会社が作っているので、
漢字に強いのは当然です。

qwen2.5には、現時点で、
7B、14B、32B、72Bモデルがあるようですが、

さいと君にとって、
14B以上はオーバースペックになるので、
7Bモデルを使っています。

(続く)

※あなたにおススメする関連記事
LINEで送る
Pocket