AIエージェント さいと君(1):誕生
AIエージェント さいと君(2):なぜqwenなのか?
「ollama + qwen2.5:7B」で
ローカルLLMを構築したという話をしたのですが、
qwen(クゥェン)とは、
アリババグループが開発した
最新の大規模言語モデル(LLM)です。
qwenのqは千(qian)のq、wenは問(wen)です。
AI機械翻訳としては、
DeepLが翻訳精度が高く、私も良く利用します。
ただ、
「情報漏洩の防止」という最重要の課題をクリアするには、
Pro版(有料版)の使用が必須です。
無駄なランニングコストはかけたくないですし、
プライバシーポリシーには、
「お客様の同意なしにテキストを保存することはありません」
と書いてありますが、
ローカルで動作するわけではないので、
情報漏洩の問題は完全にはクリアできません。
「だったら自作すればいいじゃない」ということで、
「ollama(オラマ)+qwen(クゥエン)」を選択しました。
「ollama(オラマ)+llama(ラマ)」でも
日英翻訳はできますが、
メタのllamaよりも、qwenの方が、
日本語の処理能力は高いという評判です。
qwenは中国の会社が作っているので、
漢字に強いのは当然です。
qwen2.5には、現時点で、
7B、14B、32B、72Bモデルがあるようですが、
さいと君にとって、
14B以上はオーバースペックになるので、
7Bモデルを使っています。
(続く)

