ollama にnous-hermes2:34bをインストールしたのだが、中規模以上のモデルであり 論理性に優れてると言うのだが やっぱだめだな 頭悪いな。そこで 別の方法で GPT NEO X というのを今 インストール中
このあいだ、ローカルLLM(ChatAI)が動かせるOllama + Open-WebUI環境を構築してみたのですが、まあまあの速度と精度で日本語も出力できるようになってて結構びっくり🤖いろいろと遊べそうかなー#GRAVITY日記 #AI
せっかくM4 mac買ったんだし、cline + ollama + qwen2.5-coderで無料vibe coding環境作ってみるかと思ったけど、何故か現行バージョンのclineだと動かんかったし、ギリギリ使えそうなモデルサイズのqwen2.5-coder-32Bはそもそも重すぎてまともな推論速度が出なかったのである(完)
会社の社内コンテンツとしてブログがあり、1年にいちどくらい当番がまわってきます今回は何を書こうかなーと思っていたのですが、会社も生成AIにビットが立っているので、ちょうど先日ローカルLLMについていろいろ試していたOllama+Open Web UIでgemma3を使ってみたという話をgemma3に書いてもらうことにしました[大笑い]案外とちゃんと生成してくれるね[泣き笑い]#生成AI