共感で繋がるSNS

人気

ちょこ

ちょこ

前に構築したollamaのローカルLLMとOpenHandsを合体っ
GRAVITY
GRAVITY5
ちょこ

ちょこ

ELYZA+ollama+OpenWebUIも無駄にdocker使わずに構築したんだけどな
GRAVITY
GRAVITY
ちょこ

ちょこ

どのみちIntelのGPUだとollamaが例外吐いちゃうからもういいや
GRAVITY
GRAVITY8
ちょこ

ちょこ

wslからもwindows機からもcurlコマンドでollama接続できるけど、difyからはタイムアウトしちゃう。たぶんdockerの罠にはまってる
GRAVITY
GRAVITY1
なんか

なんか

unslothのgpt-ossのGGUFモデルがollamaで動かへん!!!!
とりあえずMoEモデルだってこともあって3%CPUオフロードでもそこそこの早さで動いてくれるのでまあ良いけど
GRAVITY
GRAVITY5
toshiii

toshiii

ollama にnous-hermes2:34bをインストールしたのだが、中規模以上のモデルであり 論理性に優れてると言うのだが やっぱだめだな 頭悪いな。
そこで 別の方法で GPT NEO X というのを今 インストール中
GRAVITY
GRAVITY3
tk

tk

このあいだ、ローカルLLM(ChatAI)が動かせるOllama + Open-WebUI環境を構築してみたのですが、まあまあの速度と精度で日本語も出力できるようになってて結構びっくり🤖
いろいろと遊べそうかなー
#GRAVITY日記 #AI
GRAVITY
GRAVITY7
serick/カ

serick/カ

せっかくM4 mac買ったんだし、cline + ollama + qwen2.5-coderで無料vibe coding環境作ってみるかと思ったけど、何故か現行バージョンのclineだと動かんかったし、ギリギリ使えそうなモデルサイズのqwen2.5-coder-32Bはそもそも重すぎてまともな推論速度が出なかったのである(完)
GRAVITY
GRAVITY6
もっとみる

関連検索ワード

新着

おすすめのクリエーター