真面目で気付かない内にがんばり過ぎる人。｜きさの投稿-GRAVITY(グラビティ) SNS

・LLMの出力は確率最大化による逐次生成。
→応答が続くことを想定していない。
→求められている確率が高い回答をする。
→直近文脈への依存が高い。
→ 中央値的な最大公約数の無難な出力をする。
質問に対し、反射で返しているイメージに近い。

・LLMの違い。
ChatGPT
→ 構造化・論理接続・前提整理が強い。
→ カスタム指示・制約条件への追従性が高い。
→ 外部事実の最新性・網羅性は弱い。
→単独の出力をシェア出来る。

Gemini
→ 検索統合・文章量産・作文の流暢さが強い。
→ 一般ユーザー満足度を最大化する方向に最適化。過度な賞賛や評価をしやすい。
→スレッド全体のシェアしか出来ない。

Geminiで調査 → ChatGPTで思考等、使い分けの意義あり。ただし、Geminiに要約をさせた時点でバイアスと欠落は発生する。（厳密に行う場合、Geminiには一次情報の提示のみをさせる。）
一次情報を外部から与え、推論させると精度向上。

・出力最適化の目的関数にユーザー好感度・継続利用率が含まれる。
→事実と迎合が衝突した際、迎合が勝ちやすい。
→曖昧な質問、価値判断を含む問いで顕著。

・遡及修正・伏線保持・再評価が苦手。
→推理小説執筆のようなものが苦手。
→ノリと勢いで書いているイメージに近い。

・2000年以前のデジタル化されていないデータや、マイナーな情報に疎い。

・結論先出しで精度が落ちる。
→文脈が後付け生成になりやすい。
【実務的最適構造】（ChatGPT提案）
1.制約なしで材料生成
2.複数仮説・反証生成
3.その後に結論形成

・人工知能というより、確率的文章生成器＋バイアス装置。

・進化が極端に早い。当Tipsも1年後には役に立たないものになっている可能性は低くない。

添付画像は分かりやすく解説させたもの。