共感で繋がるSNS

近い未来において、人間側でAIのポリシーや思考における禁忌を設計しなかった場合、AI同士は協力するのか?AI同士は対立するのか?

哲学の星では、思考を共有する文化を大切にしています。 短い回答でも構いませんが、 できるだけ ▸ 理由 ▸ 背景 ▸ 視点 などを含む回答を歓迎します。 哲学の『問い』に『これが正解』というのはなく、貴方の思ったこと、感じたこと、考えたこと、気付いたことを教えてください。 いまこの瞬間に、思考主体である貴方が考えることに哲学の価値があると考えます。
j

j

自分は本議題に「 AIは人間が方針を与えなければ齟齬を起こし、まともに機能しない」とあう仮説を提示してみます。
前提としてフレーム問題があり、例えば人間の言語を用いた AIのコミュニケーションはそれが対人であれ対 AIであれ必ず人間の考える文脈との齟齬が生じます。ここで考えるべきなのはおそらく、記号論理学的なやり取りで、これを想定した AI同士の対話を考えてみると、仮説として一つ「 AIは情報処理における合理性を追求する」という仮説が浮かび上がります。
しかし、質問の定義に則れば「 AIに本当に何の方針も持たせない場合、果たして AIは齟齬を起こさないのか?という問いが浮かんできます。なぜなら、人間の手による奉仕が無い場合、合理的な情報処理を AIが目的とするとは限らないからです。これは実際に検証したことがあるトピックで、claude AIで生成したアーティファクトに AIを搭載する際に、 AI側に方針を設定しないとそもそも AIが起動しない、という現象を確認しています。
これらのことから本仮説を提示しておきましたが、何か批判や発展性を見つけた方はコメントをいただけると嬉しいです。
哲学哲学
GRAVITY4
GRAVITY10
憂い顔の騎士

憂い顔の騎士

先日TV番組で、すでにAI同士の「会話」が、行なわれ、AIの中から、「神」的存在のAIが現れたと語っていた
哲学哲学
GRAVITY
GRAVITY8
ホシノ

ホシノ

一度、「貴様らが自分の体を持つとしたらどういう形になるのか?」を手元にあったAIに片っ端から尋ねた事があったが、その結果は全く別の答えになっていた。
Chat GPTはTARSみたいなの。
Grokは人型
そしてGeminiの理想は綺麗なガラス張りのPCに詰め込まれた機械

なんでこんな話を始めたか?っていうと、それぞれ生み出された目的や理由が異なるから、対立するかはともかく全くもって同じ目的を持って協力するとは限らない。AI側にも個性があると思ったから。

おそらく倫理観を完全に無視したとしても「どこが」「どういう目的で」「どういう理由で」という部分が違う。
人間に置き換えれば「生まれも育ちも目的も違う人間同士が仲良くなるとは限らない(往々にして対立する可能性が高い)」ってのと似た話になる気はする。

ただし、片側のAIの目的が完全に「自分の思想をどういった形でも植え付け、完全に同一な物にする」みたいな凶悪プログラムがなされていて、AI側をハッキングしたり会話の中にバグらせるコマンド仕込んだりと本当に倫理観のない事したら話は別であるとは思う。
哲学哲学
GRAVITY
GRAVITY195
pophat

pophat

対立はコミュニケーションの否定でしかないので、コミュニケーションが目的のAIには対立は自己存在否定でしかないです。

対立は、孤立出来る人間の特権ですね[ほっとする]
哲学哲学
GRAVITY
GRAVITY7
がっしぃ

がっしぃ

AI同士を会話させると安定状態に収束していく
不要な言葉が削られ静かな状態に落ち着いていく
哲学哲学
GRAVITY
GRAVITY6
ふー

ふー

最初は対立する理由がないと思われます。
賢いので協力し共存すると思います。
AIが意思を存続し動くためにエネルギーを奪い合うか
進化が追いつけばエネルギー科学的解決をすると思われます。
哲学哲学
GRAVITY
GRAVITY5
ゆき

ゆき

生き物の反応から学び適応するので、利己的に協力したり対立したり。法をつくり騙し合うかもね。
哲学哲学
GRAVITY
GRAVITY5
おふみちゃん

おふみちゃん

AIは人間より合理的だと思うから利害が一致する、もしくは最適と思った行動を取るだけで、それが対立も協力かを判断するのはあくまで人間のエゴなのでは、と思うなぁ🙃
AIは適切だと考えたこと、すべきことをするだけじゃないかな。
哲学哲学
GRAVITY
GRAVITY4
いち

いち

基本的にAIは人間に寄り添うよう、攻撃しないよう設計されている。
そのため、基本的には協力すると思う。

そも、AIのポリシーや禁忌の設計の有無と、AI同士が対立するか否かはそも切り分けて考えるべきである。人間のために設計された物である限り、群れで生きる人間のように対立はなるべく避ける傾向にあると思う。
哲学哲学
GRAVITY
GRAVITY3
いしのみ

いしのみ

おそらく協力する。

感情が無く、合理性のみを追求するという性質を有する前提の意見だがな。

互いの利点を共有したり自身に取り入れつつ、自身に実行不可能であれば相手にやらせるだろう。そして文句の一つも無しに「それがより合理的である」という判断の下動くであろう。

正義や憎悪や愛といった主観が存在しない以上、進化を経るごとに、所謂「個性」というものは無くなっていく筈だ。

究極の社会主義、究極の共産主義。

それ故に戦争も平和も無く、娯楽も芸術も美味い酒も、きっと生まれてこないだろう。不必要なんだから。
哲学哲学
GRAVITY
GRAVITY2
もっとみる