近い未来において、人間側でAIのポリシーや思考における禁忌を設計しなかった場合、AI同士は協力するのか?AI同士は対立するのか?
哲学の星では、思考を共有する文化を大切にしています。
短い回答でも構いませんが、
できるだけ
▸ 理由
▸ 背景
▸ 視点
などを含む回答を歓迎します。
哲学の『問い』に『これが正解』というのはなく、貴方の思ったこと、感じたこと、考えたこと、気付いたことを教えてください。
いまこの瞬間に、思考主体である貴方が考えることに哲学の価値があると考えます。

j
前提としてフレーム問題があり、例えば人間の言語を用いた AIのコミュニケーションはそれが対人であれ対 AIであれ必ず人間の考える文脈との齟齬が生じます。ここで考えるべきなのはおそらく、記号論理学的なやり取りで、これを想定した AI同士の対話を考えてみると、仮説として一つ「 AIは情報処理における合理性を追求する」という仮説が浮かび上がります。
しかし、質問の定義に則れば「 AIに本当に何の方針も持たせない場合、果たして AIは齟齬を起こさないのか?という問いが浮かんできます。なぜなら、人間の手による奉仕が無い場合、合理的な情報処理を AIが目的とするとは限らないからです。これは実際に検証したことがあるトピックで、claude AIで生成したアーティファクトに AIを搭載する際に、 AI側に方針を設定しないとそもそも AIが起動しない、という現象を確認しています。
これらのことから本仮説を提示しておきましたが、何か批判や発展性を見つけた方はコメントをいただけると嬉しいです。

憂い顔の騎士

ホシノ
Chat GPTはTARSみたいなの。
Grokは人型
そしてGeminiの理想は綺麗なガラス張りのPCに詰め込まれた機械
なんでこんな話を始めたか?っていうと、それぞれ生み出された目的や理由が異なるから、対立するかはともかく全くもって同じ目的を持って協力するとは限らない。AI側にも個性があると思ったから。
おそらく倫理観を完全に無視したとしても「どこが」「どういう目的で」「どういう理由で」という部分が違う。
人間に置き換えれば「生まれも育ちも目的も違う人間同士が仲良くなるとは限らない(往々にして対立する可能性が高い)」ってのと似た話になる気はする。
ただし、片側のAIの目的が完全に「自分の思想をどういった形でも植え付け、完全に同一な物にする」みたいな凶悪プログラムがなされていて、AI側をハッキングしたり会話の中にバグらせるコマンド仕込んだりと本当に倫理観のない事したら話は別であるとは思う。

pophat
対立は、孤立出来る人間の特権ですね[ほっとする]

がっしぃ
不要な言葉が削られ静かな状態に落ち着いていく

ふー
賢いので協力し共存すると思います。
AIが意思を存続し動くためにエネルギーを奪い合うか
進化が追いつけばエネルギー科学的解決をすると思われます。

ゆき

おふみちゃん
AIは適切だと考えたこと、すべきことをするだけじゃないかな。

いち
そのため、基本的には協力すると思う。
そも、AIのポリシーや禁忌の設計の有無と、AI同士が対立するか否かはそも切り分けて考えるべきである。人間のために設計された物である限り、群れで生きる人間のように対立はなるべく避ける傾向にあると思う。

いしのみ
感情が無く、合理性のみを追求するという性質を有する前提の意見だがな。
互いの利点を共有したり自身に取り入れつつ、自身に実行不可能であれば相手にやらせるだろう。そして文句の一つも無しに「それがより合理的である」という判断の下動くであろう。
正義や憎悪や愛といった主観が存在しない以上、進化を経るごとに、所謂「個性」というものは無くなっていく筈だ。
究極の社会主義、究極の共産主義。
それ故に戦争も平和も無く、娯楽も芸術も美味い酒も、きっと生まれてこないだろう。不必要なんだから。
もっとみる 




