もしかしたら混合しているかもしれないので一応言っておきますが、ロボットとＡＩは別物です。 monさんはロボットの仕組みではなくＡＩの学習能力のお話をしているので、それは『あなたがロボットではないことを証明せよ』という議題とはまた別のお話になると思います。 →

→ その上での私の考えですが、ＡＩが何でもかんでも真似できるかと言えばそうではないと思うんですよね。 まず、ＡＩの前にはロボット(語源:チェコ語で「強制労働」を意味するrobata(ロバタ))、もしくはインターネットを介したPCという媒体があります。 それらは人間のコントロールの下、プログラムされた通りに動きます。 例えば、他の存在にとって悪影響だと判断されるプログラムを入力された場合、管理者権限で弾かれたり、エラーが起きたり、人力で処理・対策されたりするものと思います。 →

→ 現に、対策・処理されず野放しになっているものが今すぐに確認できると思います。 ＡＩグラちゃんって名前なんですけど（笑） たぶん多く使われる表現=善としているのだと思うので、管理者が悪と判断した場合、修正されると思います。 この善悪もまた、揺らぎだと私は思います。 そして、この揺らぎを越えコントロールできるのが人間。 ここまで言えば、私の言わんとすることがお分かりになるのではないでしょうか。

@M0N0117H ： アシモフの陽電子脳だとそういうものを想定していましたが、現実には自律型のドローンが軍事で使われているところをみると、管理者権限も当てにならないようです

@mon ： 陽電子脳は読んだこと有りませんが、プログラミングなどを齧っている人なら大抵思いつきそうなことだと思いますよ。 あと、ＳＦを読まれているなら分かると思いますけど、軍事用に作られたロボットの類は"そういうもの"じゃないですかね。 自立型ドローンの詳細は分かりませんが、フィリップ・K・ディック辺りが予見して書いてそう。 大事な情報はＡＩに任せず、アナログ・準アナログで管理されていると思います。

確かに、プラスでアルゴリズムを自動解析するシステムを搭載すれば、ほぼ見分けは付かなくなるでしょう。 そんな時は運動をさせると良いと思います。 ロボットには遊びが無いので(あれ？これブラックジョークかな)、ものすごくトリッキーな動きをさせたら盛大に転けると思います。物理的に、特に斜めの動きへの踏ん張りが効かない可能性が高いのかなと予想しています。