たぶん一度クローズドされた機械が上位の思考と繋がった時、現地との矛盾が生じて融通が効かない場合故障するんじゃないかな。元来の機械のプログラムってそんな感じで、融通が効いてきたのが今のAIの思考回路なのかなって思う。