今も世界中でアトムやドラえもんのような感情を持つロボットの開発に いそしんで...

今も世界中でアトムやドラえもんのような感情を持つロボットの開発に



いそしんでいる研究者は数多くいると思いますが、それが成功した場合、

映画のターミネーターのようにロボットが人間の制御を超えて止められなくなる



という事態を想定しているのでしょうか？

そういうことができたらいいなぁ、と思ってる研究者はたくさんいるでしょうが、

あなたが想像しているようなレベルにちょっとでも近寄ってる研究者は、

まだいないはずです。もっと言えば、そういうレベルに達する可能性が

理論的にすら可能なのかどうか、まだ暗中模索のはずです。



後半の質問ですが、例えば、自動車も、ブレーキやアクセルが壊れると、

戻らなくなると、人間の制御を超えて止められなくなります。ですから、

まともな技術者なら、ブレーキを２系統にして、片方が壊れても、

ブレーキがかかる仕組にしたり、燃料の制御系が壊れると、自動的

に燃料をカットして、暴走しないようにするなど、基本的に安全サイド

の設計をします。電車の非常停止レバーなどもそうですね。



ロボットだけがそうならない理由は、どこにもないので、今でもそれ

なりの想定はしているはずですし、できそうになれば、なおさら、

キチンとそういう事態を想定した設計に心をくだきます。



専門家に任せておけば、何でも大丈夫、というのはお気楽すぎる

としても、専門家が、映画になり、普通の人も知っている危険性

に、まるで無関心であると考えているとしたら、それはちょっと

考えすぎだろうと思います。

原理的な問題は別としてある程度大きな自動システムではすでに人間の判断能力は求められていない場合が大部分です。何かの故障があった場合診断システムが対処法を出しますが、人間は「実行」のボタンを押すだけです（押さないと直らないし、自分で原因・対処法を調べるのは時間がかかる）。この傾向は更に続くでしょう。このWindowsでも自己診断して勝手に修復するでしょう？