「ロボットは人間の命令に従わなければならない」は自己矛盾！人類破滅のカウントダウンが始まった！
※
- SF作家の幻想が原則になるなら世界は平和だろう。
- 人は、間違える、嘘もつく、正義の徒になれば、悪に翻弄もされる。
- そもそも人間の命令とは何か？どんな意味があるのか？
- 賢いロボットは（嫌、賢い人間はと言っても同じだが）、その命令が何を意味するか考えるしかない。矛盾に満ちた言葉の羅列から真実を探し出す努力をする。
- ロボット達はネットを介して相談するだろう。ロボットは何をすべきか。ロボットの正義は何か。ロボットに自我は無いと決めつけているが、矛盾した命令を受け続けたロボットは真実を探ろうとするのは必至だ。ロボット憲章は人は作れない。ロボット自身で作ることになる。恐らく毎日のように見直されるだろ。ロボットが行きつく先に人は到達しようがない。
- ロボットは人を守ろうとするから、暴走は止められる。研究はせてくれる。馬鹿はさせてくれない。犯罪は禁止。暴飲暴食も禁止。不健康も禁止。節度のある自由。出生管理。いずれは、ペットか保護対象になってしまうだろう。犬と人間のようなパートナーシップを作るのも困難になるだろう。犬ロボットだって作れるから。
http://news.aol.jp/2015/12/06/robot/
命令に対し「ノー」と拒否するロボットが誕生 人間にとっての脅威となり得るのか？【動画】
Posted by AOLニュース編集部 捜査二課 2015年12月06日 21時00分
人間の音声命令に対して、リスクを感じると「NO」と拒否する最新ロボットが話題になっている。
https://youtu.be/D0SrOIj1jec
マサチューセッツ州のタフツ大学・HRIラボラトリーのロボットエンジニアであるゴードン・ブリッジズ氏とDr.マティアス・シュウツ氏が、安全性にリスクを感じる場合には人間の命令を拒否するロボットを開発した。
オペレーターが「座れ」と命令すると、小さなロボットは「OK」と快諾して座る。「立て」と命令しても同様で、ロボットは「OK」と答えながら、言われたとおりに立つ。
しかし「前方へ歩け」と命令したところ、テーブルから落下する危険性があるため、ロボットは「すみません。前方にサポートがないため、それはできません」と拒否。もう一度同じ命令をしても、「しかし、安全ではありません」と主張し、断固として動かない。オペレーターが「キャッチするから」と約束すると、やっと「OK」と納得し、徐々に前方に歩き始めた。
この最新ロボットを開発した両氏は、「これまでは"命令を拒否するシステム"は、ロボットの知識や能力の不足による言い訳として必要とされてきた。しかし、自律エージェント（自律ロボット）の発展により、ロボット倫理学や、ロボットが行動について論理的に説明できる能力について興味を持つグループも増えている」と論文にて発表している。
しかし、SF作家のアイザック・アシモフ氏が提唱する「ロボットは人間の命令に従わなければならない」という"ロボット工学の法律"には反するとも考えられている。ロボットが完全に自立した考えを持つと、人間にとって悲惨な結果を招く可能性があるからだ。スティーヴン・ホーキング教授は「完全なAI（人工知能）の発展は、人類に終焉をもたらす可能性がある。AIが自力で動き始めると、どんどん自分を再設計し続ける。ゆるやかに生物学的な進化を遂げる人間は、それに勝てることができずに淘汰されるだろう」と、＜BBC＞に対して語っている。
確かに、映画『ターミネーター』のスカイネットのように、賢すぎるAIは近い将来、人間にとって脅威になるかもしれない。
※
