jnobuyukiのブログ

JavaScriptとR言語を中心に研究活動に役立つwebアプリケーション技術について考えていきます。twitter ID: @j_nobuyuki

ロボットがヒト区別つかなくなる世界

今日も,最近思っていることを書きたいと思います。最近,人工知能の話題がとても盛り上がっています。この勢いが続けば,人間に寄り添うパートナーロボットが作られる日が来るかもしれません。今日は,そんなときにどんなことが起きるのかをちょっと想像してみます。
ロボットが人間にとってどんな存在なのかをきちんと書いたものに「ロボット3原則」があります。

ロボット3原則

アイザック・アシモフがまとめたロボットの行動規範です。

  • 第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
  • 第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
  • 第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

ロボット工学三原則 - Wikipedia

この3つのルールには優先順位がついているところがポイントだと思います。例えば,ロボットは基本的に命令に従うが,それによって人間に害が加える場合は,従わなくて良いわけです。また,命令に従うことが優先された上で,自己の身を守るということは,場合によっては自分の身の破滅を招く行動も可能なわけです。第一条と第二条は、人間が基準になっていることも大事なポイントです。

では,ロボットが社会的に今よりも浸透し,また,見た目にもヒトと区別がつかなくなるとどんなことがおきるのでしょう。
アニメーション作品の中にそのヒントがあるように感じています。

鉄腕アトムの「嵐の中を突っ走れ!」

1980年から放送されていた鉄腕アトムの話の中に「嵐の中を突っ走れ!」というのがあります。この話の中で,孫を育てているおじいさんが実はロボットなのですが,孫は人間だと思いこんでいます。実は,おじいさんロボットは,今は走らなくなった機関車のメインコンピュータを改造してできています。話の後半,嵐でダムが決壊して,アトムのクラスメートが機関車にのって逃げなければならなくなるのですが,メインコンピュータが抜かれている機関車は走りません。ここで,孫娘は,おじいさんに「機関車を走らせて!お願い!」とせまります。おじいさんからすれば,孫娘の行く末を見守るという命令を守らなければならないので,機関車に戻るわけには行きません。しかし、悩んだ後におじいさんは、再び機関車のメインコンピュータとなることを選びます。ロボット3原則に立って考えれば,第2条が第3条に優先されるという解釈が成り立ちます。ただし,孫娘は人間だと思っているおじいさんに「お願い」したのであって,ロボットに「命令」したのではありません。第1条,第2条の規制がないのに,すすんで危険に立ち向かうというところが,ロボットしてではなく,人間としての判断に立っているようにも見えます。 

イブの時間

最近見た映画「イブの時間」では,アンドロイドが社会に浸透した世界が描かれています。その社会全体では、人間とロボットは、絶対的な主従関係にあります。しかし、イブの時間という名前のカフェでは,ロボットと人間を区別しないというルールがあり,誰がロボットで誰が人間なのかがわからないまま話が進んでいきます。
https://www.amazon.co.jp/%E3%80%8C%E3%82%A4%E3%83%B4%E3%81%AE%E6%99%82%E9%96%93-%E5%8A%87%E5%A0%B4%E7%89%88%E3%80%8D-DVD-%E7%A6%8F%E5%B1%B1%E6%BD%A4/dp/B003JERTC6

ストーリーの詳細をここには書きませんが,ここでも人間はロボットに対する愛着を見せています。それがロボットであるとはっきり分かっていてもです。そして興味深いのは,ロボットが人間をもっと理解したいという感情らしきものを見せるところにあります。

ロボットの倫理の必要性

上記2作品を解釈すると,「ロボット3原則」ではカバーできないことに気づきます。おそらく,人間にとって人間の倫理が大事で,人間を基準としたロボットの倫理だけでなく,ロボットにとってのロボットの倫理やロボットにとっての人間の倫理が存在することになっていくのだと感じます。