ロボットカーはトロッコ問題を解けるか？

　Googleのロボットカー（自動運転車/ドライバーレスカー）は、期待したほど高性能じゃないらしい。

　Googleがロボットカーの開発を進めていて、プロトタイプが48万キロを走行したというニュースを見たのは2012年。「未来は今！」と興奮したことを覚えている。あれから３年経ったが、ロボットカーはまだ開発途上で、実用化はうんと先だった。

Googleのロボットカー

　雨や雪を障害物と認識してしまうとか、人間の動きを予想できないとか、技術的な問題が多いけど、それらを解決しても法的、倫理的な問題（無理解）にぶち当たるだろうな。たとえばトロッコ問題である。

• Googleの自動運転カーに試乗してわかった6つのこと - GIGAZINE
• Google ドライバーレスカー - Wikipedia

トロッコ問題

　制御不能になったトロッコが走ってきた。放っておけば、前方にいる５人の作業員が轢き殺される。あなたが分岐器のレバーを引けば、トロッコは別線路に入り、そこにいる１人の作業員が死ぬ。あなたはどう考えるか？
トロッコ問題 - Wikipedia

• ５人を助けるため１人を犠牲にしてもよい ... 功利主義
• 作為的に１人を殺すことは罪だから、なにもしない ... 義務論

• ５人の老人と、１人の子どもだったら？ ... 寿命がある方が価値が高い？
• ５人の他人と、１人の知人だったら？ ... 愛情は功利主義を越える？
• ５人の作業員と、正体不明のタンクだったら？ ... 可能性をどこまで考える？　フレーム問題。
• 自分が線路に飛び込んで、全員を救えるとしたら？ ... 自己犠牲は正しいか？
• だれかを突き飛ばすことで５人救えるとしたら？ ... 自分の手で殺人を行うとしたら？

　こんな問題に、絶対の答えも、正しい解決方法もない。人間は全知全能じゃないから、まちがいも許容される。しかしロボットカーだったら？

ロボットの判断は客観的に改善できる

　ロボットカーが事故を起こせば、そのときの状況や判断手順（アルゴリズム）が解析される。道徳的に納得出来ない点があれば、条件が追加されるだろう。たとえば、

• 乗員数が想定される被害者数より少ない場合は、自分自身を犠牲にせよ
• ただし乗員が大統領で、ガードマンが犠牲になる場合は無視せよ
• ただし大統領の変装をしたテロリストは例外とする

　アルゴリズムが鍛えられていけば、ロボットカーが事故を起こしても、「まぁ、仕方ない」「最適な判断をした結果だろう」と認知されるんじゃないか？
　道徳のアルゴリズム化である。
　成功すれば、裁判官もロボットに任せられる。

　実際にロボットが道徳判断できる必要はない。人間がアルゴリズムの点検が面倒になって、「もう任せていいや」と思えば、完成だ。おそらく副作用がこわくて、だれも編集できなくなる。

アイザック・アシモフ「災厄のとき」 - 「われはロボット」より 1950年

　ロボットの陽電子脳が進化しすぎて、正しい判断をしたのかどうか、人間に把握できなくなった。どうしても必要なら、ロボットを解析するロボットを用意しなければならない。人間はこのまま、ロボットが言う「これが最適です」を信じていいのか？

　ロボットカーの実用はまだまだ先だけど、未来が近づいているなぁと思う。