【トロッコ問題】誰を助けて誰を殺す?自動運転車の道徳観

皆さんは『トロッコ問題』をご存知でしょうか。

端的に説明すると、誰を助けて誰を殺すかといった、正解のない道徳観の問題です。

暴走しているトロッコがあります。レバーを切り替えれば線路の先にいる5人は助かりますが、切り替えた先にいる1人は死んでしまいます。あなたはレバーを切り替えますか?といったようなもの。

切り替えた先に誰もいないのであれば迷わずレバーを切り替えることでしょう。ですが、その先に人がいるとなれば躊躇するはずです。

この問題、一般的にはレバーを切り替える人のほうが多いんだとか。多くの命が助かるほうが道徳的に正しいというのが多数派の主張で、これは私も正しいと思います。だって多くの人が生き残るんですから。

では少数派の主張はというと、5人は死ぬ運命で切り替えることにより1人を殺した。よって切り替えることは正しい行いではないとのこと。こちらの考え方も正しいと思います。

ですがこれは5人も1人も知らない人であることが前提です。5人のほうに家族や恋人がいれば切り替えない派の人も答えがわかりかもしれませんし、1人が家族や恋人であれば切り替える派の人も答えが変わるかもしれません。

シチュエーションによって答えが変わるのは、『心』を持つ人間ならではのことで、心を持たないAIではどのような判断をするのでしょうか。というのがこの記事のテーマ。

道徳観

私たち人間は、法律で決められているからという答えがなかったとしても、誰かを殺してはいけないという道徳的思想を持っているはずです。

仮に明日から殺人罪が廃止されたとしても嫌いな奴を殺す人は少ないでしょう。少なくとも私であれば、殺したいほど憎い相手であっても殺すことはできません。

人を殺したことによる達成感とそれにより受ける心理的疲労を天秤にかけると、心理的疲労のほうが強いですし、殺した相手にも家族がいて悲しむ人がいると思うと、やっぱり殺せなそうです。

こういった、複数の感情が絡まりあい意思決定をすることができるのが人間で、AIはプログラムに記述されたIF文の通りに淡々と処理していくでしょう。人間的な考え方より機械的な考え方のほうが合理的かもしれませんが、果たしてそれは正しい道徳観なのでしょうか。

私個人の見解では、正しい道徳観だと思います。なぜなら、感情が絡むと俯瞰的な視点で物事を見ることが難しくなるからです。

自動運転における道徳観

では、自動運転における道徳観はどうでしょうか。

人の代わりにAIが判断をする以上、人とは違う判断をすることは間違いありません。

これがタイトルの誰を殺して誰を助けるかという点です。人が運転している車の前方に運転手の家族が飛び出してきたとします。その時、後ろの車がどうなろうと急ブレーキをかけるでしょう。

ですが、AIが判断する車ではどうでしょう。そのAIが何に重きを置いているのかにもよりますが、単純に怪我人が少ないことを正しいと学習しているAIであれば、急ブレーキをかけずに家族を殺してしまうかもしれません。

飛び出してきたのが赤の他人であればどうでしょうか。怪我人が少ないことを正しいとするのであればそのまま突っ込むかもしれませんが、当事者の社会的地位を重きを置くAIであれば急停止し、後方で事故が起きるかもしれません。

このように、淡々と処理していくAIであっても、なにを正しいとするかにより回答は変わってきます。

MoralMachine

モラルマシーンというものをご存知でしょうか。

モラルマシーンとは、自動運転車がどのように判断するのが正しいか、人間の視点を収集するプラットフォームです。男と女、人と動物、社会的地位の高低、信号を守っているかなど、様々なシチュエーションを想定したテストが出題されます。

▶ モラルマシーン

上のリンクからモラルマシーンのテストを受けることができます。

これは私の診断結果の一部です。

私の場合、命が多く助かることを重要視していてかつ、歩行者よりも車にいる人が大切に扱うようです。それでいて、信号を守る人を多く助ける傾向にあります。

ほとんどの国で信号を守っている人を助ける傾向にあるそうなので、法律やルールを守る人はそうでない人よりも生きる価値があるというのが共通認識のようです。

私もルールを守る人とそうでない人では、人間的な価値に決定的な違いがあり、同じ命であっても天と地ほどの差があると信じています。

まとめ

どのような人を助け、どのような人を切り捨てるか。

難しい問題ではありますが、AIによる自動操縦の車について考える上では避けては通れない考え方です。少なくとも私は、社会的価値のある人が多く助かることを正解だと思っていますが、なかには社会的価値は考慮せずに多くの命が助かるべきという考えの人もいるはずです。

冒頭でも述べましたが、この問題に正解や不正解はありません。しいていうのであれば、自分の頭に浮かんでいる考えが正解です。

AIの躍進が止まらないこんにちですが、どのような未来になっていくのか、楽しみで仕方がありません。