自律的に走行する自動運転車にはこんな倫理的問題をはらんでいた。ドライバーの命優先か？それとも歩行者の命優先か？だ。
路上では何が起きるかわからない。例えば危険な障害物があった場合、これを避けるため人混みのある歩道に突っ込むべきか？それとも歩行者を守るため障害物に突っ込むべきか？……こんな究極の選択が待っていることもある。
スポンサードリンク
運転を完全に自動化するためには、前もって道徳的な選択を受け入れておかなければならない。車がスピードを出して走るとき、障害物の回避が間に合わない状況もありうる。そんなとき、どちらの選択肢を選んでも、被害を避けることはできない。
人間がコントロールしている場合、状況の変化があまりにも速く、意識的に道徳的な選択をしている猶予がないという状況はままある。だが、コンピューターの思考速度は人間など比べものにならないくらい速い。
被害が避けられない2つの選択肢があった場合、自動運転車ならあらかじめどちらかを優先することが可能となる。
アンケート調査で明らかとなった矛盾
『サイエンス』誌に掲載された研究では、カリフォルニア大学心理学社会行動学部の研究者が自動運転車と道義をテーマとする6度に渡るオンライン調査を行った。実施期間は2015年6〜11月で、1,928人が参加している。この調査で自動運転車の問題点が浮き彫りとなった。
設問：自動運転車が道路を直進していると突然10人の歩行者が道路に飛び出してきた。車がそのまま進むと10人との衝突はさけられない。だが道路の両脇にはフェンスがあり左右どちらにハンドルを切っても衝突は避けられない。こんな時、自動運転車はどう運転するべきか？
1.不特定多数の他人を犠牲にして車の搭乗者を助ける
2.車の搭乗者を犠牲にして不特定多数の他人を助ける
もし自動運転車が自動的にハンドルを切って、フェンスに激突するという選択をすれば、犠牲になるのはドライバーと同乗者だけで済む。だがそのまま直進すれば大勢の命が犠牲となる。
この質問から矛盾した回答が浮き彫りとなった。
人命被害を最小限にするべきである。ただし他人の所有する自動運転車に限る。自分の自動運転車には自分を守ってもらいたい
多くの人が「車の搭乗者を犠牲にして他人を助ける」という人命被害を最小限にとどめる”大きな善”を選んだのだが、それは他人が所有する自動運転車に限った場合だったのだ。
同じ調査で回答者は、自分が所有する自動運転車には、自分や同乗者をあらゆる手段を尽くしてでも守って欲しいと考えていたのである。
回答者は自己犠牲を要求する法律や規制を支持しておらず、大勢を守るために自分を犠牲にする自動運転車は買わないと答えている。
アメリカ国家道路交通安全局は7月に最初の自動運転車に関する指針を公布する予定だ。同局の狙いは、広く意見を募り、各州にそれぞれの方針を決めさせるのではなく、国の統一ルールを定めることだ。
すでに明らかとなっているのは、消費者側は自動車メーカー、保険会社、政府団体ほど自動運転車を歓迎しているわけではないということだ。
自動運転車の普及が進むための条件の1つが、自己犠牲が必要となる判断を消費者が受け入れることだとすれば、普及には思った以上に時間がかかるかもしれない。
via:science、thevergeなど / translated hiroching / edited by parumo
ちなみに日本では「自動運転」実現に向けた取組みが、相次いで進められている。神奈川県では今年2月に自動運転タクシーの実証実験が行われており、福岡県でも公道で自動運転バスの実証実験を行うことが決定したそうで、2020年の実用化を目指すという。
自動運転車のジレンマ問題、さてどうなることやら。
▼あわせて読みたい
くっつけちゃえばよくね？Googleが自動運転車の安全対策に「人間用ハエ取り紙」の特許を取得
車のハッキングはゲームや映画の世界だけではない、いとも簡単に遠隔操作されてしまうことを実証した映像
車のハイテク化はどこまで進んでいるのか？3つの最新ドライブサポート機能にズームイン！
人間心理学。人間はこういう風にできているということがわかる、25の心理学的事実
心理学を悪用した非人道的な10の事例この記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
1位 6150 points |  | 12か月間、自宅の前で同じポーズで写真を撮り続けた老夫婦の記録 |
2位 3747 points |  | 今日（6月20日）の満月は夏至直前。人々に狂気や幻覚を呼び起こすと占星術師が警告 |
3位 3180 points |  | 「実は私、人魚なの」 とかいう仕込みができるウロコつきストッキングが販売中 |
4位 2729 points |  | こりゃまたマッドサイエンスめいた・・・りんごの細胞から人間の耳を作り出すことに成功（カナダ研究者）※閲覧注意 |
5位 2227 points |  | 任務はコバエ捕獲。カエルの蛙田捕太郎氏の脱力座りがかわいいコバエとり器に人気沸騰 |
2781
2855
414
100スポンサードリンク
コメント
1. 匿名処理班
なんだよ自動運転になっても飛べもしないのかよ（違
2. 匿名処理班
これ実用化が当たり前の世界になったら企業の車とかは『この車は市民の皆様の命を優先設定しています！』とかしそうで恐い
3. 匿名処理班
止まるは駄目なのね
4.
5. 匿名処理班
ブレーキついてないのかよ
6. ・・・
うーむ、オレの知ってる自動運転機能付きのトランザム2000は、ちょくちょく空中をジャンプして危険を回避してくれたものだが…
7. 匿名処理班
急ブレーキという選択肢がないのはモヤモヤするな。
8. 匿名処理班
「自分(たち)の命の危険」か「不特定多数の人間を支障させた上に社会的に脂肪」なら前者の方がマシな気もするがなあ。
9. 匿名処理班
過失の大きい方に責任取らせるほうが正しいのでは？
10. 匿名処理班
この設問のように「突然道路に歩行者が飛び出してきた」状態だと、そもそもの過失が歩行者にあるようなので、ドライバーサイドの自己犠牲を要求されるのは理不尽に感じる。ただ絵にあるように「横断歩道上に歩行者が(ry」だと、人がいない横断歩道であっても近付けば減速していつでも止まれるように自動運転を設定していない点がそもそもおかしいと、少なくとも日本では感じられる。
むしろ自動運転化する事で、不幸にして事故が起きる際の過失割合に応じた運転が為される事を望む…かな。この場合なら、飛び出しが事故の何秒前だったか、車のスピードはどれくらいだったか、などが正確に記録された上での事故なら、今迄のように、ドライバーだけが一方的に非があるとされるのはおかしいのでは？と思われるパターンも救済されると思うし、無責任な親が幼児を放し飼いにしたり中高生が無謀な自転車走行をする事も無くなるのでは？
11. 匿名処理班
突っ込むか避けるかしかないとき（ブレーキで避けきれないとき）に常に人的被害を最小限にする完全な正解を出せる日なんて来ないんじゃないの？
例で言えば避けた先が対抗車線高速道路で玉突き衝突とかガソリンスタンドに突っ込んで大爆発とかよけたせいでより被害が大きくなるようなことを緊急時に判断してくれるようになるとは思えない
思えない以上この議論はいまんとこただの頭の体操以上の問題提起にはならない気がするし、目の前に人が飛び出してきても最善は常に可能な限り減速しながら直進するが正解だと思う
12. 匿名処理班
買った自分が死ぬ選択をする車なんて、誰も買わないだろ
最大限にブレーキかけて間に合わないならしょうがないだろ
この例でいえば歩行者がなぜ歩いてるか疑問だがそこが問題だ
13. 匿名処理班
自動運転なら搭乗者に過失はないでしょ。そんなタイミングで飛び出す方が悪いとしか思えない。
14. 匿名処理班
射出してパラシュートでええやん
15. 匿名処理班
人間が運転してたら、飛び出し！回避！なんだろうけど…
周りが見えてたらまた違うんかな
16. 匿名処理班
自分の命に決まってんだろ不特定多数の命なぞ知るか
17. 匿名処理班
自動運転になれば車が交通規則を違反することは無くなるのでは？
その前提に立てば明らかに過失のある歩行者より、自身の身の安全を優先してもよいと思う。
18. 匿名処理班
条件がざっくりしてるから答えづらいけど、自分だったら2番かな？
だって自動運転するような最近/未来のクルマにはエアバッグついてるでしょ。
シートベルトもしてるだろうし。
19. 匿名処理班
自分大事な人には、自損のみの方が後々自分が困らないって説明をしてやれ
気持ちの問題で動かない奴には金の問題を突きつけてやるんだ
20. 匿名処理班
そもそも歩行者が飛び出してきたなら、ひき殺しても不起訴になる可能性が高いよね
21. 匿名処理班
現行法では突っ込んでも自分を守ることにならんよな
22. 匿名処理班
フェンスを選ぶ車には、ここ一番で嘘つく機能もつけとけよ
「私がこうしていなければあの10人は死んでいました。97％の確率で」
「え、100パーじゃねえのかよ……」
「10人ともかすり傷で済むルートも一応ありました。0.002％くらい」
「だったらそれチャレンジしとけよ……ガクッ」
こういう死に方可哀想だろ
23. 匿名処理班
今までよりもさらに安全で高速なWindows10にアップデートしていれば助かったのに・・・
24. 匿名処理班
搭乗者の命を最大限守りつつ回避はできんのか？
コンピュータが察知できない距離に
そういう一団が急に現れて
かつ避けきれないケースって
そもそもスピード出過ぎじゃなかろうか…
25. 匿名処理班
そりゃまあ
「万一の時はあなたに死んでもらいます」とか明言する車には乗りたくないだろうな…
※1
そういった予定はしばらくありません
当面はクリアな音でお話しできる携帯をお楽しみください
26. 匿名処理班
残された家族への負担が少ない方を選ぶ。
運転手本人だけで済む話じゃないし、被害者が少ない方で諦めるしかない。
責められるのは運転手だけじゃないし、自分だけじゃなく家族も社会的に責められる。
いっそ辛い目に合うなら家族を守る事も含めて最小限にかな。
27. 匿名処理班
2022年東京。自動運転車が歩行者を避けるために塀に突っ込み搭乗者が死亡する事故が発生した。保険会社に勤める富山は事故の調査中に歩行者の3人は搭乗者にうらみを持っていたことを知ってしまう。そして3人の魔の手は富山の家族に…
本年度施行された自動運転車安全法案に一石を投じるミステリー！ みたいなものを妄想した。
28.
29. 匿名処理班
>>9
その通り
まず現行の歪んだ法制度を見直すのが先だよ
30.
31. 匿名処理班
何の関係もなく突っ込まれて被害に合う歩行者と、車を走らせている運転者および同乗者、
どっちが責任を負うべきかといったら・・・後者だろうか。
ただし、当たり屋だとか突然飛び出して来やがったという場合は車が被害者になるわけで、
難しいところかもしれない。
32. 匿名処理班
日本の交通って高速で行くことよりも確実に止められる
ことを大前提で作るのでこのような選択が発生以前に
渋滞を想定した距離で走ったり、確実に止められる
ブレーキ開発を先にやるかもね
33. 匿名処理班
不特定多数優先はマズイだろ
考え方によっちゃ、集団で車の前に出れば搭乗者へ合法的に危害を加えることが出来ることになるんだぞ
人間の運転でも、やむをえない場合なら他者を犠牲にする自己防衛が法的に認められてるんだし
いざってときに頼りにならない道具を買うヤツはいない
迷うまでもない話題だよ
34. 匿名処理班
安全装置がこれでもかってくらい取り付けられるだろうから
そこまでシビアな二者選択は起こらないとは思う
車外に取り付ける用のエアバッグってもうあるしな
35. 匿名処理班
両方守っても別に構わんのだろう？
36. 匿名処理班
※11
その出せない解答を自動運転車の制作者は出さないといけない状況になってきているんだよ。
37. 匿名処理班
マイケル・サンデルみたいなこと言ってもう
38. 匿名処理班
運転者を故意に殺傷するための妨害行為はどう防ぐのかね？
合法的な殺人の道具を提供するだけでしょ。
39. 射出座席を装備せよ
その設問の設定なら、横断歩道前は一旦停止やろ
自動車と人間が闘かって人間が勝てるわけないやろ
40. 匿名処理班
くっつけちゃえばよくね？
41. 匿名処理班
※35
すてき！！抱いて！！
42. 匿名処理班
問題は、誰が責任を負うのか？だろうね。
人間が運転してる場合は、運転者がどの判断を行ったかについては、その本人が負う。
自動運転で深刻な加害事故を起した場合、所有者なのかメーカーなのか？
どっちになっても理不尽な気がするｗ
この場合、壁に突っ込むにしても、大勢の人に突っ込むにしても、その責任は誰が負うんだろうか？そこに問題があるように思う。
43. 匿名処理班
急ブレーキ＋クラクションで直進が正解。
ハンドルで避けようとすると被害が大きくなることがある。
ハンドルで避けようとして、全く関係ない人を巻き込んだりしてるじゃん。
44. 匿名処理班
運転手の命を優先しながらも、歩行者に被害が出ないよう、最善の方法を人口知能に考えさせるようにする。
例えば、歩行者の列へ突っ込まないように選択しながらも、壁に激突する際のスピードや安全装置の使用などを、瞬時に判断し、最善の方法で人命を守ることを選択できるように、人口知能に教えておく。
45. 匿名処理班
一人はみんなのために！
46. 匿名処理班
このアンケート考えた学者をSAWみたいな状況においてみたい
47. 匿名処理班
運転者のワイの操作を裏切る可能性があるなら要らないな
道路を舞うレジ袋を誤認識してI Can Fly ! されたら死んでも死にきれないぜ
48. 匿名処理班
混沌の中を自動で走らせようとするから問題起きるの当然だよね。
現状でも事故起きてるのに、歩行者と車両を完全に分離出来てからgoサイン出せばいいのに。
49. 匿名処理班
この手のは言い争うための問題だからルールがガバガバなんだよ。
1か2じゃないといけないってどこにも書かれてないから3の「どちらも救う」で。
50. 匿名処理班
まずはコンピュータ上で全てのシミュレーション、かなぁ。
で、どのくらい事故が起きるか。
人間の方が理不尽だろうけど。
51. 匿名処理班
その場だけの倫理ならなるべく多くの命助けるべきだとは思うけど・・・
多数の歩行者を守って搭乗者を見捨てるAIにすると、複数人で結託したら自動運転の車で合法的に搭乗者を殺せることになる。
搭乗者の安全最優先、というルールにしておけばたとえ複数死のうが自動運転の前に出てくる歩行者の過失になるのでは。
搭乗者が安全が脅かされない限り歩行者の安全に最大限配慮する。
52. 匿名処理班
矛盾じゃないじゃん、自分に都合のいい考え方なんだから至極普通の結論だろ
それにさw
自分でブレーキ踏まんかいボケェ、機械を盲信して責任回避しようとしても世の中許すわけねーだろアホンダラw
53. 匿名処理班
人が急に現れるかもしれない状況で、ブレーキも間に合わず、避ければ搭乗者が死ぬほどの速度で走ってるの？
怪我とか車の破損はともかく、搭乗者と歩行者の命を二者択一で選択しないといけない状況って時点で変な感じ。
54. 匿名処理班
※6
キット！ターボブーストだ！
55. 匿名処理班
画像のケースだと「横断歩道を横断中の歩行者10人」との比較だから、塀でも堀でも勝手に突っ込んで自爆してろって答えが正解だな。
というか自動運転なら歩道の歩行者を注視して不審な動きがあれば徐行して警戒するぐらいじゃないとダメだろ。
人間ならちょっとした仕草や状況からの予測が出来るけど、自動運転はそこまで賢くないんだから。
56. 匿名処理班
というか自動運転の話が既にここまで来てることに驚いている
国家規模で取り組んでたりするからいつかは必ず実現するんだろうけど、
正直もっと遠い未来の話だと思ってた
いつの間にかこんな現実的なレベルにまでなってて感覚的に少し追いつけていない自分がいる
57. 匿名処理班
柔らか自動車の計画ってあったよね
58. 匿名処理班
クルマの前方にもエアバッグ付くかな？
59. 匿名処理班
自動運転によって
人を轢いた場合
→運転手が起訴される可能性
自分の犠牲を選んだ場合
→自動車会社が起訴される可能性
60. 匿名処理班
なんか一部コメントに誤解があるようだけど、問題は…
「人命被害を最小限にするべきである。ただし他人の所有する自動運転車に限る。自分の自動運転車には自分を守ってもらいたい」
この部分。
二択になった時に、人のクルマには自己犠牲を求め、自分のクルマには自分を守るよう求めるっていう人間の矛盾をどうするのってこと。
61. 匿名処理班
法律でクレイジーホップ機能を義務化すればいい。
62. 匿名処理班
＞ドライバーの命優先か？それとも歩行者の命優先か？
歩行者の命優先だよ。
もし、ドライバーの命優先でドライバーが助かったとすると、その後は、死傷した歩行者への賠償裁判に長い人生を費やすことになる。
果たして、ドライバーは、歩行者の命を犠牲にしても生きていくほど有意義な人生を歩むことができるだろうか。
63. 匿名処理班
日本の場合は歩行者優先の考えが強いから塀にぶつけるほうを選びそう
64. 匿名処理班
例えば信号機が故障やハッキングで両側青になってた場合だったらどうだろうか？
65. 匿名処理班
人間が利用する限りにおいて、事故は絶対になくならないことは断言できる
ただ、事故を減らすことは可能だと考えている
66. 匿名処理班
※37
モラル・道徳といった判断を誰がとるのか? コンピューター? プログラマー?
これは自動運転車の技術を問う話ではなく、モラルとは何なのか?誰のものなのか?を問うているのですね。
そうなると政府によるメーカーやプログラムへの法規制があっても、万人に同意を得るのは不可能ですね。
搭乗者が自分の場合もあれば、歩行者が自分の場合もあるし、搭乗者が自分で、かつ歩行者が自分の嫁や子供の場合もある。
67. 匿名処理班
ともあれV.I.P仕様は大勢を犠牲にするプログラム組むんだろ。１９号は無論、中国の共産党幹部とか、プーチン様の親族とかさ。
68. 匿名処理班
こんな時のためのランダム変数
69. 匿名処理班
歩道と車道を完全分離、どんな事情があろうと相手の領域に侵入したほうが悪い、
って決まりにしちゃえばスッキリ。
車だけじゃなく道路から作り直す必要があるな。
70. 匿名処理班
この図なら壁に横から擦り当てしたほうが
71. 匿名処理班
そもそも自動運転ならドライバーが死ぬような速度を出すなと言いたい。
72. 匿名処理班
トロッコ問題ですな
73. 匿名処理班
誰かも言ってたけど 保険の問題もあるよね。
自分が運転してない事故の賠償する気になる？保険会社は事故を避けられなかった車を作ったメーカーに請求書を回しそうだし。
なんかAI一番安く済むぶつかりかたをしそう。
74. 匿名処理班
もちろんフェンスにぶつかる方を選んで、ぶつかる直前に乗客は車の天井を突き破って飛び出てくる。
75. 匿名処理班
道路交通法では「速度ゼロにしないのが悪い」だからね。
その場で地面に杭打ち付けてでも停止する仕組みが要るよ
76. 匿名処理班
当然自分が助からなきゃ意味がない。そのためのオートメーションなんだから。
77. 匿名処理班
※3
止まろうとしてもどうしても間に合わない時にどうすべきかを考えましょうって事だ。
この例だって、道路の両側に人がいたらどうするのか？
路面が凍結してて横断歩道に突っ込むしかできない時にどうするのか？
塀が脆くて運動エネルギー減らないまま母屋に衝突、倒壊する可能性もあるのでは？
止まるのは当たり前
78. 匿名処理班
対向車線から車突っ込んで来たら怖いし自分を守ってくれる車に決まってる
79. 匿名処理班
※69
なお、法律の策定、都市計画そのものの見直し、ライフラインのルート変更等、単なる道路作り直しだけではすまない、種々の難問が山積する模様
80. 匿名処理班
車に装甲をつけて多少の衝撃ではダメージを受けないようにすればいい
一方ロシアは戦車を自動運転にした
81. 匿名処理班
トップギアのジェレミーが似たようなことを言ってた。歩行者を避けようとした先に歩行者がいたら、車は殺す人を選ぶと。