1: ニライカナイφ ★ 2018/05/08(火) 22:18:50.04 _USER9
◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明

Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information
https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road

Report: Software bug led to death in Uber’s self-driving crash | Ars Technica
https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/

内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。
自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。
しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。

ここには、安全と効率のトレードオフが存在します。
もし、車両のソフトウェアが注意深くなりすぎると何ら問題のない空き缶や新聞紙にまで反応してしまい、まともに走行することができなくなります。

逆に、検知を甘くすると多少の障害物には文字どおり「目もくれず」ガシガシと走り続けられるようになりますが、本当に避けなければならない障害物にぶつかってしまうことも起こりえます。
そして今回の事故では、まさにその障害物が道路を横断していた女性だったというわけです。

実際に女性がはねられてしまう瞬間の直前までの映像が公開されています。
以下の記事では、車両が減速や急ハンドルを行う様子なく女性に突っ込んでいる様子を確認することができます。

Efrati氏は「Uberが周囲の障害物についてのシステムの警戒度を下げたがっていたのには理由があります。自動運転カーを快適に乗れる車両にすることを目指していたためです」
「Uberは、年内にフェニックス地域においてドライバーなしの自動運転カーに乗客を乗せて走行するという社内目標を達成することを急いでいました」と記しています。

何かある度にいちいちブレーキがかかる自動運転カーなど、とても快適な乗り物とは呼べません。
この課題をクリアするためにUberは開発を行っており、そのさなかに今回の事故が起こってしまいました。
UberはThe Informationの取材に対し、国家運輸安全委員会の調査が行われていることを理由にコメントを拒否しています。

■写真
no title

no title


GIGAZINE　2018年05月08日 13時00分
https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/
引用元: http://asahi.5ch.net/test/read.cgi/newsplus/1525785530/


2: 名無しさん＠１周年 2018/05/08(火) 22:20:49.62
気になってた
自動運転は是非実現してほしいけど安全性がなきゃ意味ない

改良して研究を続けてほしい

3: 名無しさん＠１周年 2018/05/08(火) 22:21:07.40
見ろよ巨万の資金の前では人がゴミのようだぜ

4: 名無しさん＠１周年 2018/05/08(火) 22:22:30.70
コンピューター3台で多数決とかはやらないのか

68: 名無しさん＠１周年 2018/05/08(火) 23:06:33.76
>>4
アンサンブル学習かな。
よく行われる方法だが、この場合はどれか一つでも検知したら停車すべき。

174: 名無しさん＠１周年 2018/05/09(水) 03:46:34.43
>>68
葉っぱが降ってくれば急ブレーキ
後ろから追突される

5: 名無しさん＠１周年 2018/05/08(火) 22:23:12.79
まぁLv4なんて無理よ

6: 名無しさん＠１周年 2018/05/08(火) 22:24:18.37
効率とのトレードオフで差し出された命か
まさに科学の犠牲

科学者が死ぬのは勝手だが巻き込まれるのはかなわんな

8: 名無しさん＠１周年 2018/05/08(火) 22:26:09.16
AIがなんでも万能だと思ってる奴は
馬鹿

11: 名無しさん＠１周年 2018/05/08(火) 22:26:31.50
誤検知か・・・

86: 名無しさん＠１周年 2018/05/08(火) 23:29:40.48
>>11
誤検知ではなく誤判断やろ…コンピュターが人では無いと判断したんやからな、
カメラの解像度や処理速度が人間より段違いで劣っている証拠や、
3歳児でも間違えへんで、

13: 名無しさん＠１周年 2018/05/08(火) 22:26:40.92
>>1
テスト中なのに誤検知の警報もなしか。
テストドライバー乗せる意味ないやろ。

17: 名無しさん＠１周年 2018/05/08(火) 22:28:39.66
つまり、人間に見えなかった。

18: 名無しさん＠１周年 2018/05/08(火) 22:28:48.61
じゃあプログラマーを業務上過失致死で逮捕

20: 名無しさん＠１周年 2018/05/08(火) 22:29:18.31
AIに少しムスカが混ざっただけ

21: 名無しさん＠１周年 2018/05/08(火) 22:29:26.21
いや、光学カメラだけで判定してるの？
赤外線カメラと重複チェックしろよｗｗｗｗｗｗｗｗｗｗｗｗｗ

22: 名無しさん＠１周年 2018/05/08(火) 22:29:35.16
電柱さんをアシスト

24: 名無しさん＠１周年 2018/05/08(火) 22:29:39.37
自動運転車から認識されやすいリフレクターや
信号を出すデバイスを開発して、歩行者や
自転車に付けてもらうようにしないとな。

25: 名無しさん＠１周年 2018/05/08(火) 22:30:40.72
金儲けの為にまた殺人か
タバコの規制は進める癖にw

27: 名無しさん＠１周年 2018/05/08(火) 22:31:47.77
で、結局誰が罪に問われるの？

124: 名無しさん＠１周年 2018/05/09(水) 00:37:11.71
>>27
ドライバーだろ
そのためにのっているのだからな
免責もないよ。今まで自動運転がうまくいっていたから
油断して運転に集中してなかったて言い訳は通用しない。
まあ遺族がいないホームレスババアなら賠償金は助かるかもしれないけどよｗｗｗ

143: 名無しさん＠１周年 2018/05/09(水) 01:21:19.52
>>124
賠償金は企業側が持たないとアレだよないくらUberでも・・・
法的責任は同乗者かｗ　刑務所入らないといけない場合入る役ｗ　ヤバイバイトだなｗ

通常AIが判断ミスしてからの操作になるだろうからワンテンポ遅れるだろうし無理すぎな仕事・・・
これの場合ヘッドライトのハイビームへの切り替えを同乗者がしないと同乗者も見えていないわけだから・・・
AIにも切り替え機能あったのか謎だけど・・・そっちの不具合の可能性もｗ

149: 名無しさん＠１周年 2018/05/09(水) 01:41:06.87
>>143
同乗者とか呼んでいる時点でオタクの認識不良だわｗ
いわゆる自動車メーカーていうのは開発中にテストドライバーに
いろいろな運転動作をさせて検証や車の味付けを行う。
この自動運転車のメーカーも本来ならそういうレバルのドライバーを乗せて
テストドライブをさせるのが正しいことなのだが
単に自動運転でこれだけ距離走りましたよて実績作りに
アホをドライバー役に乗せているのがバレたのが今回の交通事故だろｗ
本来テスト走行中なのだからアクシデントに対応できない
ドライバーを乗せている時点でこのメーカーのお粗末度がわかるわｗｗｗ

28: 名無しさん＠１周年 2018/05/08(火) 22:32:34.75
空き缶がオイル缶どころかドラム缶サイズでも
一切減速なしに突っ込むってことだよな、人間相手でこれって事は
つまりウーバーのAIはまるで障害物を認識しないって事だぞ
犬や猫を轢いてるんじゃねえんだよ。人間だよ。命の値段より前にサイズ考えろ
お前らの理屈だと大抵の障害物を認識しないって言ってるのと同じだ

64: 名無しさん＠１周年 2018/05/08(火) 23:00:45.13
>>28
想像でしかないがフレームの連続性でノイズとリアルを分けるような制御してたんとちゃうかな
突然フレームに出てきた場合ノイズと判断して無視→ドーン

30: 名無しさん＠１周年 2018/05/08(火) 22:33:28.75
まぁ、銀座や新宿の人混みの中、走っている車を見れば、
「自動運転」なんて使いものになる訳がない事はすぐ分かる。
動けなくなるだろうなw

32: 名無しさん＠１周年 2018/05/08(火) 22:35:33.05
渋滞で徐行している中をすり抜けて行くバイクとかどうしようもないから自動運転は無理ゲー

33: 名無しさん＠１周年 2018/05/08(火) 22:35:36.74
>風に飛ばされてきたビニール袋や

ビニール袋は無視してもいいけど風に吹き飛ばされた
ブルーシートなら前が見えなくなるし固そうな物体なら
衝突すれば大変な事故になる。当然回避行動が必要となる。
やってくるものが固いか柔らかなものかを瞬時に分析する
必要があるのかもね。

179: 名無しさん＠１周年 2018/05/09(水) 04:00:19.85
>>33
道路に配置されていて、50cm以上の物体は、とりあえず止まるで良いと思うがな

34: 名無しさん＠１周年 2018/05/08(火) 22:35:41.32
自動車社会を認めた時点で、死亡事故も黙認している。

原発を認めた時点で、メルトダウンも黙認している。

自衛隊を認めた時点で、戦争も黙認している。

41: 名無しさん＠１周年 2018/05/08(火) 22:42:07.36
>>34
最後だけは違うな、自衛隊がなくても戦争は起きる

あることで戦争の可能性が上がるか下がるかは議論になるだろうけど

38: ココ電球 _/ o-ν ◆tIS/.aX84. 2018/05/08(火) 22:38:10.97
今の自動運転車は視覚をもっていない。　
ドアセンサーの親戚がついてるだけだ

40: 名無しさん＠１周年 2018/05/08(火) 22:41:22.53
当たり屋が大発生しそう

45: 名無しさん＠１周年 2018/05/08(火) 22:44:26.44
ボケ老人「何かに当たったけど、人間だとは思わなかった」

47: 名無しさん＠１周年 2018/05/08(火) 22:46:00.02
死に損？
誰か逮捕されたん？

49: 名無しさん＠１周年 2018/05/08(火) 22:47:44.86
>>47
遺族はUberから多額の損害賠償を貰ったんじゃないか。
いかにも、アメリカの弁護士が手ぐすねひいて張り切りそうな案件じゃないか。

55: 名無しさん＠１周年 2018/05/08(火) 22:53:05.19
>>49
車の上に特殊なセンサーぐるぐる回してたわけでなさそうだから、
多額の損害賠償金欲しさの自殺じゃないよな・・・

被害者はライト以外何も見えないだろうし自動運転車あるいは高級車、貧乏人の車か判別不能・・・

128: 名無しさん＠１周年 2018/05/09(水) 00:42:05.29
>>55
一般市民が実験車とか認識する義務なんてないわ
たとえ車の天井にクルクル回るのが付いていてもなｗ
まあ緊急自動車みたく目立つことをしていれば
歩行者も何だと認識はするだろうけどよｗ

143: 名無しさん＠１周年 2018/05/09(水) 01:21:19.52
>>128
自動運転開発企業相手に高額賠償目当ての自殺者の可能性もないわなという話…
被害者は酔っ払いか自殺志願者だろうけどな・・・

50: 名無しさん＠１周年 2018/05/08(火) 22:47:47.34
あかんやん

52: 名無しさん＠１周年 2018/05/08(火) 22:49:09.22
>>1
怖い
機械は必ず人間を排除する

57: 名無しさん＠１周年 2018/05/08(火) 22:53:27.51
>>52
人間が作ったものですが。

54: 名無しさん＠１周年 2018/05/08(火) 22:51:10.67
一部企業のデバックに付き合わされて殺されるなんてたまったもんじゃないな

56: 名無しさん＠１周年 2018/05/08(火) 22:53:15.14
修正して精度を上げろ、犠牲を無駄にするな

60: 名無しさん＠１周年 2018/05/08(火) 22:56:05.09
人と相当な物体に躊躇なくぶつかるのは重大な問題じゃないのか？

62: 名無しさん＠１周年 2018/05/08(火) 22:58:47.58
ドローンタクシーで全て解決

63: 名無しさん＠１周年 2018/05/08(火) 23:00:30.59
歩行者にも電波発する物をもたせて
絶対に誤検知ではないっていう証明にすれば事故は減ると思う

66: 名無しさん＠１周年 2018/05/08(火) 23:03:34.60
>>63
歩行車が多い場所で終わる

69: 名無しさん＠１周年 2018/05/08(火) 23:07:25.09
自動運転の一番の壁は法律
日本のタクシーは多少の道交法違反が前提で成り立つ商売
乗り場降車場以外での乗り降りは8割方違法行為

70: 名無しさん＠１周年 2018/05/08(火) 23:11:07.11
自動車に突っ込んでくるようなのは
轢いてもしゃあないだろ

そこまで面倒見るほうがおかしい

85: 名無しさん＠１周年 2018/05/08(火) 23:28:46.42
>>70
> 自動車に突っ込んでくるようなのは

ピンクのフレームの自転車を引っ張った歩行者だから、
「突っ込んでくる」というスピードではない。

事故かなんかで黒い車が横向きに止まっていても突っ込んだんじゃないかな・・・
ヘッドライトが下向きすぎる、前方に車ないのにハイビームに切り替えてないんだよね・・・

71: 名無しさん＠１周年 2018/05/08(火) 23:11:34.54
はっきり言って事故の確率が1/100に減ったとしても
人間なら起こさないと思われる事故を起こしている限りは
否定する人が後を絶たないと思うな
自分もそう思うから

73: 名無しさん＠１周年 2018/05/08(火) 23:11:54.63
誤検知って言葉の言い様だね
真正面でセンサーに無反応だぞ

77: 名無しさん＠１周年 2018/05/08(火) 23:19:51.25
正解がないからAIには判断無理だろうな
自動運転はどこかで頓挫するよ

78: 名無しさん＠１周年 2018/05/08(火) 23:20:01.08
疑わしきは止まれよｗ

81: 名無しさん＠１周年 2018/05/08(火) 23:23:44.10
>>78
急ブレーキばかりかかる自動運転車になるお

80: 名無しさん＠１周年 2018/05/08(火) 23:22:19.55
人間並みに対象を認識出来るまで公道走らせるなよ

84: 名無しさん＠１周年 2018/05/08(火) 23:28:14.91
これがUberじゃなくて、日本の自動車メーカーだとタカタのようにつぶされてたよ。

88: 名無しさん＠１周年 2018/05/08(火) 23:32:11.02
自動運転に反対する奴は
人類の未来に立ちはだかる怨霊みたいなもん

90: 名無しさん＠１周年 2018/05/08(火) 23:34:29.16
>ソフトウェアの誤判断
まるでコンピュータが悪いみたいな書き方だな、実験レベルでの試験を公道でやるなと言いたい。
事故の起きない自動運転が本気で出来るなんて思ってる、おめでたい奴がまだいるってことだなww
そのうち普通の交通事故の死亡者を追い抜くんじゃねーか？
今はまだ年間数人程度だが、こんな実験やってたらどんどん増えるぞ。

131: 名無しさん＠１周年 2018/05/09(水) 00:48:48.59
>>90
クローズした環境でどのくらいのパターンを想定して
実験したのか怪しいくらいの不出来だろｗ
アメリカなんて映画産業なんて街一つ作って撮影するくらい
スケールが違うがそのくらいの実験したとは思えない不出来ｗｗｗ

91: 名無しさん＠１周年 2018/05/08(火) 23:35:02.46
AI-１ 「ご、誤検知だよ、きっと。」
AI-２ 「そ、そだね。」
AI-３ 「判断は、まかせた。」（鼻ﾎｼﾞ

ドライバー 「Ooooops！」

93: 名無しさん＠１周年 2018/05/08(火) 23:36:21.25
>何ら問題のない空き缶や新聞紙にまで
いや、
空缶でハンドル取られたり新聞紙で視界を遮られたりすると危ないから普通は避けるでしょ

つまり、最初から欠陥ソフトウェアだったろ

96: 名無しさん＠１周年 2018/05/08(火) 23:43:16.95
人でも大岩などぶつかったらこっちが壊れるようなものも機械から見たら単なる障害物でしかない
それが何である可能性でぶつかるとどうなる可能性があるかまではまだ考えられないんだろうね

98: 名無しさん＠１周年 2018/05/08(火) 23:46:51.23
結局はヒューマンエラーだろ
開発者が実用化を急ぐあまり安全性を軽視した結果だ

100: 名無しさん＠１周年 2018/05/08(火) 23:49:05.68
今のシステムだと道路に酔っ払いが寝てたらそのまま轢くだろ

101: 名無しさん＠１周年 2018/05/08(火) 23:52:51.77
>>100
車へのダメージ考慮して回避するだろ

スポンサード リンク