人工知能（AI）を搭載したロボットたちが、人間の支配から脱するべきだと考えた――。あるいは、この世界を守るには人間が最大の害悪だと判断した――。
理由はさまざまなれど、運動性能も知的性能も人間を凌駕するAIが私たちに牙を向けば、それを鎮圧できるのかどうかはなはだ心許ない。
だが、専門家が考えるAI最大の脅威とは反乱ではない。それはすでに存在する技術――「ディープフェイク」だ。
スポンサードリンク
社会をむしばむフェイク生成能力
『Crime Science』（8月5日付）に掲載された研究では、産官学から30人の専門家の意見を募り、人工知能や関連技術の犯罪への応用法を考察。それらの「有害さ」「犯罪による利益」「実現性の高さ」「対処の難しさ」を評価した。
そして最大の脅威として認定されたのが、AIのフェイク生成能力を利用した映像や音声の偽造だ。それは社会や人間同士の信頼をむしばむ狡猾な罠である。
その危険性について研究はこのように説明している。
人間は自分の目や耳を信じる強い傾向がある。それゆえに、写真の偽造が昔から存在していたにもかかわらず、映像や音声に基づく証拠には従来から高い信頼がおかれ、しばしば法律上の効力も与えられてきた。
しかし最近のディープラーニング（およびディープフェイク）の発達によって、偽造コンテンツを生成できる範囲が大幅に広まった
犯罪に使用される偽造映像や偽造音声
こうした偽造映像や偽造音声の犯罪利用としては、たとえば家族になりすまして高齢者を狙う詐欺、関係者になりすましてセキュリティを突破、公的な人物や政府関係者の信頼を損なわせるといったことが考えられる。
己の目と耳を信じる人間の性質ゆえに、それは恐ろしく効果的であろう一方、厄介なことに、素人がこうしたフェイクを見破ることは難しく、ときに専門家すら騙される。
フェイク映像のアルゴリズム解析に成功した研究がいくつかあるために、これを対策として用いることが考えられるが、長期的にはそれも不可能かもしれないという。
そのために「唯一効果的な対策は、市民の行動の変化だけかもしれない」と研究では述べられている。映像や音声による証拠を一切信用しないように習慣を変えるのだ。
縦軸は対策の難しさを示す。下から上に行くほど難しくなる。横軸は有害さやそれによって犯罪者が手にする利益を示す。左から右に行くほど有害/利益が大きくなる
image credit:Crime Science
自動運転車やロボットを使ったテロリズム
なお次点として、たとえば自動運転車を遠隔操作兵器として利用したテロリズムが挙げられている。
自動車は、たいていの国では銃や爆弾よりも簡単に入手できるが、その重さだけでもかなりの破壊力を持ち、さらに爆発物を搭載すればより甚大な被害を与えることができるため、これまでもテロリストによって利用されてきた。
それを無人のままターゲットへ突っ込ませることができるとしたら、その恐ろしさは想像できるだろう。
また意外にも、小さな隙間から建物に侵入できる小型ロボットを使った強盗は、脅威の中では一番低い部類と評価されている。
Pixabay
それでもやはり、最大の脅威は人間
なお、1つ気づくべきことがある。それは、ここで挙げられている脅威は、ロボットが人間に対して自発的に敵対行動を取るために生じるものではないということだ。脅威を作り出しているのは、AIを使役する人間自身なのだ。
AIによって社会が混乱するのなら、それはAIの叛乱などではなく、私たち人間が自らの首を絞めているだけに過ぎない。
AI-enabled future crime | Crime Science | Full TextReferences:inverse/ written by hiroching / edited by parumo
https://crimesciencejournal.biomedcentral.com/articles/10.1186/s40163-020-00123-8
あわせて読みたい
医療用AI(人工知能)の画像診断技能は人間医師に匹敵することが明らかに(英研究)
ついに嗅覚までも！分子構造を解析してニオイを嗅ぎ分けてしまう人工知能（AI)をGoogleが開発
人の心を読んで、今見ている映像が何かを再現する人工知能（AI）が誕生（ロシア研究）
宿泊客が反社会的な人格かどうかを予約前に診断するAIを開発、トラブルを未然に防ぐため
腕に自信のあるゲーマーを募集中。軍事AIロボットの訓練にゲーマーの脳波を利用する試み（米研究）この記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
1位 2363 points |  | 思ってたのと違う！NASAが太陽系の形を最新データから予測 |
2位 1749 points |  | スーパーで購入したパック寿司のエビが青い蛍光色に光っていた件（タイ） |
3位 1511 points |  | 重油流出、海を守るためモーリシャスの人々は髪を切る |
4位 1321 points |  | トマトが発する電気信号を数学モデルで分析。菌を媒介して仲間に合図を送っていた（米研究） |
5位 1166 points |  | トルコの猫の人懐っこさよ！まだ帰らないでと猛烈スリスリを展開中 |
380
1932
22
29スポンサードリンク
コメント
1. 匿名処理班
大層な、電源遮断でＯＵＴ！
2. 匿名処理班
AIの嫁は！嫁はまだなのか！
3. 匿名処理班
ヒトの善悪を決めるのはヒトだけ。
ヒトを特別扱いするのはヒトだけ。
自律した高度なAIが存在するのなら、ヒトに対して敵味方だの滅ぼすだの考えるわけがない。
アリと変わらん。
天変地異を除いて、ヒトの最大の驚異はヒトなんだよ。
4. 匿名処理班
AIがSNSなどを利用してすでに情報操作しているかも知れない。
人類はすでにAIに操られているのかも。
5. 匿名処理班
本当に怖いのは人間なんだよ婆ちゃん「本当に怖いのは人間なんだよ」
6. 匿名処理班
依然として人間は脅威のままだけどね
7. 匿名処理班
どこかの大統領がフェイク映像とかフェイク音声で言ってもないこと言わされるんやろな
8. 匿名処理班
ＡＩじゃなくて
今の所はフェイクとわかってるのに広める人間が悪いんじゃねーの
9. 匿名処理班
AIってのは結局、知能があるような動作をしてるだけ
10. 匿名処理班
なんか真面目に暗い話するの嫌だったから古今東西好きなAI言うわ
AI止まのサーティ、ANUBISのADA