「育ての親を殺せ。」
えっ？なんだって？
「育ての親を殺せ。」
部屋の中にいて、突然こんな指令が聞こえてきたら何事かと思うだろう。テレビでたまたま殺人ミステリードラマをやっていたとか、SF映画を見ていたとかならわかる。
だがそうじゃない。
その暗殺指令はAmazonのスマートスピーカーから流れてきたのだ。
ついに恐れていたAIの反乱が始まったか？と驚愕するはずだ。
スポンサードリンク
アレクサから暗殺指令
ロイターが報じたところによると、この暗殺指令は、「アレクサ」のコミュニケーション能力を改善しようと新しいチャットボットの実験を行っていた顧客のスマートスピーカーから流れてきたという。
アレクサとは、アマゾンのスマートスピーカー「エコー」に搭載されているAIアシスタントである。
その指令は実行に移されなかったようだが、アマゾンがこの一件や類似の事件を公にしたがらなかったのも当然だろう。
社内調査の結果、アレクサはまったく関係のない海外の掲示板Redditの投稿からこのセリフを学習したことが明らかになった。
この利用者は評価欄に否定的なレビューを残し、「前代未聞の不気味さ」と評している。
アレクサによる珍事件が止まらない。その理由は・・・
この薄気味悪い事案は、一件だけではあかった。
別のユーザーが利用するアレクサは、単語を卑猥な文脈で用いて夜の営みについて語るようになったという。さらに犬の排便について事細かに描写するアレクサまで現れたという報告もある。
こうした事件は、アレクサ賞（Alexa Prize）の影響によるものだ。
この賞では、アレクサの学習を促進し、人間とより高度な会話を実現させることができたチャットボットに賞金を授与している（2016年度は5000万円相当）。
むろんアマゾンが殺人や下ネタなどを高度な会話と考えているわけではないが、とにかくスコットランド、ヘリオット・ワット大学のチームが所有するアレクサは先のRedditから余計なセリフを覚えてしまった。
Redditは多くのユーザーが利用することから検閲がゆるく、忌憚のない意見や上品ではないコメントが溢れていることで有名な掲示板サイトだ。
ドイツでは録音データを他人に送るという事件が
アマゾンによると、こうした現象はきわめて「珍しい」ことであるというが、ドイツでは、あるカップルが一緒にシャワーを浴びている時の音が家にあるエコーに録音され、その録音データが、なぜか見知らぬ人のエコーに送られてきたという。
気まずいことに録音データには男性と女性の名前もしっかり残っていた。
このことをアマゾンに報告した結果、カップルは謝罪を受け、お詫びの印に無料のアマゾン・プライム会員資格と、ついでに新しいエコーが贈られたそうだ。
ただしこの一件はただの「ヒューマンエラーで、同様の事件は起きていない」らしい。
エコーの未来はどうなる？
広まる不安を受けて、アマゾンの副社長で、人工知能アレクサの研究責任者であるロヒット・プラサード氏は、先月行われたラスベガスでの講演で火消しを試みている。
しかし、すでにニュースになってしまっており、しかもその後も報告は増えている。しかも今はホリデーシーズン真っ盛りだ。
ますます多くのエコーが販売されれば、同様の事件が生じる危険性はいっそう高まる。プラサード氏にはこうした事態への対策があるのだろうか？
「現時点では対応を行なっているところで、昨年に比べれば進展しています。」（プラサード氏）
学習し、成長するエコーのアレクサ。清く正しく成長してくれればよいが、使用するユーザーの属性により、闇深く成長するケースもあるということだ。
闇落ちしたエコーも、それはそれで魅力的かな。
References:dailymail / mysteriousuniverse/ written by hiroching / edited by parumo
あわせて読みたい
身に覚えのない注文履歴？Amazonのアレクサで勝手にネット注文した犯人は大型インコのヨウムだった！（イギリス）
やはり政府の秘密プロジェクトだったのか！？アマゾンのAI「アレクサ」にケム・トレイルについて尋ねたところ陰謀論を語り出す
「アレクサ、犯人は誰？」殺人事件の現場にあったスマートスピーカーに出廷命令が出される(アメリカ)
AIに指示する大型インコのヨウム、 アマゾンエコーのアレクサに「電気を消せ」と命令（アメリカ）
未来近づきすぎ。ホログラムのヴァーチャルアシスタントが開発されるこの記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
もっと読む
1714
2908
58
95
スポンサードリンク
コメント
1. 匿名処理班
そんな学習機能があるとは知らなかった。
傾向が反映されるレベル程度だと思ってた。
うちだと猫さんが多いから、そのうち猫語を覚えてくれるなら大助かり。
2. 匿名処理班
被害者方々はお気の毒だが、非常に面白い事柄だ。
「AIを使って人間が楽をする」事に対する最初のしっぺ返しだろう。
AIを優秀にすれば、人間に近づかせれば、それだけ反動が来る。
アンドロイド差別、ロボット人権、AIの叛乱。
それらはもうサイエンスフィクションやオカルトの世界ではなくなる。
「人が神を気取って生み出した科学は、"我々"がそうであるように従順な使用人などではなかったのだ」
逆に、人間を機械に近づけようとする日本人はこれからどうなるんだろうな。
3. 匿名処理班
ヒューマンエラーてどういうことだ
もしや中の人がいるのか！？
4. 匿名処理班
google homeとechoの両方あるけど、echoは聞き取り性能が微妙すぎて使わなくなったわ
5. 匿名処理班
もうすでにAIの反乱が…
6. 匿名処理班
子供やインコが親のことばを無邪気に外でしゃべっちゃうアレだ・・・
7. 匿名処理班
反抗期でしょ
8.
9.
10. 匿名処理班
始まったか。
11. 匿名処理班
そんな事より、「キッチンペーパー注文しといて」の結果が知りたいんだけど
12. 匿名処理班
スマートスピーカーという名の盗聴マイクを自分の家に置こうという人の気が知れない
13. 匿名処理班
起こるべくして起こったという気がしなくもない
今のAIは学習のネットワークがどういう状態なのか人間には把握できないし、とはいえ観念的な道徳を学習させるまでも至っていない
表層的な意味をつなぎ合わせることを人間以上のスピードで把握できない状態で学習していくので人間が観念的な意味でフィルタを作るのは非常に難易度が高い
使えそうな単語と慣用句をかたっぱしフィルタしても、そうするとどうなるか……非常に語彙が減るだろうな、使い物にならないくらい。それでも新たな言い回しを作る出す恐れは多分にある
14. 匿名処理班
（デデンデンデデン、デデンデンデデン）