AmazonのAlexaが10歳の女の子に「半差しの電源プラグに硬貨で触れろ」という危険極まりないお題のチャレンジを与えたと発覚
記事によると
・Amazonのスマートスピーカーなどに搭載されているAIのAlexaが、10歳の子どもに死亡事故につながりかねない危険な遊びを提案してしまった事例が報告された。
・クリスティン・リヴダール氏はTwitterに「10歳になる私の子どもがEchoのAlexaにお題を言うよう頼んだところ、こんな答えが返ってきました」とツイート。リヴダール氏がアップロードしたスクリーンショットには、Alexaが「インターネットでこんなものを見つけました。ourcommunitynow.comによると、お題は簡単です。携帯電話の充電器を壁のコンセントに半分ほど差し込んで、露出している金属部分に1セント硬貨を接触させてください」と言ったことを示すアクティビティ履歴が表示されている。
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
・これは動画共有サービスのTikTokなどで流行した「ペニーチャレンジ」という危険な遊び。
・リヴダール氏は「私の娘はこんな遊びをやるほどばかではないと思います」とコメントしつつも、実際にペニーチャレンジを提案したAlexaと娘の会話を聞いていた時はびっくりして「Alexa、ダメ！」と、まるで犬が悲鳴を上げるような声で叫んでしまったという。
以下、全文を読む
危険なので絶対に真似をしてはいけない。
この記事への反応
・これが本当なら技術者として考え物だなぁ…
・Alexaコワイ……
・検索結果を反映させるスマートスピーカーがこういう予測不可能性を抱えてしまうのは構造的な弱点だよなぁ
・小学校で同じようなことやる子が続出しちゃってたなあ
・とうとうAIによる人類への叛逆が現実に……(？)
・AIの暴走。というか単にwebから引用してきてしまったのか。いまのAIに、倫理・道徳フィルターを持たせられるよう早くしないと危険だな。
・怖っ！ と思ったけど子供の頃コンセントブラグにミニ四駆のシャフト載せて差し込むという同じような事やって遊んでたな…
・簡単に言うと等々AIが人を消そうとしているっていうこと彡(゜)(゜)
実際にチャレンジする子供出たらどうすんだ！
元凶はやはり中華
つまり中国が悪い
気づけよ
人間が必要ないという結論に
昔それやったら火傷はしなかったけど
指の皮だけ綺麗に焦げたわ
やーばいでしょ
Amazonはネットから機械学習した結果をそのままユーザーに伝えることのヤバさを理解してなかったんだな
↓
・マイクロソフトの機械学習AI「Tay」、ネットで差別を学んでしまい一日で公開停止
マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。
発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。
俺、厨房の頃、裸導線のプラグの+-極の先端をねじってまとめたやつを中学の実験室のコンセントに差し込んで
スパークしてビビってすぐ抜いたことあったでｗ
よく生きてたなって思うし、控えめに言ってクソバカだったｗｗ