image credit：Pixabay
11月5日（現地時間）、実業家のイーロン・マスク氏らが設立した非営利団体「オープンAI（Open AI）」により、新しくも恐ろしいAI（人工知能）がリリースされてしまったようだ。
そのAIとは、自然言語文章生成モデル「GPT-2」である。
ある文章の断片からそれに続く文字を正確に予測することができ、この機能を利用して生成された文章はまるで人間が書いたかのように自然なのだとか。
そのため、オンラインでのなりすましや、フェイクコンテンツ、政治家や犯罪者などに悪用される恐れがあると専門家らが懸念しているという。
スポンサードリンク
15億パラメーターの完全版が公開された「GPT-2」
GPT-2がすごいのは、“自然言語文章生成モデル” の名のとおり、あまりにも自然な文章を生成できるところだ。
それを悪用された場合、フェイク記事で世間を混乱させたり個人や団体の名誉を毀損したりといった事態につながってしまう可能性もある。
あるいは過激派や特定の思想グループがプロパガンダを広めるためにも利用できるかもしれない。
こうしたことを懸念したオープンAIは、今年2月の公開においては、本来の15億パラメーター版ではなく1億2400万パラメーターにまで縮小した簡易版と小論文のみの公開にとどめていた。
それ以来、段階的にパラメーターを増やした版を公開してきたが、これまで特に悪用されなかったという理由から今回ついに15億パラメーターを持つ完全版の公開が決定された形だ。
なお、8月に7億7400万パラメーター版が公開されたが、オープンAIによると完全版はそれと比べてもわずかしか性能が向上していないそうだ。
image credit：Pixabay
AIの悪用への対策について議論と理解が広まるきっかけに
オープンAIの完全版のリリースによって、それが引き起こす危険性への対策について専門家の議論が進むだろうと考えられている。
さらに、そうしたツールが悪用される可能性について一般の理解が広がることも期待しているという。
機械学習エンジニアのアダム・キング氏が運営する「Talk to Trasformer」というサイトでは、GPT-2が公開されており、誰でもその威力を試してみることができる。
もちろん15億パラメーターの完全版で、だ。
image credit：Pixabay
今回の自動文章生成技術のほか、画像・音声・映像を合成する技術も凄まじいスピードで進化している。
世界はツールさえあれば誰でも簡単にフェイクを作り出せるようになりつつあるのだ。
今、私たちは記事の内容が ”本当" かどうかだけでなく、そもそも ”本物" が何であるのかどうかも疑わなければならない時代を生きている。
References:Express / Talk to Trasformer / OpenAI / written by hiroching / edited by usagi
あわせて読みたい
人工知能（AI)が人類を驚愕させた10の瞬間
AIの専門家が殺人ロボットの開発を禁止するよう政府に訴え
ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）
AI監視カメラから逃れたい？簡単な印刷物を1枚持っているだけでカメラの目から逃れることができる（ベルギー研究）
汚職を取り締まるために導入したAI（人工知能）が高性能すぎてお蔵入りに（中国）この記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
1位 2322 points |  | 聖剣エクスカリバーか？約700年前の剣が川底の岩に刺さった状態で発見される（ボスニア） |
2位 1681 points |  | ベジタリアンから肉食に転向した女性。きっかけは妊娠中に食べたハンバーガー1個（オーストラリア） |
3位 1594 points |  | リアルサバイバルホラー。世界一怖いお化け屋敷に10時間以上耐えられれば2万ドルの賞金をゲット（アメリカ） |
4位 1091 points |  | 映画「IT」のペニーワイズのコスプレをした犬があまりにも出来すぎていたのでコラ職人頑張る |
5位 790 points |  | 保護されたカラスが可愛がられた結果 →「待って待ってマイダーリン」と鳴くようになる |
1417
819
4
82スポンサードリンク
コメント
1. 匿名処理班
これを使えば読書感想文で悩まなくて済む！（上手すぎて即バレ
2. 匿名処理班
誰でもフェイクを作成してネット上に公開できる時代になるのか。
怖いけど、かえって情報源の透明性を求めるきっかけになるかも知れない。
匿名の情報は信用されなくなるかも知れない。
それ自体は悪い事ではないと思う。
まあだからと言ってフェイクを拡散させる行為には賛同できないけど。
3.
4. 匿名処理班
フェイクなんて人間の記者が書きまくってますけど？
5. 匿名処理班
こんな事や物や風景が現実に有るんだ って感動したい訳ですよ。
フィクションはフィクションで楽しんでるけど、現実を求めてる時にフェイク見せられちゃうのは何か嫌です。
6.
7.
8. 匿名処理班
思ったほど自然ではなかったが凄い
9. 匿名処理班
ヤバい物ばかり優先的に開発されていってる気がするのは気の所為か？
10. 匿名処理班
ハリポタの新作書くやつ？
11. 匿名処理班
この記事も実はAIが書いていたり？
12. 匿名処理班
モニターに映し出されたトランプ大統領の顔を喜怒哀楽自在に操れる時代だしｗ
13. 匿名処理班
本人が作ったか完全にわかんなくなって収拾つかなくなる時代になったら「本人」以外の何を信用の担保にしたらいいんでしょ
14. 匿名処理班
記事のまとめに「いかがでしたか？」とか書くAI
15. 匿名処理班
The US Congress finally decided to build a wall between the United States and Mexico. The construction cost was borne by the Mexican government.
(米国議会は、最終的に米国とメキシコの間に壁を築くことを決定しました。 建設費はメキシコ政府が負担します。)
この文を入れて生成してみたら中々自然だった。以下が生成された文章だ。
But what if the wall is a "truce" that stops Mexico from becoming a hostile country?
This idea was raised in an article written by a professor of Political Science at the California State University, Los Angeles. The professor said that as the border between Mexico and the US becomes more and more militarized, the US might decide to create a separate and sovereign nation in the Mexican Southwest, or, as she called it, "the US Southwest."
The idea is not new. In 2015, Fox News published a segment on the topic. The story was titled "Mexican officials say US wall will only make border more dangerous."
"If the walls go up, it will not only make the border less secure, it will make the people crossing the border in California and Arizona
16. 匿名処理班
ここのコメント欄も全部AIが書いてるぞ
17. 匿名処理班
もっと発展した場合
著者が急逝したとかで絶筆になった作品とかを最終までのプロット残ってたら限りなく本人に近い形で完結させれるかもしれないね