ランキング1位の記事はAIが書いていた / Pixabay
それはちょっとした実験だった。あるアメリカの大学生が「GPT-3」という文章生成AIが作り出した記事をためしにブログに投稿してみたのだ。
それはまったくでたらめな記事だったのだが、それがAIによって作られたフェイクであると気づいた人はほとんどおらず、中には登録する人すらいたという。結果数万人が騙され、記事の1つはニュースランキングで1位を獲得したほどだ。
カリフォルニア大学バークレー校でコンピューター科学を専攻するリアム・ポー氏は、「超簡単です。それが一番怖いところなんですが」と述べている。
スポンサードリンク
危険すぎる文章生成AIの最新バージョン「GPT-3」
GPT-3は、イーロン・マスクによって設立された非営利団体「OpenAI」が開発した最新かつ最大の文章生成AIモデルだ。
じつは昨年2月、OpenAIはその旧バージョンにあたる「GPT-2」を開発していたのだが、悪用の恐れがあるとして非公開にしていた。
ところが11月になってOpenAIは、「これまで悪用されたことを示す確たる証拠はない」と方針を転換。その最新バージョン「GPT-3」が公開された。
こうして日の目を見ることになったGPT-3だが、一般公開はされていない。今のところ利用できるのは、非公開のベータ版に申し込んだ研究者のみだ。その目的はフィードバックを集め、年末までに市販化することであるという。
ポー氏も申し込んだのだが、許可を待っている間に、ある博士課程の学生がすでにアクセスを取得していることを知る。そこで彼に願い出て、使わせてもらうことになったのだという。
Pixabay
AIが生成した文章を未編集でブログに投稿
文章の生成に長けたGPT-3だが、じつは弱点もある。それは文章を生成できても、論理的なものではないという点だ。
そこでポー氏は、投稿するカテゴリーにはきっちりしたロジックがあまり必要のない「生産性」と「自己啓発」を選んだ。
そして、「Hacker News」というソーシャルニュースサイトに投稿されている同カテゴリーの記事を眺めてよくある単語を探し、それを組み合わせてタイトルを入力。たとえば「非生産的に感じる？ 考えすぎるのはやめよう」や「大胆さと想像力は知性に勝る」といった具合だ。
見出しとイントロを与えられたGPT-3は、そこから文章を生成。「Hacker News」に「Adolos」という名称でブログを投稿していった。
ブログに投稿された記事は、どれもAIによって出力されたものをコピペしただけで、ほとんど未編集だという。
「アイデアをひらめいて、大学院生に連絡して、ブログを作って、それが拡散されるまで、ほんの数時間しかかかっていません」と、ポー氏は話す。
ポー氏はこうして2週間ほど毎日AIが作り上げた記事を投稿してから、どこか謎めいた雰囲気の記事を投稿して実験を締めくくった。
その最後の記事のタイトルは、「道徳心が欠如していれば、GPT-3でやっていただろうこと」だ。そこで、これまでの投稿がすべてAIによるものだったことが告白された。
Pixabay
AIの文章は人間によるものと認識されるのか？
ポー氏は、GPT-3の文章が人間が書いたものであると認識されることを証明したかったのだと述べている。
生成された記事には多少のぎこちなさや間違いもあるが、それがAIによるものである可能性を疑うコメントは、数十ものコメントの中で3、4コメントしかなかったという。しかも、そうしたコメントには、他のメンバーによって低評価が付けられているのだ。
記事の中には「Hacker News」で第1位を獲得する記事さえあり、数万人が記事がAIによって書かれたという事実を見抜けなかったということになる。
「adolos」という偽名でHacker Newsに投稿し、1位を獲得した記事
「Feeling unproductive? Maybe you should stop overthinking. 」
この記事にはかなりコメントが寄せられているが、AIが作り出したのではと疑う声はほとんどなかった
image by:SCREENSHOT / LIAM PORR
文章生成AIのリスク
専門家たちは、こうした文章を生成するAIをずいぶん前から懸念してきた。
たとえば、関係するキーワードで生成されたスパム記事のおかげで、ネット検索が台無しにされる恐れがある。またGPT-3を開発したOpenAIですら、AIが大量の誤情報をまき散らす兵器として利用される危険性を指摘している。
ポー氏の実験は、もう少しありふれた別の問題が生じる可能性を示唆している。それは、アクセス数を稼ぎたい人たちが、人々を釣るためのツールとしてAIを使うという可能性だ。
「とても簡単ですので、大したことのないブログがずらっと並ぶようなこともあるでしょう。オンラインコンテンツの価値は大幅に下がってしまうのではないでしょうか」とポー氏は言う。
彼は今後もGPT-3で実験を行うつもりであるそうだが、自身がOpenAIに提出した利用申請はまだ通っていないそうだ。「もしかしたら、このことで先方は怒っているのかもしれませんね。」
References:A college kid created a fake, AI-generated blog. It reached #1 on Hacker News. | MIT Technology Review/ written by hiroching / edited by parumo
あわせて読みたい
悪用されたらヤバイ！専門家が危険視する文章生成AI(人工知能)の完全版がリリースされる
頭で考えてることが文章化される。脳波を文章に変換するAIが登場（米研究）
完璧なフェイクニュースを作成することも可能な高精度のAIが開発される。危険性が高すぎるため完全公開を断念
AI（人工知能）にハリーポッター全7巻を学習させてハリポタの新作を書かせてみた。タイトル「ハリー・ポッターと山盛りの灰のようにみえるものの肖像」
連続殺人犯「ゾディアック」と同じ思考をするようプログラミングされたスーパーコンピューターが作り上げた不気味なポエム。事件解決の糸口となるか？この記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
1位 2439 points |  | 思ってたのと違う！NASAが太陽系の形を最新データから予測 |
2位 2095 points |  | 重油流出、海を守るためモーリシャスの人々は髪を切る |
3位 1749 points |  | スーパーで購入したパック寿司のエビが青い蛍光色に光っていた件（タイ） |
4位 1571 points |  | 墓地に設置されたカメラに少女の幽霊の姿が！2年前に亡くなった娘の幽霊に違いないと母親が号泣（アメリカ） |
5位 1402 points |  | トマトが発する電気信号を数学モデルで分析。菌を媒介して仲間に合図を送っていた（米研究） |
423
1963
22
31スポンサードリンク
コメント
1.
2. 匿名処理班
新しい時代の犯罪の幕開け
3. 匿名処理班
12月19日までオコジョが記事を書いてるけど
12月20日以降はオコジョが失踪するブログが
あるらしい。
4.
5.
6.
7. 匿名処理班
SNSの情報を鵜呑みにして共感してしまう人も結構いると思うので、本当にSNSを駆使したAIに操られる日は近いかもしれない。
8. 匿名処理班
相手の欲しい情報をAIがくみ上げて作るのはお手の物
反面その情報を作る人がネットに出さなくなると途端に
ボケちゃうのがAIの欠点
今のところは騙せてもまだまだ人が有利だ
9. 匿名処理班
とあるコミュニティに似たようなことをしたことがあるけれど、ネタバレをしたら非難よりも、「おれはそもそも本気にしてなかったぜ？」と逃げを打つ人が多かった印象w
10. 匿名処理班
すでに似たようなのはあるわ
精度の差はあれ
まとめブログなんかも編集メチャクチャなやつとか半自動精製してるやろ
11. 匿名処理班
一番怖いのは世論操作に利用されてしまうこと。
大量のSNS垢を習得し特定の政治的意見に関する意見を人と変わらない文章で書き「多くの人がこういう意見を持っている」と誤認させること。
12. 匿名処理班
ディストピアだねぇ
13. 匿名処理班
悪用されて滅亡迅雷ネットに接続されそう
14. 匿名処理班
今見ているこの記事すらでたらめの可能性がある
無限ループって怖くね？
15. 匿名処理班
LINEオープンチャットもbotいっぱいおる
16. 匿名処理班
1984年はもうすぐそこか？
17. 匿名処理班
気づかないだけで、もうすでにやってるでしょ
18. 匿名処理班
プロパガンダとかもめっちゃ簡単に広めてくれるんだろうな
便利な世の中になったけどその分難しい時代にもなったね
19. 匿名処理班
つまり検索エンジンが本当に"エンジン"になって文章を生み出すようになった、ということじゃないかな…
日本でも文学賞審査員が騙されたとか聞くと流石にちょっと怖くなるけど、AIによる"文章生成"がやっていることは検索ワードの連続表示に過ぎないような感じがするんだ。
人力でやってみるなら、Googleに何か検索語を打ち込んで、検索して出てきた項目トップの文章から"検索語と重複する部分を除いて残った最初の単語"をコピペして、最初の検索語の後にくっつけてもう一回検索する、これを繰り返していくと検索語のところに自然と文章が出来ていく…ような。
物凄くざっくりいうとgptってこういうことを自動でやるプログラムじゃないのかな…？。検索するのはウェブそのものじゃなくウェブから集めた文章サンプルの巨大なデータベースで、何を検索トップに表示するかの評価方法もウェブの検索とは少し変えてるみたいだけど。最初にきっかけとなる一文を入れてやれば、続きの単語が検索されて追加されて、出来た文章（のできかけ）を元にまた検索が繰り返されていく。
実際に研究してる人達からしたらそんな単純に言ってほしくないねと怒られてしまうかもしれない。怒られた上になんとなく横文字な定義語を連発されて、だから人類はAIに…と脅されて、最後はターミネーターを見ながら寝落ちすることになりそうだよ