中國がＡＩを駆使して世界の最先端を走って居る様子が自国民やウイグル自治区問題とチベット問題で至る処にカメラを設置！顔認識で個人個人の様子や当然共産党の嘘のプロパガンダを駆使して世界にばら撒く！
本来はプロパガンダとは意見を発信する時に判り易いように強く政治的意図持つ宣伝と理解されて居る。この記事のGPT-2は出力する文章を微調整することができるため、たとえば特定の差別的な思想などを擁護するように手を加えてプロパガンダを自動生成するシステムに仕立て上げることも可能だとされます。しかし、OpenAIは、3月に公開された制限付きバージョンがフェイクニュース生産などに悪用された兆候が見られないため、フル機能バージョンの公開を行ったと説明しています。
ネットで検索すると多くの記事と説明の状況を報道やネットで目にする事が出来ますので自分の居る場所で出来る事を見なおす事が必要だと実感します。
2019/11/08 15:00
ほぼ見分けられない嘘ニュースを書くAIの完全版公開。OpenAI「悪用への強力な兆候なし」と判断
© Oath Inc. 提供 ipopba via Getty Images
イーロン・マスクが設立に関わった人工知能研究開発団体OpenAIが、MITとともに精巧な嘘ニュースを書くAI "GPT-2"を開発したという話題は2月にお伝えしました。ただ当時は、もし悪用されるとフェイクニュースやスパム、疑わしい情報が世に溢れ出し混乱を来してしまうとの恐れから、GPT-2の簡易版のみが公開され、我々がその真の実力をうかがい知ることはできませんでした。
しかしOpenAIはその後も研究開発を継続しており、フル機能を備える完全版を公開しても「誤用されるという強力なエビデンスはない」として、ウェブ上にそれを公開しました。GPT-2は、最小限の情報を与えるだけでつじつまの合う内容のテキストを生成する能力を持つテキスト生成システムで、ウェブサイトから集めた800万を超えるテキストドキュメントで鍛え上げられました。そして、見出しとなる(偽の)文を与えるとニュース記事を、詩の出だしの1文を与えるとそのポエムを完成させるといった芸当を得意とします。
また、研究者はその言葉の組み立てにはときに知性すら感じられるとも述べています。念のために記しておけば、GPT-2には知性や認知機能といったものはなく、あくまで出力した文章がたまたまそのように感じさせているにすぎないはずです。
また、GPT-2は出力する文章を微調整することができるため、たとえば特定の差別的な思想などを擁護するように手を加えてプロパガンダを自動生成するシステムに仕立て上げることも可能だとされます。しかし、OpenAIは、3月に公開された制限付きバージョンがフェイクニュース生産などに悪用された兆候が見られないため、フル機能バージョンの公開を行ったと説明します。
なお研究者らは、GPT-2が生成した文章を95％の確率で検出できるシステムも開発しているとのこと。とはいえこれは完全な自動処理でなく、フェイク画像/動画の検出のように一部で人間の目も借りて強化していく必要があるとしています。
OpenAIは今後、GPT-2がコミュニティや一般の人々によってどのように使用されるかを監視しつつ「機械学習のための責任ある出版規範」プロジェクトに参加しコミュニティとともに議論していくとしました。
ちなみにAIに文章を出力させると、短い文章ならそこそこでも、長文になるにつれだんだんとその精度が怪しくなって行きます。GPT-2もその辺は同様で、だんだんと単調で同じような文章ばかりになっていくとのこと。夏休みの宿題の読書感想文を代わりに書いてくれるAIは、まだまだやって来そうにありません。
次々と発信される本来のプロパガンダとは意見を発信する時に判り易いように強く政治的意図持つ宣伝と理解されて居る。しかし意図して自陣内に取り込もうとするこの記事のGPT-2は出力する文章を微調整することができるため、たとえば特定の差別的な思想などを擁護するように手を加えてプロパガンダを自動生成するシステムに仕立て上げることも可能だとされます。しかし、OpenAIは、3月に公開された制限付きバージョンがフェイクニュース生産などに悪用された兆候が見られないため、フル機能バージョンの公開を行ったと説明しています。シャワーの様に多くの嘘で固められたプロパガンダを浴びて無視できるのでしょうか？
まるで本当みたいな フェイクニュース を書き出すAI「GPT-2」MITが開発。簡易版と論文を公開
フェイクニュースもAIが書く時代
AIが小説を執筆し、ニュースを読む時代になりましたが、今度はAIがニュースを書く時代がやってきました。しかも普通のニュースではなく、いわゆるフェイクニュースです。
テスラ、SpaceXのイーロン・マスクが支援する人工知能研究開発グループOpenAIは、自然な文章を生成する言語モデル「GPT-2」を発表しました。このモデルはAIで適当なニュースの書き出しを読み込ませると、読み手が一瞬「本当か？」と信じてしまいそうな、巧妙な嘘ニュースを吐き...いや書き出します。
OpenAIの研究チームが開発したアルゴリズムはもともとは質問に答えたり、ある程度のストーリーを要約したり、文章を翻訳したりといったことができる一般的な言語処理AIとなるように開発されていました。ところが研究者は、そのアルゴリズムがそれらしくも適当な嘘文章を大量に生み出すのを見て、悪用すればフェイクニュースジェネレーターとして使えることに気づきました。
その結果、OpenAIはこの「GPT-2」のフル機能版のオープンソース化は見送り、論文とともに簡易版のみを公開することにしました。
幸い？にもこの技術は現在のところまだまだ未完成なところが多く含まれています。たとえばお題となる書き出し部分に続く文章に、明らかにオンラインから拾ってきた文章がそれらしくつなげられているだけの記事を書き出したりします。そして時折、秀逸な(といってもフェイクの)文章が生まれるのだとか。しかし、それでもこのアルゴリズムは現実的なテキストを作成するのに非常に優れていると言えるでしょう。
ただ、OpenAIのジャック・クラーク氏は徹底的な事実確認をしないとわからないようなフェイクニュースを書き出せるようになるにはまだ1～2年がかかるとしています。そのときが来れば、アルゴリズムがわざとフェイクニュースをSNSに発したり、フィッシングやスパム行為に使われたりする可能性があることを認めています。
最近、SNSでは嘘情報の検出と削除に成果を上げつつありますが、数年もすればAIを使って生み出されるフェイクニュースもまた進歩し、SNSとの間で新たな種類のイタチごっこが始まるかもしれません。もっとも、研究者らはフェイクニュースはわざわざ手間をかけてAIに書かせるよりも人の手で書く方がよほど簡単だと述べています。
何回も言いますが本来はプロパガンダとは意見を発信する時に判り易いように強く政治的意図持つ宣伝と理解されて居る。
自国に於いて都合が良い多くの国が有るのも事実です。本来の自由主義圏の国と、危険視される中國や全体主義の国にとって、両陣営のＡＩによって作られる工作に貴方は判断が出来るのでしょうか？
この記事のGPT-2は出力する文章を微調整することができるため、たとえば特定の差別的な思想などを擁護するように手を加えてプロパガンダを自動生成するシステムに仕立て上げることも可能だとされます。しかし、OpenAIは、3月に公開された制限付きバージョンがフェイクニュース生産などに悪用された兆候が見られないため、フル機能バージョンの公開を行ったと説明しています。
状況を報道やネットで目にする事が出来ますので自分の居る場所で出来る事を見なおす事が必要だと実感します。詳しい説明は省きますが追いかけて見たい人はリンクアドレスでどうぞ！
0 件のコメント:
コメントを投稿