マイクロソフト、Webニュースに自動でコメントするAIを開発――フェイクコメントねつ造のリスクも

2019-10-28
制御・IT系, 技術ニュース, 海外ニュース
AI, arXiv, DeepCom, ニュースサイト, フェイクコメント, マイクロソフト, 北京航空航天大学

マイクロソフトと北京航空航天大学の研究チームは、オンラインのニュースへ自動でコメントを生成するボット「DeepCom」を開発したと発表した。人間のように、ニュースを読み、ポイントを抽出し、コメントができるという。研究成果は、論文ウェブサイト『arXiv』に公開されている。

DeepComは、2つのニューラルネットワークから構成されている。1つ目のリーディングネットワークは、ニュース記事を把握し、そこから重要と判断したポイントを抽出する。そして2つ目のジェネレーションネットワークが、抽出されたポイントやニュースタイトルを利用してコメントを生成するという仕組みだ。

ケーススタディでは、NBAヒューストンロケッツの新メンバー加入に関する記事に対して、DeepComが「the rockets are going to have a lot of fun in this series.（今シーズンのロケッツは面白くなりそうだ）」とコメントしたと発表している。一方、比較として使用した他のモデルでは、記事とは関係が無かったり、一般的なコメントに留まっていたという。

2019年9月26日に公開された論文によれば、ニュースサイトへコメントが付くと、人々がそれを読み、情報を共有し、互いに議論するようになる。それが記事の内容の拡張を生み、サイトへのユーザーエンゲージメントが向上するとし、自動コメントシステムの構築は非常に重要なことだとしている。

実はこの論文が公開されると、海外ではこれがフェイクコメントを肯定する内容だとする批判が噴出したようだ。それを受けての対応なのか、10月1日に公開された「Ver3」では、政治的操作や説得のために人々からのコメントが捏造されるリスクにも触れ、「この種のAI研究にはリスクがある。有益だが潜在的には厄介な技術の用途を理解するには、このような技術の開発と実証が重要だと考えている」と、一定の配慮をみせている。

マイクロソフト、Webニュースに自動でコメントするAIを開発――フェイクコメントねつ造のリスクも