IBMの「Project Debater AI」、伝統あるケンブリッジのディベートクラブで「AIの危険性」を語る

Project Debater at the Cambridge Union Society.

世界最古のディベートクラブであるケンブリッジ・ユニオン・ソサエティで2019年11月21日、2つのチームが「AIは善よりも害をもたらすかどうか」というディベートを展開した。各チームには、特別ゲストとしてIBMのディベートAI「Project Debater」が参加した。

IBM Researchが開発するProject Debaterは、複雑なトピックについて人間と討論できるAIシステムだ。青いライトがついた、高さ2mの黒いモノリスの形状をしており、ナレーターとしても知られる女優Eliza Fossの声で話すことができる。その能力は、2016年の段階では幼児レベルだったが、2019年に大学レベルに達したという。Project Debaterは、これまで新聞や雑誌から4億件もの討論を、そのデータベースへと組み込んできた。

大学教授とプロのディベーターのチームで構成される今回のディベートが特殊なものだったのは、AIが参加したことだけではない。通常は参加しない傍聴人の意見が、チームメンバーであるAIのロジックに反映されていることだ。「AIに賛成あるいは反対」とする1000以上の議論が事前に集められ、Project Debaterが展開する議論に組み込まれたという。

両チームに参加するProject Debaterは、柔らかく心地よい女性の声で「AIは道徳的に正しい決定を下すことはできません」と語ったのち、「AIは人間よりも間違いを起こす確率が低いです。ありふれた仕事から人間を解放することは意味があることです」と、まったく逆の立場からの議論を展開した。

Project DebaterのAI能力は、スマートスピーカーのように単一のコマンドを理解するレベルは遥かに超えている。IBMのコンピュータ科学者のDan Lahav氏はその能力を、「肯定と否定が混在する数千のレストランレビューを、一瞬で数パラグラフに要約するようなものだ」と形容する。

また、プロジェクトの主任研究者でIBMの著名なエンジニアNoam Slonim氏は、「Project Debaterは、ディベートに取り上げるトピックの両方の側面を示すことで、内在する人間のバイアスを減らすことができる。人間を議論で打ち負かそうとするのではなく、多くの方法で助けることができるようになった」と、その進化について述べている。

「人間は、観客を理解し、文化や伝統に基づいて文脈を取得するのに大変優れている。一方でAIは大量のデータをくまなく調べ、それを使用してわれわれの知識を豊かにし、より具体的な論拠によって反対意見側に打ち勝てる能力がある」とLahavは言う。

討論以外でも、法律、医薬品、販売など、データの取得とそれに基づいた意思決定は、あらゆる仕事において求められる。企業はこの技術を使い、市場をよりよく理解することができる。さらには、政治的な議論のレベルを高める能力を与えることも可能になるだろう。

IBMの「Project Debater AI」、伝統あるケンブリッジのディベートクラブで「AIの危険性」を語る