AIはどう振る舞うべきか?――OpenAI、概念実証に100万ドルの助成

Illustration: Justin Jay Wang

ChatGPTを提供しているOpenAIは2023年5月25日、AIシステムが従うべきルールを決定するための民主的なプロセスを立ち上げる実験10件に対し、それぞれ10万ドル(約1400万円)の助成金を授与するプログラムを開始すると発表した。

OpenAIは、AIがどのように振る舞うかについての決定は、公共の利益を反映した多様な視点によって形成されるべきであり、一個人、1つの企業、あるいは1つの国によって規定されるべきではないと考えている。汎用人工知能(AGI)は全人類に恩恵を与え、可能な限り包括的に形作られるべきだというのだ。

そのような立場から立ち上げられた今回の助成プログラムは、AIシステムが従うべきルールについての疑問に答えることができる、民主的プロセスの概念実証を開発するチームを求めるものだ。

「民主的プロセス」とは、幅広く代表的な集団が意見を交換し、熟議に従事し、透明な意思決定プロセスを経た結論に基づいて最終的に決定するプロセスを意味している。応募者には、革新的であること、既知の方法論をもとに発展させること、まったく新しいアプローチを考え出すこと、さらに、AIが民主的なプロセスをどのように強化できるかを予想することを奨励するとしている。

参加チームは、提示されたリストから1つまたは複数の質問を選び、提案するアプローチを示さなければならない。ただし、この助成金の主な目的は、プロセスの革新を促進することであり、質問に対する具体的な回答はプロセス自体の進歩ほど重要ではないという。

助成申請の締切は6月24日となっている。7月14日に10件の助成先(個人・チーム・組織)が選出される予定だ。助成された場合、提案を試みるために助成金を使用し、少なくとも500人が参加する概念実証を実施し、10月20日までにその結果に関する公開報告書を発表する必要がある。また、プロジェクトのために開発されたコードやその他の知的財産は、オープンソースライセンスに従って一般に公開することになる。

関連情報

Democratic Inputs to AI

関連記事

アーカイブ

fabcross
meitec
next
メルマガ登録
ページ上部へ戻る