- 2023-1-21
- 制御・IT系, 技術ニュース, 海外ニュース
- ChatGPT, InstructGPT, Moderation API, OpenAI, イーロン・マスク, 人工知能（AI）
イーロン・マスク氏らが立ち上げた人工知能（AI）を研究する非営利団体のOpenAIは、2022年11月30日、ユーザーと会話形式で対話する言語モデルの「ChatGPT」を公開した。SNS上ではユーザーによるChatGPTとの会話が多数公開され話題となっている。
OpenAI の公式サイトによると、ChatGPTはInstructGPTの兄弟モデルで、ユーザーの質問に答えたり、自分の間違いを認めたり、不適切な要求を拒否したりすることもできるものだ。しかし、もっともらしく聞こえるが、不正確な回答やナンセンスな回答をすることもあるため、注意が必要だという。
また、現在のところ、ChatGPTは入力フレーズの微調整に敏感で、例えば、ある質問に対してわからないと回答したモデルに、少し言い方を変えて質問すると正しく回答することが確認されている。過度に冗長な回答になることもあれば、OpenAIによって訓練された言語モデルであることを繰り返し述べるなど、特定のフレーズを多用することもしばしばある。
さらに、不適切な要求を拒否するよう努めているそうだが、有害な指示に反応したり、偏った挙動を示したりすることもある。OpenAIは、Moderation APIを利用して、特定の種類の危険なコンテンツへ警告をしたり、ブロックしたりするなど工夫をしている。現在のChatGPTは、例えば暴力的なストーリーを生成したり、いじめの方法を提案したりするよう要求されても、それを拒否することができるようだ。OpenAI公式サイトで実際のやり取りが公開されている。
OpenAIはこういったChatGPTのさまざまな限界を示した上で、定期的なアップデートにより改善していくとしている。同時にユーザーへも、ChatGPTフィードバックコンテストを開催するなどして、発見した問題についてのフィードバックを呼びかけている。同コンテストでは、API方式のクレジットで最大500ドル（約6万5000円）を獲得できるという。
