英国機関のAI Safety InstituteがAIの安全性評価プラットフォーム「Inspect」を公開

AIの安全性を評価する機関である英AI Safety Instituteは2024年5月10日、AIの安全性評価プラットフォーム「Inspect」を公開した。オープンソースライセンスを通じてリリースされ、世界のAIコミュニティですでに利用可能となっている。

Inspectは、スタートアップ企業、学界、AI開発者から国際政府に至るまで、テスターが個々のモデルの特定の機能を評価し、その結果に基づいてスコアを生成できるようにするソフトウェアライブラリだ。Inspectを用いることで、中核となる知識、推論能力、自律機能など、幅広い領域でモデルを評価できるようになる。

AI Safety Instituteは、公共の利益のために高度なAIの安全性に焦点を当てた、世界で初めて国家が支援する組織だ。このような機関が主導するAIの安全性テストプラットフォームが広く一般にリリースされるのは初めてのことだ。英国はInspectにより、グローバルなAI安全性評価を強化／加速することを目指している。

AI Safety InstituteのIan Hogarth所長によると、オープンソースのツールは開発者にとって自分のモデルに統合するのがより容易であり、それらのモデルがどのように機能し、どのようにすれば可能な限り安全になるかをより深く理解できるようになるという。

Hogarth議長はさらに、「Inspectの立ち上げと並行して、AI Safety Institute, Incubator for AI（i.AI）およびNumber 10は、さまざまな分野から優れたAI人材を結集して、新しいオープンソースAI安全ツールを迅速にテスト／開発する予定だ」と今後の展望について語った。i.AIは、各省庁がAIを活用するのを支援する技術専門家チームで、Number 10は、ダウニング街10番地（首相官邸）に設置されたデータサイエンスチームのことだ。

英国機関のAI Safety InstituteがAIの安全性評価プラットフォーム「Inspect」を公開