画像AIの弱点を瞬時に自動テストする「Citadel Lens画像版」をリリース　膨大な検証作業時間を95％削減、信頼性リスクを防御

株式会社Citadel AI（東京都渋谷区、代表取締役 小林 裕宜）は、画像認識AI向けに自動耐性テストを行う「Citadel Lens（シタデル・レンズ）画像版」の提供を10月13日より開始します。

需要予測・物流管理・与信審査・広告など、数値や文字データに基づいて推論を行うAIから、画像診断・不良品検査・安全管理・事故査定など、画像データを活用したAIまで、お客様のAIシステムを改修することなく、汎用的に適用することができます。AIの開発時に、どのようなテストを実行したら良いのか、もう悩む必要はありません。

求められるAIの信頼性に関わるリスク対策、画像認識AIの開発に立ちはだかる「壁」

2021年4月にEUでAIの包括規制案が発表されるなど、AIの説明責任や公平性に対する懸念が世界的に高まっています。我々は、これからの社会経済にとって極めて重要な、避けて通ることができない「AIの信頼性に起因する新たなリスク」を解決するソリューションを提供します。

画像認識AIのアプリケーションの多くは、特殊な状態を対象として扱っています。一方で、そうした事象は稀にしか発生しません。さまざまなケースを想定し、データ画像を揃え、学習させテストするには、数週間から数ヶ月といった膨大な準備時間を要し、現実的に非常に困難です。

この結果、例えば明るい実験環境で撮影した映像では、不良品を正確に検出できたとしても、照明環境の異なる工場の現場環境では見逃してしまったり、あるいは製造ラインの配置換えに伴い、カメラと被写体の距離や角度が変わった場合、AIが正常に機能しなくなるリスクが発生します。

外部環境で使用される画像認識AIの場合には、雨や霧、雪などによる気象環境や予期せぬ事態に遭遇すると、誤動作するリスクが生じます。学習用に収集した画像に偏りがあった場合には、人種差別・性差別に繋がるような判断をしてしまうかも知れません。

画像認識AIの検証作業時間を95％削減、テストを即時実行し「診断レポート」を自動生成

Citadel Lens画像版では、カメラの性能、外部環境、被写体との位置関係など、現実に起こり得る環境変化に即した補正加工画像（オーグメンテッド・データ）を、元データから自動生成し、お客様のAIの「ノイズ耐性テスト」を即座に実行することが可能です。

また画像に付加されたメタデータや、画像固有の明るさ等の特徴量を組み合わせ、人手ではなかなか検出できないAIの弱点を、自動的に深堀りして探り出す「バイアスの自動検出機能」を搭載、精度の出ていないデータセグメントを容易に確認することができます。撮影した工場、アノテーター、画像の明るさ等、さまざまな視点から、AIの精度を簡単に分析・比較した上で、再学習すべき画像を炙り出すことが可能です。

さらに、「ラベル付け間違えの自動推測機能」や、最近話題になっている、AIの中に潜む「公平性テスト」「説明責任の可視化」も即時に実行、AIが不適切な学習をしていないか、確認することもできます。

今回の画像版の追加により、Citadel Lensは、需要予測・出入荷予測・与信審査・不正検知・広告効果やチャーン（解約）予測といった、数値や文字データに基づいて推論を行うAIから、画像診断・不良品検査・安全管理・事故査定といった画像データを活用したAIまで、お客様のAIシステムを改修することなく、幅広く汎用的に適用できるようになります。

AI開発時に要してきた膨大な検証作業時間を、従来比で95％以上削減*の上、ビジネスやコンプライアンス・セキュリティに関わるリスクから防御します。お客様の貴重なエンジニアリングリソースを問題発見作業から開放、AIを育て品質改善を加速化する業務に集中して振り向けていただくことで、AIの持つポテンシャルを最大限引き出すことが可能です。

_{*経産省「AI導入ガイドブック」P20「 導入工程推進に要する時間の目安」B2モデル構築に関わる従来の時間数10~50時間と比較算出} 

【株式会社Citadel AIについて】

Citadel AI社は、米国Googleの元AIインフラ構築責任者が開発をリードするスタートアップです。開発・PoCから運用に至るさまざまなステージにおいて、AIの信頼性に起因する新たなセキュリティリスクを瞬時に検知の上、継続的に防御します。

開発時の自動テストシステム 「Citadel Lens（シタデルレンズ）」、運用時の自動モニタリングシステム 「Citadel Radar（シタデルレーダー）」は、いずれもお客様のAIシステムを改修することなく、さまざまなAIのモデルに汎用的に適用可能です。これまで要していた「膨大な作業時間やコストを大幅に削減」し「PoCの加速化と品質改善の高速化を実現」します。

デモのご要望は是非以下までお問い合わせください。