業界初、 物体検出AIに対応した品質検査ツールをリリース　オブジェクト毎の詳細分析、説明責任の可視化が可能

株式会社Citadel AI（東京都渋谷区、代表取締役 小林 裕宜）は、物体検出AI向けに自動で品質検証を行う「Citadel Lens Object Detection（シタデル・レンズ　オブジェクトディテクション版）」の提供を開始します。

今回のCitadel Lensの新バージョンでは、これまでのクラス分類や回帰分析用の表形式・画像AIに加え、医療機器分野や自動運転など複数の物体の検知・認識が求められる分野で利用される「物体検出AI」に対しても、きめ細かな品質検証を瞬時に実行することが可能です。お客様のAIシステムを改修することなく、さまざまなAIのモデルに適用できます。AIの開発・学習時に、どのようなテストをどこまで実行したら良いのか、もう悩む必要はありません。

AIの品質・信頼性に関わる、国内外の制度・標準に対するコンプライアンス対応

現在EUではAIの包括規制案(EU AI Act)の議論が進んでいます。違反した企業に対しては、最大で3,000万ユーロ（約40億円）か全世界売上高の6%のうちどちらか高い金額の制裁金を課すといった大変厳しい内容となる見込みであり、医療機器・自動車・その他製造業・金融・保険等、多くの大手企業が対象となると想定されます。また、ISO・IEEE等においてもAIの堅牢性や公平性・説明責任に関わるさまざまな標準化の検討が行われています。

特に医療分野、自動運転、不良品検査等で用いられる物体検出AIにおいては、さまざまな環境の中で、複数の物体を検出し識別することが求められます。

物体の大きさや角度、明るさ、色合い等は、撮影方法や外部環境によって、開発環境とは大きく変動してしまいます。そうした予期せぬ状況下で、多数の物体の中から目標とする物体を正確に検出し識別するよう、AIを学習させることは非常に困難であり、膨大な時間とコストを要します。

適切な学習ができていない場合、技術的な品質問題、ビジネス上の損失に留まらず、人間の生命や安全、企業ブランド、さらには法制度や標準に対するコンプライアンスに関わる問題を引き起こしてしまうリスクが生じます。我々は、こうしたこれからの社会経済にとって極めて重要な、避けて通ることができない「AIの信頼性に起因する新たなリスク」を解決するソリューションを提供するスタートアップです。

物体検出AIの性能や課題を瞬時に可視化

物体検出AIでは、バウンディングボックスの位置ずれ、物体の検出漏れ、誤検知・過検知、あるいはクラス分類ミスといった問題が頻繁に発生します。Citadel Lensのオブジェクトディテクション版では、そうした問題を自動検出し、IOU・Recall・Precision等の指標に基づき、その原因を一つ一つの対象オブジェクト毎に容易に分析することができます。

また他社にない非常にユニークな機能として、各オブジェクトを選択して、個別にヒートマップ表示させることも実現しており、​​従来では難しかった、対象オブジェクトごとに掘り下げた出力根拠の可視化により、なぜ未検知や過検知等が発生しているのか、容易に分析した上で、品質改善に役立てることが可能です。

さらに、カメラの性能、外部環境、被写体との位置関係など、現実に起こり得る環境変化に即した補正加工画像を、元データから自動生成し、お客様の物体検出AIの「ノイズ耐性テスト」を即座に実行することができます。

画像に付加されたメタデータや、画像固有の明るさ等の特徴量を組み合わせたデータスライスを実行し、精度の出ていないデータセグメントを自動で洗い出した上で、データセグメントごとのさまざまな精度指標を容易に確認することも可能です。

幅広い分野のAIに汎用的に適用可能、さまざまなリスクからお守りします

Citadel Lensは、需要予測・出入荷予測・与信審査・不正検知・広告効果測定といった数値や文字など表形式データに基づいて推論を行うAIから、画像診断・不良品検査・安全管理・事故査定といった画像データを活用したAIまで、幅広い分野のAIに汎用的に対応。お客様をビジネス上のリスクやセキュリティリスク・コンプライアンスリスクからお守りします。

‍

‍

【株式会社Citadel AIについて】

Citadel AI社は、米国Googleの元AIインフラ構築責任者が開発をリードするスタートアップです。開発・PoCから運用に至るさまざまなステージにおいて、AIの信頼性に起因する新たなセキュリティリスクを瞬時に検知の上、継続的に防御します。

開発時の自動品質検証システム 「Citadel Lens（シタデルレンズ）」、運用時の自動モニタリングシステム 「Citadel Radar（シタデルレーダー）」は、いずれもお客様のAIシステムを改修することなく、さまざまなAIのモデルに汎用的に適用可能です。これまで要していた「膨大な作業時間やコストを大幅に削減」し「PoCの加速化と品質改善の高速化を実現」します。

デモのご要望は是非以下までお問い合わせください。