企業のAI開発における PoCを加速化する「Citadel Lens（β版）」の提供開始

Filed under:

2022/03/01

News

株式会社Citadel AI（東京都渋谷区、代表取締役小林裕宜）は、企業のAI開発におけるPoCを加速化するAI自動耐性テストツール「Citadel Lens（シタデル・レンズ）」(β版)の提供を3月1日より開始します。開発中のAIの弱点を瞬時に炙り出す「人間ドック」のような機能を提供します。

AIの導入を検討したものの、実運用に踏み切ることができず、PoCステージで立ち止まってしまっている企業の皆様も多いのではないでしょうか？

「Citadel Lens」は、開発時のAIに潜む、人手作業では検出が難しいバイアスや精度のばらつき、アタック耐性等「AIの弱点」を自動テストし、お客様が安心して運用ステージに移行できる環境を提供します。

求められるAIの信頼性、対応するには膨大な人的・時間的コストが課題

AIが社会浸透するにつれ、「AIの説明責任や信頼性」に対する懸念が世界的に高まり始め、EUや米国ではAIに対する規制が検討されています。

従来のソフトウェアは、人間がロジックを考えプログラミングします。一方AIでは、学習データからAIがロジックを自動学習し、膨大な数のパラメーターに落とし込みます。フローチャートが書かれている訳ではなく、人間が理解困難な「ブラックボックス問題」が生じます。

再学習する毎にこうしたパラメータは変わってしまい、「バージョンアップ後のシステムの方が、却って精度劣化してしまったが理由がよく分からない」という悩みを抱えているエンジニアの方も多いのではないでしょうか。こうしたAIのデバッグには、専門のエンジニアであっても多くの作業時間を要し、完璧に行うのは非常に困難です。

又そうした検証を経て導入されたAIであっても、「実運用時のデータ」が更なる問題を引き起こします。開発時の奇麗な学習データと異なり、実社会では「AIが学習時に見たことが無い」予期せぬデータが飛んでくるため、「AIの誤認識や誤学習」が発生、ビジネスリスクやコンプライアンスリスクに繋がります。

これまでのAIの精度確認方法では、AI出力の目視確認とラベル付け作業が必要な為、多くのケースで実際に精度が分かる迄１週間〜１ヶ月程度の時間を要します。その前に、デフォルトやリコール、需給予測ミス、企業ブランド棄損等の問題が顕在化してしまいます。

米国のGAFAのようにAIエンジニアが潤沢なところでは、多くの人手をかけ、さまざまなツールを駆使することで対処していますが、通常の企業が同様の対応を継続的に行うことは、リソース面でもコスト面でも現実的ではありません。

開発～PoC・運用の各ステージに適用可能、「企業向けAI自動品質管理ソリューション」

我々は、こうした課題解決に向けて２種類の自動化ツールを提供します。

一つ目は、今回β版リリースした、PoCを加速化する自動耐性テストツール「Citadel Lens（シタデル・レンズ）」です。人手作業では検出が難しいAIの弱点や異常を、瞬時に炙り出し「点数化」します。課題の原因を早期に解明し、解決方針が明確になることで改善スピードを高め、PoCを加速化します。scikit-learn・Keras・PyTorch・PyCaret・XGBoost・LightGBM等、お客様の実際のさまざまなモデルを使って検証頂くことが可能です。

更に、昨年リリースした運用時の自動モニタリングを行う「Citadel Radar（シタデル・レーダー）」と併せてご利用頂くことで、開発からPoC・運用ステージに至るCI/CDパイプラインの中でエンドツーエンドで「信頼できる、説明可能なAI」の仕組みを構築することができます。

AIエンジニアの作業を大幅に効率化し、限られたリソースを異常発見後のAIの改善に振り向けることが可能です。

両システム共、お客様のAIを改修することなく、「さまざまなAIのモデル・ライブラリ・アプリケーションに簡単に適用できる汎用的なシステム」です。これ一つでさまざまなAIの精度・品質管理を自動で実現する便利で使い易いシングルパッケージソリューションです。SaaSあるいはオンプレミス環境でご利用頂くことができます。

【Citadel Lens（シタデル・レンズ）】

　AIの弱点を瞬時に炙り出しPoCを加速化

開発～PoCステージのAIの自動耐性テストを行い、「PoCを加速化するシステム」です。
人手作業では検出が難しいバイアスや精度のばらつき、アタック耐性等を、顧客セグメントやデータ毎に深堀りして精査し、AIの弱点や異常を瞬時に炙り出し「点数化」します。
いわば開発中のAIに対する「人間ドック」、異常を早く検知することで運用改善を加速させます。

【Citadel Radar（シタデル・レーダー）】

　運用中のAIを常時モニタリングし異常から防御

運用ステージのAIの入出力を元に、人手でラベル付けや目視検査する必要無く、リアルタイムでAIの異常を自動検知・防御・可視化するシステムです。
運用中のAIを守る「ボディガード」としての役割はもちろん、反実仮想分析によるシミュレーション機能も搭載しており、マーケティングツールとしてもご利用頂くことができます。

【株式会社Citadel AIについて】

2021年度の第4回東大1stRoundにて採択された米国Google Brainの元AIインフラ構築責任者が開発をリードするスタートアップ。2021年9月には東大IPC並びにANRIのベンチャーファンドからシードラウンドの資金調達を実施。2022年1月には、若手キャピタリストが選ぶ、次世代を担うスタートアップ BRIDGE Tokyo 2022「INTRO Showcase最優秀賞」を受賞。現在事業拡大に向け、創業期ソフトウェアエンジニアを募集中。