株式会社Citadel AI（代表取締役：小林 裕宜、以下「Citadel AI」）は、株式会社三井住友銀行（頭取CEO：福留 朗裕、以下「三井住友銀行」）に対し、生成AIの安全・安心な活用拡大を支援するAIガバナンスソリューションを提供することをお知らせします。
三井住友銀行は、Citadel AIのソリューションを活用し、リスク検証の標準化、継続的なモニタリング、ガードレール機能を備えた共通基盤の整備を進めます。Citadel AIは、本ソリューションの提供を通じて、同行における全社的なAIガバナンスの高度化と、生成AI活用に係るリスク管理の実効性向上を支援してまいります。
背景
生成AIの活用が顧客向けサービスや社内業務に広がるなか、AIを用いたシステムの導入前検証に加え、運用開始後も安全性と信頼性を継続的に評価し、改善につなげる仕組みが求められています。また、活用する業務やサービスが増えるほど、共通の評価基準と、用途ごとの特性に応じた検証を組み合わせることが重要になり、AI活用の質と確認プロセスのスピードの両立が求められます。
特に金融機関にとっては、顧客保護や情報管理、規制対応の観点からも、生成AIの利用目的やリスクに応じた厳格な管理態勢の整備が重要です。
提供ソリューションについて
・リスク検証の標準化と効率化
三井住友銀行では、生成AIに関するリスクを統一的に評価するため、全社共通の評価指標やテストデータの整備を進めています。その実現に向けて、当社は生成AIの入出力制御に関する知見を提供し、基準やシナリオの具体化に加え、AIアプリケーションのリリース前から継続的にリスクを検証する一元的な運用プロセスの構築を支援します。
・リアルタイムの監視・制御によるガードレール
稼働中のAIアプリケーションへのプロンプト入力と生成される回答をリアルタイムに監視・制御します。機密情報を引き出そうとする有害な入力や、安全性に欠ける不適切な回答などを即時に検知し、ブロックやアラート通知につなげます。
これらの機能は、三井住友銀行が進める AIリスクの継続的な検証と、ガードレール基盤の整備に活用されます。
今後の展望
Citadel AIは、三井住友銀行へのソリューション提供を通じて、生成AIのリスクを継続的に評価・管理する仕組みづくりを支援します。AIガバナンスを日々の開発・運用に組み込むことで、顧客向けサービスや業務における生成AIの安全・安心な活用拡大に貢献してまいります。
【三井住友銀行の概要】
会社名：株式会社三井住友銀行
代表者：頭取CEO（代表取締役）福留 朗裕
本店所在地：東京都千代田区丸の内一丁目1番2号
企業サイト：https://www.smbc.co.jp/
【Citadel AIの概要】
会社名：株式会社Citadel AI
所在地：東京都文京区向丘 2-3-10 東大前HiRAKU GATE 3-1
代表者：代表取締役 小林 裕宜
設立： 2020年12月10日
主な事業内容：「AIに信頼をあたえる」をミッションとする、日本発のグローバルスタートアップです。Google米国本社出身の最高技術責任者（CTO）をはじめとするエンジニア陣が、金融・医療・製造・人材などの大手企業や国際的な認証機関向けにAIガバナンスソリューションを開発・提供しています。
URL：https://citadel-ai.com/ja/
本件に関するお問い合わせ先
株式会社Citadel AI
E-mail：info@citadel-ai.com
