“生成AIのリスクはユースケースとセットで考える必要がある”
生成AIの急速な普及とともに、そのリスクにも注目が集まり、世界各国では規制やガイドラインが整備されつつあります。
今回、実運用されている生成AIを利用した社内情報検索システムを対象に、Citadel AI の大規模言語モデル(LLM)の品質改善ツール「Lens for LLMs」を用いたモデルリスク評価にかかわる技術検証を実施いただきました。この結果、生成AIを用いたRAGシステムのリスクを適切に検知し、その有効性を確認することができました。
AI開発や導入に携わる技術者・マネージャーのみならず、生成AIのリスクマネジメントに関心のある方々にご一読いただきたい内容となっており、詳細は以下のNTTデータのブログメディアDATA INSIGHTをぜひご参照ください。
https://www.nttdata.com/jp/ja/trends/data-insight/2024/1008/
【株式会社Citadel AIについて】
Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と正に実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社製品は、AIのモデルやアプリケーションに依存することなく、統一化されたテストを、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。
代表取締役 | 小林裕宜 |
設立 | 2020年12月10日 |
企業URL | https://citadel-ai.com |
X(旧Twitter) | https://twitter.com/CitadelAI |
お問合せ | info@citadel-ai.com |