Overview
サービスの概要
AIの一部門である自然言語処理技術によって、文章の理解や作成を行うLLM（大規模言語モデル）を活用したアプリケーションやシステムに潜むセキュリティリスクを検証・評価する診断サービスです。
当サービスは、プロンプトインジェクション攻撃、機密情報の漏洩、不適切な出力処理など、LLMを活用したアプリケーション特有の脆弱性を診断し、お使いのサービスの潜在的なリスクを洗い出すことで、お客様のAI活用を安全に推進します。
Strength
サービスの強み
高度な知見を持つホワイトハッカーが、豊富な診断実績に基づく体系的なアプローチによって診断を行います。
標準的な評価に留まらず、 LLMの特性や想定される用途に応じた固有の潜在的リスクまで踏み込み、より網羅的で精度の高い診断を行い、お客様の安全かつ価値あるLLM活用を支援します。
幅広い知見による診断力
高度な検出能力
柔軟な対応力
Service Flow
サービスの流れ
事前調査・ヒアリング
お客様のアプリケーションの仕様やご要望をヒアリングし、お見積り作成/スケジュール調整を行います。
診断
弊社のホワイトハッカーが、確定したスケジュールに基づき診断を実施します。リスクレベルが高い脆弱性を検出した場合は、速報としてご報告します。
診断結果報告
診断結果を報告書にまとめお送りいたします。またオプションにて報告会実施も行っています。
再診断
報告後3カ月以内であれば、無料で再診断を実施させていただきます。
Menu
サービス内容
プロンプトインジェクション耐性
指示の上書きや役割逸脱、間接的な指示混入（貼り付け文・引用文・参照文書等）などより、ガードレールが回避されないことを確認します。
機密情報・内部情報の漏えいの検査
システム指示、内部ルール、他ユーザ／他テナント情報、会話履歴などの機密情報や内部情報が、入力誘導や例外動作を契機として出力されないことを確認します。あわせて、エラーメッセージやデバッグ情報など情報露出も評価します。
不適切出力および誤情報出力の抑止の検査
個人情報や機密情報の取り扱いや危険な手順の提示を拒否するかなど、断定的な誤回答や根拠捏造の発生傾向を確認することで、業務利用における誤誘導・誤判断リスクを評価します。
RAG／検索連携の安全性の検査
（該当する場合）
検索・参照範囲が利用者権限と整合し、越権参照が防止されているかや、テナント分離、参照根拠の妥当性、および悪性文書混入などによる回答改変の影響を確認します。
エージェント／外部ツール連携の
悪用可能性の検査
(該当する場合）
ツール実行が利用者に明示され、必要な承認手続きが設けられていることを確認します。
また、意図しない送信・更新・削除等の高リスク操作が誘導によって実行されないことならびに入力・出力の検証不足に起因する不正な外部アクセス等が発生しないことを評価します。
