人とAIの協働の仕組み
Co-Intelligence Security
複数の専門家とAIが、それぞれの強みを活かして調査・分析・開発・検証に取り組む仕組みです。
人は課題の定義から検証・改善まで、全過程で専門性を発揮します。
人とAIは、どのように共に働くのか？
複数の人とAIエージェントが役割を分けてともに働き、権限・承認と記録はその上の一つのレイヤーで管理します。
確認済み
共に機能する要素
一つの課題は、以下の要素をともに使います。同じ目標と業務の流れの中で働き、働きながら得た経験はセキュリティの能力として積み上がります。
- 人と組織
課題を定義し、仮説を立て、実験・分析・開発と判断を担うセキュリティ専門家。お客様の開発・運用・監査・意思決定の担当者と研究・教育パートナーも、それぞれの役割で参加します。役割は、課題の難しさ、情報と権限、参加者の能力に応じて分担します。人が自ら実行することも、AIエージェントが分析や開発を担うこともあります。
- 専門ツール
人が直接使い、AIエージェントも活用する攻撃・診断・分析・検証のツール
- AIモデル・セキュリティエージェント
課題ごとに合意してつなぐ外部・内部・ローカルのモデルと、ツール・知識・検証・協働を備えた役割別のセキュリティエージェント
- 作業の調整
複数の人とエージェントが分担した作業と進行状況、文脈と結果、証跡と承認を一か所に集め、誰が何をしているかを見えるようにして統制します。
- データ・知識・プレイブック
課題の中で人・AIエージェント・モデルが提供を受けて使う専門知識と経験、攻撃・防御の手法、プレイブック、評価データセットと品質基準
- 運用・統制・検証
役割・権限、承認・中断、根拠・証跡、品質・安全性の評価とポリシーの遵守
- 教育・訓練・評価
人のための実習・シナリオ訓練、管理された実習環境とチャレンジ、そしてAIエージェントの業務遂行能力と安全な運用に向けた評価・改善
- サービス・パートナー
専門家・ツール・AIを組み合わせたサービスと、パートナーの技術・データとの連携
接続から改善まで、繰り返し回る6つのステップ
優れたモデル、専門ツール、複数のAIエージェントと熟練した専門家が6つのステップでともに働き、どれか一つだけでは出しにくい成果を出せるよう設計しています。
接続
課題ごとに合意したモデル・ツール・データを、一つの業務フローにつなぎます。
調整
課題の定義、仮説と実験、調査・分析、開発を複数の人とAIエージェントが分担し、文脈と結果を一か所でやり取りします。
観察
誰がどのツールで何をどこまで行ったかを、段階ごとに記録します。
統制
決められた権限の外の行動は止め、重要な行動は人が承認し、合意した中断条件に達したら止めます。
検証
人が見つけたものも、ツールとAIが見つけたものも、クロス検証を経て専門家が誤検知を除いてはじめて結果となり、根拠とともに残ります。補う必要があれば前の段階に戻ります。
改善・蓄積
確認を経た手法と知識は、利用権限と合意範囲の中でツール・プレイブックと知識の提供方法に反映し、次の課題で再び使います。
使えるモデルが限られた課題でも、同じ流れで働きます。作業を分け、ツールを実行し、共通の知識とクロス検証、人の判断を加えます。その理由はソブリン・セキュリティAIで説明しています
あわせて読む
モデルが変わってもセキュリティ能力を組織に蓄積し、高めていく理由と方向
6つの研究分野と主な研究課題
このページは、SAFE SQUAREが研究しながら課題に合わせて適用していく協働の仕組みを説明します。
人とAIの協働（COLLAB）—複数の人とAIエージェントがともに働くための技術を研究する分野です。この仕組みは、この分野をはじめ、KNOWLEDGE・MODEL・AGENTなど複数の分野の成果をあわせて活用します。