ソブリン・セキュリティAI
Sovereign Security AI
人とAIがセキュリティ業務を実行・検証・管理できるよう、必要な技術と専門性を自ら蓄積し、発展させていくことです。
外部技術を排除したり、すべてのモデルを自ら開発したりするという意味ではありません。制約のある環境でも必要な業務を続けられる方法を研究します。知識や経験を、特定のモデルだけに依存させないことが重要です。
どのようなセキュリティ能力を、なぜ持続的に確保しようとするのか？
モデルや環境が変わっても、セキュリティ業務をやり遂げる能力です。優れたモデルは積極的に活用し、必要に応じて入れ替えながら、知識・ツール・検証と人の専門性を組織に蓄積していきます。
確認済み
何を意味するのか
SAFE SQUAREが目指すソブリン・セキュリティAIとは、人とAIがセキュリティ業務を実行し、結果を検証し、技術の使い方や運用を自ら判断・管理できる能力です。そのために、人の専門性、AI技術、知識とツール、協働の仕組みをともに発展させます。
優れた外部AI技術を活用する一方、セキュリティ業務に適したモデルの改良や、自社環境へ導入・運用しやすいローカルモデルの研究も行います。モデルの選択や組み合わせは、数ある方法の一つです。知識、ツール、検証、協働の仕組みをともに改善し、モデルや運用環境の違いが業務品質に与える影響を小さくすることを目指します。
モデルからの独立そのものが目的ではなく、異なるモデルで同じ性能や結果を保証するという意味でもありません。目的は、実際のセキュリティ業務を遂行する能力を確保し、高め続けることです。
モデルが変わっても組織に残るもの
モデルは変わりえます。より優れたモデルが登場し、提供条件が変わり、課題ごとに使えるモデルも異なります。そのため、能力をモデルの中だけに置きません。業務で使う知識、人とエージェントがともに使うツール、モデルと結果を評価する基準とデータセット、作業の方法、実行の記録と失敗の経験、そして人の専門性は、モデルが変わっても組織に残り、蓄積され続けます。モデルはこれらとつなげて選び、組み合わせ、改良し、必要に応じて入れ替えます。
この能力を支える技術
モデルを選び、入れ替えても業務が続くためには、モデルを評価・改良する技術と、モデルの外にある知識・ツール・検証の基盤がともに発展する必要があります。
業務ごとの評価で課題と環境に合うモデルを選んで組み合わせ、セキュリティ業務に合わせて改良します。新しいモデルも同じ評価で比較して採用を判断するため、モデルを入れ替えても業務を一からやり直すことにはなりません。
知識を収集・加工・蓄積し、人もエージェントも、そのとき使うモデルも、目的と環境に合わせて活用できるように提供します。この基盤を特定のモデルの外に置くため、モデルを入れ替えても知識と経験は途切れず、活用の結果は知識の改善に生かされます。
攻撃・分析・検証のツールと試験環境、エージェントの計画・ツール活用・状態管理を、特定のモデルから切り離して開発します。モデルが変わっても、同じツールと実行環境で、同じ権限・承認・中断・復旧の手順のもとで作業します。
評価データセットと品質基準で結果を同じ尺度で確認し、実際の悪用可能性と影響は技術的に再現して検証します。実行記録と根拠が残るため、結果を再確認し、別のモデルで得た結果とも比較できます。
これらの技術が実際の課題で人とともにどう使われ、調整・統制・検証されるかを知りたい場合は 人とAIの協働の進め方を見る
最先端のモデルがいつも使えるとは限りません
業務が一つのモデルに縛られていると、そのモデルを使えないときに業務も止まります。次のような状況でも、セキュリティ業務は続けられなければなりません。
- コスト
すべての作業に最先端のモデルを使うと、コストが見合わないことがあります。
- 提供事業者の方針
提供事業者の利用方針や提供条件が変わると、進めていた作業が突然止まることがあります。
- データ主権
お客様のデータや診断結果を外部のモデルに送れない課題があります。
- 閉域網
インターネットから分離された環境では、外部のモデルに接続できません。
- 規制
業種や国の規制が、使えるモデルやデータの扱い方を定めることもあります。
一つの組織ではなく、エコシステムで
ソブリン・セキュリティAIは、モデルやエージェントを一つ強化すれば得られる能力ではありません。一つの組織の中にとどめず、急速に変化するAIの時代にも持続できるセキュリティのエコシステムへと広げていきます。
- 人を専門家へ
AIがより多くの業務を担っても、状況を理解し、新しい問題を見つけ、結果を判断して責任を持つ人の力は必要であり続けます。人をセキュリティの専門家として育て続け、能力が組織に蓄積されるようにします。
- どこでもセキュリティに手が届くように
一つのモデルに頼らなければ、コストや閉域網のために最先端のモデルを使えない場所でも、セキュリティ業務を続けられます。予算の限られた組織には、社会貢献プログラムで届けます。
ソブリン・セキュリティAIは、特定のモデルやリリース済みの製品の名前ではありません。実際の課題で使うモデル・ツール・環境は、課題ごとに合意します。