사람·AI 협업 체계
Co-Intelligence Security
여러 전문가와 AI가 각자의 강점을 살려 함께 조사·분석·개발·검증하는 체계입니다.
사람은 문제 정의부터 검증과 개선까지 전 과정에서 전문성을 발휘합니다.
사람과 AI는 어떻게 함께 일하는가?
여러 사람과 AI 에이전트가 역할을 나눠 함께 일하고, 권한·승인과 기록은 그 위의 한 계층에서 관리합니다.
검토 완료
함께 작동하는 요소
한 과제는 아래 요소를 함께 씁니다. 같은 목표와 업무 흐름 안에서 작동하고, 일하며 얻은 경험은 보안 역량으로 쌓입니다.
- 사람과 조직
문제를 정의하고 가설을 세우며, 실험·분석·개발과 판단을 맡는 보안 전문가. 고객의 개발·운영·감사·의사결정 담당자와 연구·교육 파트너도 각자의 역할로 참여합니다. 역할은 과제의 난도와 정보·권한, 참여자의 능력에 따라 나눕니다. 사람이 직접 실행하는 일도, AI 에이전트가 분석과 개발을 맡는 일도 있습니다.
- 전문 도구
사람이 직접 사용하고 AI 에이전트도 활용하는 공격·진단·분석·검증 도구
- AI 모델·보안 에이전트
과제마다 합의해 연결하는 외부·내부·로컬 모델과, 도구·지식·검증·협업을 갖춘 역할별 보안 에이전트
- 작업 조율
여러 사람과 에이전트가 나눠 맡은 작업과 진행 상태, 맥락과 결과, 증적과 승인을 한곳에 모아, 누가 무엇을 하고 있는지 보이게 하고 통제합니다.
- 데이터·지식·플레이북
과제에서 사람·AI 에이전트·모델이 제공받아 쓰는 전문 지식과 경험, 공격·방어 기법, 플레이북, 평가 데이터셋과 품질 기준
- 운영·통제·검증
역할·권한, 승인·중단, 근거·증적, 품질·안전성 평가와 정책 준수
- 교육·훈련·평가
사람을 위한 실습·시나리오 훈련과 통제된 실습 환경·챌린지, 그리고 AI 에이전트의 업무 수행 능력과 안전한 운용을 위한 평가·개선
- 서비스·파트너
전문가·도구·AI를 조합한 서비스와, 파트너의 기술·데이터 연계
연결부터 개선까지, 되풀이되는 여섯 단계
뛰어난 모델, 전문 도구, 여러 AI 에이전트와 숙련된 전문가가 여섯 단계에 걸쳐 함께 일하며, 어느 하나만으로는 내기 어려운 결과를 내도록 설계합니다.
연결
과제마다 합의한 모델과 도구, 데이터를 하나의 업무 흐름에 연결합니다.
조율
문제 정의, 가설과 실험, 조사·분석, 개발을 여러 사람과 AI 에이전트가 나눠 맡고, 맥락과 결과를 한곳에서 주고받습니다.
관찰
누가 어떤 도구로 무엇을 어디까지 했는지 단계마다 기록합니다.
통제
정해진 권한 밖의 행동은 막고, 중요한 행동은 사람이 승인하며, 합의한 중단 조건에 닿으면 멈춥니다.
검증
사람이 찾은 것도, 도구와 AI가 찾은 것도 교차 검증을 거쳐 전문가가 오탐을 거른 뒤에만 결과가 되고, 근거와 함께 남습니다. 보완이 필요하면 앞 단계로 돌아갑니다.
개선·축적
검토를 거친 방법과 지식은 이용 권한과 합의 범위 안에서 도구·플레이북과 지식 제공 방식에 반영해 다음 과제에서 다시 씁니다.
쓸 수 있는 모델이 제한된 과제에서도 같은 흐름으로 일합니다. 작업을 나누고 도구를 실행하며, 공통 지식과 교차 검증, 사람의 판단을 더합니다. 그 이유는 소버린 보안 AI에서 설명합니다
이어서 볼 내용
모델이 바뀌어도 보안 역량을 조직에 쌓고 발전시키려는 이유와 방향
여섯 연구 분야와 주요 연구 과제
이 페이지는 SAFE SQUARE가 연구하며 과제에 맞게 적용해 가는 협업 체계를 설명합니다.
사람·AI 협업(COLLAB) — 여러 사람과 AI 에이전트가 함께 일하는 기술을 연구하는 분야입니다. 이 체계는 이 분야를 비롯해 KNOWLEDGE·MODEL·AGENT 등 여러 분야의 성과를 함께 활용합니다.