AI SOC
더 많은 작업
- AI SOC; AI 보안관제
- 보안관제센터(SOC)의 탐지, 경보 분류, 조사, 대응 업무에 머신러닝과 대형 언어 모델을 적용하는 것, 또는 그렇게 운영되는 보안관제 체계
AI SOC는 보안관제센터(Security Operations Center, SOC)의 업무에 인공지능을 적용한 것을 가리킨다. 예전부터 쓰인 머신러닝 기반 이상 탐지와 UEBA에 더해, 2023년 이후에는 대형 언어 모델(LLM)이 경보 요약, 조사 질의 작성, 사고 보고서 초안, 위협 인텔리전스 해석 같은 언어 중심 업무를 맡기 시작했다. 2025년부터는 경보 하나를 받아 스스로 조사하고 판정까지 내리는 AI 에이전트가 제품으로 나오면서 "에이전트형 SOC"라는 말도 쓰인다.
SOC는 SIEM이 모은 로그와 경보를 분석가가 사람 손으로 분류하는 구조라서, 경보 수가 분석 인력보다 빨리 늘어나는 문제(경보 피로)를 오래 안고 있었다. AI SOC의 목표는 이 병목을 줄이는 것이다. NIST의 사이버 AI 프로파일 초안(NIST IR 8596)은 이 영역을 "AI 기반 사이버 방어"(Defend)라는 초점 영역으로 둔다.[1]
| 업무 단계 | 전통적 방식 | AI 적용 |
|---|---|---|
| 수집·정규화 | 에이전트·syslog로 로그 수집, 파서로 형식 변환 | 처음 보는 로그 형식의 필드 추출, 파서 초안 작성 |
| 탐지 | 시그니처, SIEM 상관 규칙 | 이상 탐지·UEBA 같은 통계·ML 모델, 자연어로 탐지 규칙 작성 보조 |
| 경보 분류(트리아지) | L1 분석가가 경보를 하나씩 열어 오탐 여부 판정 | 경보 묶기, 위험도 점수, LLM이 맥락을 모아 판정 근거와 함께 제시 |
| 조사 | 분석가가 질의 언어로 로그 검색, 위협 인텔리전스 조회 | 자연어 질문을 SIEM 질의로 변환, 관련 이벤트 타임라인 정리, 악성 스크립트 해석 |
| 대응 | SOAR 플레이북(사전에 정한 자동 조치) | 상황에 맞는 조치 추천, 플레이북 초안 작성, 승인 후 실행 |
| 보고·공유 | 사고 보고서 수작업 작성 | 사고 요약, 경영진용·기술용 보고서 초안 |
| 위협 인텔리전스 | 보고서 읽고 지표(IoC) 수작업 추출 | 보고서에서 공격 기법·지표 추출, 조직 관련성 평가. 위협 인텔리전스 참고 |
SOC 계층으로 보면 반복적 판정이 많은 L1 업무(경보 분류)에서 효과가 가장 크고, L2·L3의 심층 조사와 대응 결정에서는 분석가를 보조하는 역할에 머문다.
| 단계 | 핵심 기술 | 자동화 범위 |
|---|---|---|
| 규칙 기반 관제 | ESM, SIEM 상관 규칙 | 탐지까지. 판정과 대응은 사람 |
| ML 탐지 | 이상 탐지, UEBA, ML 기반 악성코드 탐지 | 알려지지 않은 이상 행위 탐지. 오탐이 많아 사람 판정 필요 |
| 대응 자동화 | SOAR 플레이북 | 정해진 조건의 반복 조치(차단, 격리, 티켓 생성) |
| LLM 코파일럿 | LLM + 보안 데이터 연동 | 분석가가 묻고 LLM이 요약·설명·질의 작성. 결정은 사람 |
| 에이전트형 SOC | 도구 호출이 가능한 LLM 에이전트 | 경보 하나에 대해 조사 계획, 데이터 수집, 판정까지 스스로 수행. 조치는 승인 후 |
SOAR와 LLM 에이전트의 차이는 결정 방식에 있다. SOAR 플레이북은 미리 정한 분기만 따르는 결정적 자동화라 예측 가능하지만 새로운 상황을 다루지 못한다. LLM 에이전트는 상황에 맞춰 조사 경로를 바꿀 수 있지만 같은 입력에도 다른 결과를 낼 수 있다. 그래서 실무에서는 LLM이 판단·요약을 맡고, 실제 차단·격리 같은 조치는 SOAR의 검증된 플레이북이 사람 승인 뒤 실행하는 구성이 일반적이다.
마이크로소프트는 2023년 3월 28일 Security Copilot을 비공개 프리뷰로 발표했다. OpenAI 모델과 마이크로소프트 위협 인텔리전스를 결합해 위협 정보 요약, 웹 트래픽의 악성 활동 식별, 공격 데이터 상관 분석, 사고 우선순위와 대응 권고를 제공하며 Microsoft Sentinel, Defender와 연동된다고 소개했다.[2] 2024년 4월 1일 "Microsoft Copilot for Security"라는 이름으로 정식 출시했고(이후 다시 Security Copilot으로 이름을 바꿈), 사용량 기반 과금 모델을 택했다. 출시 발표에서 마이크로소프트는 숙련 보안 인력 대상 연구에서 작업 속도가 22% 빨라지고 정확도가 7% 높아졌다고 밝혔다.[3]
2025년 3월 24일에는 에이전트 기능을 발표했다. 마이크로소프트가 만든 에이전트는 다음과 같다.[4]
| 에이전트 | 연동 제품 | 하는 일 |
|---|---|---|
| 피싱 분류 에이전트 | Microsoft Defender | 사용자가 신고한 피싱 경보를 실제 위협과 오탐으로 나누고 판정 이유를 설명. 관리자 피드백으로 개선 |
| 경보 분류 에이전트 | Microsoft Purview | 데이터 유출 방지(DLP)·내부자 위험 경보를 분류하고 우선순위 지정 |
| 조건부 접근 최적화 에이전트 | Microsoft Entra | 기존 정책이 적용되지 않는 새 사용자·앱을 찾아 수정안 제시 |
| 취약점 조치 에이전트 | Microsoft Intune | 취약점 조치 우선순위 지정, 관리자 승인 후 윈도 패치 적용 가속 |
| 위협 인텔리전스 브리핑 에이전트 | Security Copilot | 조직 특성과 노출 상황에 맞춘 위협 정보 정리 |
같은 발표에서 마이크로소프트는 2024년 한 해 고객을 노린 피싱 메일 300억 건 이상을 탐지했다고 밝혀, 피싱 분류가 첫 에이전트 대상이 된 배경을 설명했다.[4]
구글은 2025년 4월 4일 보안 특화 실험 모델 Sec-Gemini v1을 공개했다. 제미나이의 추론 능력에 구글 위협 인텔리전스(GTI), 오픈소스 취약점 데이터베이스 OSV, 맨디언트 위협 정보를 거의 실시간으로 연결해 사고 근본 원인 분석, 위협 분석, 취약점 영향 파악을 돕는 것이 목표다. 구글은 위협 인텔리전스 객관식 벤치마크 CTI-MCQ에서 다른 모델보다 최소 11%, 취약점 설명을 읽고 근본 원인을 CWE로 분류하는 CTI-RCM에서 최소 10.5% 높은 성능을 냈다고 밝혔다. 일부 기관·연구자에게 연구 목적으로 무료 제공되었다.[5]
쉬(Xu) 외의 체계적 문헌 연구는 주요 보안·소프트웨어 공학 학회와 저널에서 고른 보안 분야 LLM 응용(LLM4Security) 논문 185편을 분석했다(ACM TOSEM 게재 승인).[6] 분야별 분포는 다음과 같다.
| 분야 | 논문 수 | SOC와 관련 깊은 세부 과제(편수) |
|---|---|---|
| 소프트웨어·시스템 보안 | 119 | 시스템 로그 분석(10), 악성코드 탐지(3), 역공학·바이너리 분석(10) |
| 네트워크 보안 | 26 | 트래픽·침입 탐지(10), 사이버 위협 분석(5), 침투 테스트(4) |
| 정보·콘텐츠 보안 | 20 | 피싱·사기 탐지(8), 유해 콘텐츠 탐지(8), 포렌식(1) |
| 블록체인 보안 | 11 | 거래 이상 탐지(1) |
| 하드웨어 보안 | 9 |
논문 대부분은 취약점 탐지·수리 같은 소프트웨어 보안에 몰려 있고, 관제와 직결되는 로그 분석·침입 탐지·위협 분석 연구는 상대적으로 적다. 이 연구는 LLM을 보안 과제에 맞추는 방법이 미세 조정, 프롬프트 설계, 외부 지식 연동(RAG)으로 정교해지고 있으며, 단일 과제를 넘어 여러 단계의 보안 업무를 수행하는 자율 에이전트가 새 흐름이라고 정리했다.[6]
- 환각: LLM이 존재하지 않는 이벤트나 지표를 근거로 판정할 수 있다. 앤트로픽이 공개한 AI 주도 공격 사례에서도 모델이 얻지 못한 자격 증명을 얻었다고 보고하는 환각이 나왔다.[7] 판정에는 원본 로그 링크 같은 검증 가능한 근거를 붙이게 해야 한다. 할루시네이션 (인공지능) 참고.
- 오탐과 미탐: 경보를 자동으로 닫는 에이전트는 오탐을 줄이는 대신 진짜 공격을 놓칠 위험(미탐)을 만든다. 자동 종결 비율과 표본 재검토 체계가 필요하다.
- 프롬프트 인젝션: SOC의 LLM은 공격자가 만든 데이터(메일 본문, 악성 스크립트, 로그 문자열)를 그대로 읽는다. 구글 위협 인텔리전스 그룹은 LLM 기반 보안 분석을 피하려고 프롬프트를 코드 안에 박아 둔 리버스 셸 FRUITSHELL을 보고했다.[8] 분석 대상 데이터는 지시가 아닌 데이터로 다루도록 설계해야 한다. 간접 프롬프트 인젝션 참고.
- 과도한 권한: 조사용 에이전트에 차단·삭제 권한까지 주면 오판이 곧 장애가 된다. 읽기 권한과 조치 권한을 나누고 조치에는 사람 승인을 둔다. 과도한 위임 참고.
- 자동화 편향: 분석가가 AI의 판정을 확인 없이 따르게 되고, 신입 분석가가 경험을 쌓을 기회가 줄어든다.
- 데이터 반출과 비용: 로그를 외부 LLM으로 보내면 개인정보·기밀 반출 문제가 생기고, 경보량에 비례해 추론 비용이 든다.
AI SOC의 효과는 일반 LLM 벤치마크로는 측정되지 않아 보안 특화 평가가 따로 만들어지고 있다.
- CTIBench(2024): 위협 인텔리전스 과제에서 LLM의 지식과 추론을 평가하는 벤치마크다. 앞서 언급한 CTI-MCQ, CTI-RCM이 여기에 포함된다.[9]
- CyberSecEval 2(메타, 2024): LLM의 보안 위험과 능력을 함께 잰다. 시험한 모델 모두 프롬프트 인젝션 시험의 26~41%에 넘어갔고, 위험한 요청을 거절하도록 조정하면 정상 요청까지 거절하는 비율(거짓 거절률)이 오른다는 안전·유용성 상충을 보였다.[10]
- 운영 지표: 실제 도입 효과는 평균 탐지 시간(MTTD), 평균 대응 시간(MTTR), 분석가 1인당 처리 경보 수, 자동 종결 경보의 사후 오판율로 본다. 업체 발표 수치는 대개 자사 조건의 사용자 연구이므로 같은 조건의 비교가 아니다.
- ↑ NIST IR 8596 (Initial Preliminary Draft), Cybersecurity Framework Profile for Artificial Intelligence, NIST, 2025-12-16.
- ↑ With Security Copilot, Microsoft brings the power of AI to cyberdefense, 마이크로소프트, 2023-03-28.
- ↑ Microsoft Copilot for Security is generally available on April 1, 2024, with new capabilities, 마이크로소프트, 2024-03-13.
- ↑ 4.0 4.1 Microsoft unveils Microsoft Security Copilot agents and new protections for AI, 마이크로소프트, 2025-03-24.
- ↑ Google announces Sec-Gemini v1, a new experimental cybersecurity model, 구글, 2025-04-04.
- ↑ 6.0 6.1 Hanxiang Xu 외, 〈Large Language Models for Cyber Security: A Systematic Literature Review〉, ACM TOSEM 게재 승인, 2024(v5 2025-09-22). arXiv:2405.04760
- ↑ Disrupting the first reported AI-orchestrated cyber espionage campaign, 앤트로픽, 2025-11-13.
- ↑ GTIG AI Threat Tracker: Advances in Threat Actor Usage of AI Tools, Google Threat Intelligence Group, 2025-11-06.
- ↑ Md Tanvirul Alam 외, 〈CTIBench: A Benchmark for Evaluating LLMs in Cyber Threat Intelligence〉, 2024. arXiv:2406.07599
- ↑ Manish Bhatt 외, 〈CyberSecEval 2: A Wide-Ranging Cybersecurity Evaluation Suite for Large Language Models〉, 2024. arXiv:2404.13161