인공지능 DLP
더 많은 작업
인공지능 DLP(AI DLP, Artificial Intelligence Data Loss Prevention)는 생성형 인공지능과 대형 언어 모델의 사용 과정에서 개인정보, 기업 기밀, 인증정보, 소스코드 등 민감정보가 외부 AI 서비스나 허가되지 않은 사용자에게 유출되는 것을 탐지·차단하는 데이터 유출 방지 기술이다.
기존 DLP(Data Loss Prevention)는 이메일, 웹 업로드, USB, 메신저, 파일 전송 등에서 민감정보가 조직 밖으로 이동하는 것을 탐지·통제하는 보안 기술이다. 생성형 AI의 업무 활용이 확대되면서 사용자가 ChatGPT와 같은 외부 AI 서비스의 프롬프트에 내부 정보를 입력하는 행위가 새로운 데이터 유출 경로로 등장했고, 이를 통제하기 위한 기술이 인공지능 DLP 또는 AI DLP로 불리고 있다.
AI DLP라는 명칭은 하나의 표준화된 기술 규격을 의미하지 않는다. 보안업계에서는 기존 DLP·CASB·SSE 제품에 생성형 AI 통제를 추가한 경우부터 LLM 앞단에서 프롬프트와 응답을 검사하는 인공지능 언어모델 가드레일 솔루션까지 폭넓게 사용한다.
AI DLP가 다루는 대표적인 정보는 다음과 같다.
- 주민등록번호, 전화번호, 이메일 주소 등의 개인정보
- 계좌번호와 신용카드 정보
- API 키, 액세스 토큰, 비밀번호 등의 인증정보
- 기업의 영업비밀 및 내부 문서
- 미공개 재무·경영정보
- 소스코드
- 고객정보 및 상담 기록
- 의료·금융 등 규제 대상 정보
- 조직이 자체적으로 지정한 기밀 키워드와 문서
생성형 AI는 기존 웹 서비스와 데이터 유출 양상이 다르다. 사용자가 문서를 파일로 전송하지 않더라도 문서의 일부를 프롬프트에 복사하는 것만으로 조직의 정보가 외부 AI 사업자의 시스템으로 전달될 수 있다.
실제로 삼성전자는 2023년 사내에서 ChatGPT 사용을 허용한 뒤 일부 직원이 소스코드 등 민감한 정보를 입력한 사례가 발생하자 사내 기기에서 생성형 AI 서비스 사용을 제한한 것으로 보도됐다.[1]
AI DLP는 생성형 AI 자체를 전면 금지하는 대신 어떤 정보를 어떤 AI에 보낼 수 있는지를 정책적으로 통제하는 방식으로 접근한다.
대표적인 AI DLP의 처리 구조는 다음과 같다.
사용자 ↓ 프롬프트·파일 입력 ↓ AI DLP ├─ 개인정보 탐지 ├─ 인증정보 탐지 ├─ 기업 기밀 탐지 ├─ 소스코드 탐지 ├─ 파일·문서 분류 └─ 사용자·AI 서비스별 정책 확인 ↓ 허용 ──────────→ 외부/내부 LLM 차단 마스킹 경고 후 허용 승인 요청 ↓ 감사 로그
예를 들어 다음과 같은 프롬프트가 입력되었다고 가정할 수 있다.
다음 고객의 대출 상담 내용을 요약해 줘. 이름: 홍길동 주민등록번호: 900101-1234567 계좌번호: 123-456-789012 ...
AI DLP는 주민등록번호와 계좌번호를 식별하여 요청 자체를 차단하거나 다음과 같이 정보를 마스킹한 후 LLM에 전달할 수 있다.
다음 고객의 대출 상담 내용을 요약해 줘. 이름: [이름] 주민등록번호: [주민등록번호] 계좌번호: [계좌번호] ...
이 방식에서는 LLM이 실제 개인정보를 알지 못하더라도 요약과 같은 작업을 수행할 수 있다.
주민등록번호, 신용카드번호, 전화번호 등 일정한 구조를 가진 정보는 정규 표현식이나 데이터 패턴으로 탐지할 수 있다.
API 키와 인증 토큰 역시 특정 접두사나 형식을 이용하여 상당 부분 식별할 수 있다.
장점은 처리 속도가 빠르고 탐지 이유를 설명하기 쉽다는 것이다. 반면 일정한 형식이 없는 영업비밀이나 문맥에 따라 민감성이 달라지는 문장은 탐지하기 어렵다.
기업이 지정한 프로젝트명, 고객명, 제품 코드, 내부 조직명 등의 단어를 사전에 등록하고 프롬프트에서 해당 정보가 발견되면 차단하는 방식이다.
단순하지만 조직 고유의 기밀정보를 통제하는 데 유용하다.
머신러닝이나 LLM을 이용해 문장의 의미를 분석하고 정형화되지 않은 민감정보를 판단하는 방식이다.
예를 들어 정확한 패턴이 없는 다음과 같은 문장도 기업 정책에 따라 기밀로 판단할 수 있다.
다음 분기 인수 대상 기업은 A사이고 제안 가격은 3,500억 원이다.
단순 정규식으로는 이것이 기밀정보인지 알기 어렵지만 문맥 분석을 사용하면 M&A 관련 미공개 정보라는 의미를 고려할 수 있다.
조직이 보유한 중요 문서나 데이터의 특징값을 미리 등록하고, 사용자가 문서 전체 또는 일부를 AI에 입력하는 경우 원본 데이터와의 유사성을 비교하는 방식도 사용할 수 있다.
이는 사용자가 개인정보와 같은 정형 데이터를 입력하지 않고 내부 보고서 내용을 복사해 AI에 전달하는 경우를 탐지하는 데 중요하다.
| 구분 | 기존 DLP | AI DLP |
|---|---|---|
| 주요 통제 대상 | 파일·이메일·USB·웹 업로드 | AI 프롬프트·첨부파일·모델 응답 |
| 주요 유출 방향 | 조직 내부 → 외부 | 사용자 → 외부 AI 및 AI → 사용자 |
| 데이터 형태 | 파일·문서 중심 | 자연어·코드·문서·이미지 등 |
| 정규식 탐지 | 중요 | 중요 |
| 문맥 분석 | 제한적 또는 제품별 지원 | 중요 |
| 입력 마스킹 | 상대적으로 덜 중요 | 핵심 기능 중 하나 |
| LLM 응답 검사 | 일반적으로 대상 아님 | 가능 |
| 프롬프트 인젝션 대응 | 대상 아님 | 가드레일 결합 시 가능 |
| AI 서비스별 정책 | 대상 아님 | 핵심 기능 |
다만 양자를 완전히 별개의 기술로 보기는 어렵다. 기존 DLP·CASB·SSE 사업자들이 생성형 AI 통제를 기존 제품에 추가하고 있기 때문이다.
AI DLP와 AI 가드레일은 상당 부분 기능이 중첩되지만 목적에는 차이가 있다.
AI DLP의 중심 목적은 데이터 보호이다. 사용자가 LLM에 보내는 데이터와 LLM이 외부로 내보내는 데이터에 개인정보·기밀정보가 포함되는지를 검사한다.
LLM 가드레일은 보다 넓은 개념으로 데이터 유출뿐 아니라 다음과 같은 위험을 함께 다룬다.
- 프롬프트 인젝션
- 탈옥(Jailbreak)
- 유해 콘텐츠
- 시스템 프롬프트 유출
- 허용되지 않은 주제
- 환각 및 근거성
- AI 에이전트의 비인가 도구 호출
따라서 상용 제품에서는 두 기능이 하나의 솔루션으로 결합되는 경우가 많다.
Microsoft Purview Data Loss Prevention은 조직의 민감정보가 Microsoft 365 및 여러 엔드포인트에서 부적절하게 공유되는 것을 탐지·통제한다. Microsoft는 생성형 AI 환경에서도 Purview의 데이터 보안 정책을 확장하고 있으며 Microsoft 365 Copilot과 AI 애플리케이션에서 데이터 보안·규정준수 기능을 제공한다.[2]
Google Cloud의 Sensitive Data Protection은 개인정보와 인증정보 등의 민감 데이터를 탐지·분류·비식별화하는 서비스이다. Google의 생성형 AI 보안 서비스인 Model Armor는 Sensitive Data Protection과 통합하여 LLM 프롬프트 및 응답에 포함된 민감정보를 검사할 수 있다.[3]
Amazon Bedrock Guardrails는 LLM 입력과 출력에서 개인식별정보(PII)를 탐지하여 차단하거나 마스킹할 수 있다. 이름, 이메일 주소, 전화번호, 신용카드번호, IP 주소, AWS 자격증명 등 여러 민감정보 유형을 지원하며 정규식을 이용해 조직 자체 민감정보 유형을 정의할 수도 있다.[4]
Palo Alto Networks의 Prisma AIRS는 AI 애플리케이션의 런타임 트래픽을 검사하고 민감정보와 데이터 유출 위험을 통제한다. 프롬프트 인젝션 등의 AI 공격과 함께 데이터 손실 방지 기능을 제공하는 통합 AI 보안 플랫폼에 해당한다.[5]
Netskope는 기업이 사용하는 생성형 AI 애플리케이션을 식별하고 사용자·애플리케이션·데이터를 기준으로 접근 정책과 DLP 정책을 적용한다. ChatGPT와 같은 생성형 AI 애플리케이션으로 전송되는 프롬프트와 데이터에 대한 가시성 및 통제 기능을 제공한다.[6]
Zscaler는 Data Security 및 AI 보안 기능을 통해 생성형 AI 애플리케이션 사용을 식별하고 프롬프트를 통한 민감정보 유출을 통제한다. 조직은 AI 애플리케이션별로 접근을 허용하면서 특정 데이터 입력만 제한하는 정책을 구성할 수 있다.[7]
국내에서도 기존 DLP·정보유출방지 기업과 AI 보안 기업을 중심으로 생성형 AI 입력 데이터 통제 기능이 개발되고 있다.
SafeX는 외부 생성형 AI 사용 과정의 정보유출을 방지하기 위한 AI-DLP 및 가드레일 솔루션이다. 개인정보, API 키와 인증정보, 기업이 지정한 키워드 등을 탐지하며 정규식과 정책을 이용한 통제를 지원한다.[8]
프롬프트 인젝션·탈옥 탐지 등 가드레일 기능도 함께 제공하므로 AI DLP와 LLM 보안 게이트웨이를 결합한 유형에 해당한다.
SNIPER AIVAX는 생성형 AI에 입력되는 프롬프트를 검사하여 개인정보와 기업 기밀 등의 민감정보 유출을 통제하는 프롬프트 보안 솔루션이다. AI 기반 문맥 분석과 보안 정책을 이용하여 민감정보뿐 아니라 프롬프트 인젝션 등의 비정상 입력도 탐지하는 것을 특징으로 한다.[9]
AI DLP가 민감정보를 발견했을 때 반드시 요청 전체를 차단해야 하는 것은 아니다.
| 방식 | 설명 |
|---|---|
| 차단 | AI로 데이터가 전송되지 않도록 요청 자체를 거부 |
| 마스킹 | 민감한 부분만 제거·치환한 뒤 AI에 전송 |
| 경고 | 사용자에게 위험을 알리고 입력을 수정하도록 유도 |
| 승인 | 관리자 등의 승인을 받은 경우에만 전송 |
| 로깅 | 요청은 허용하지만 이벤트를 감사 기록으로 남김 |
| 서비스 변경 | 민감정보가 포함된 요청을 외부 AI 대신 승인된 내부 LLM으로 전달 |
특히 마스킹은 생성형 AI 환경에서 유용하다. 개인정보를 제거해도 번역, 요약, 문장 교정, 분류 등의 작업을 수행할 수 있는 경우가 많기 때문이다.
AI DLP는 보호하려는 AI 이용 방식에 따라 여러 위치에 구축할 수 있다.
엔드포인트 방식은 PC의 브라우저나 애플리케이션에서 ChatGPT, Gemini, Claude 등의 외부 AI 서비스로 전송되는 데이터를 검사한다. 직원이 임의로 사용하는 생성형 AI까지 통제하기 유리하다.
네트워크·SSE 방식은 조직의 웹 트래픽을 보안 게이트웨이를 통해 검사한다. 기존 SWG·CASB·DLP 환경과 결합하기 쉽다.
API 게이트웨이 방식은 자체 개발한 AI 서비스와 LLM API 사이에 AI DLP를 배치한다.
사내 AI 서비스
↓
AI DLP / AI Gateway
↓
OpenAI / Claude / Gemini / 자체 LLM
이 방식은 어떤 모델을 사용하더라도 중앙에서 동일한 데이터 보호 정책을 적용하기 쉽다는 장점이 있다.
AI DLP는 생성형 AI의 정보유출 위험을 줄일 수 있지만 모든 유출을 탐지할 수 있는 것은 아니다.
주민등록번호나 API 키처럼 명확한 형식이 존재하는 데이터는 비교적 탐지하기 쉽지만, 기업의 사업 전략이나 아직 공개되지 않은 의사결정처럼 문맥에 따라 기밀성이 결정되는 정보는 정확하게 판단하기 어렵다.
LLM을 이용한 의미 기반 탐지를 추가하면 이러한 문제를 일부 보완할 수 있지만 처리 지연과 비용이 증가하고 오탐과 미탐이 발생할 수 있다. 검사 자체를 외부 LLM에 맡길 경우에는 민감정보가 가드레일 사업자나 검사 모델에 전달되는 새로운 데이터 흐름도 검토해야 한다.
또한 AI DLP는 데이터가 AI에 전달되는 경로를 보호하는 기술이므로 최소권한, 접근통제, 데이터 분류, AI 가드레일, 감사 로그 등의 통제와 함께 사용하는 것이 일반적이다.
- ↑ Bloomberg, 「Samsung Bans Staff’s AI Use After Spotting ChatGPT Data Leak」, https://www.bloomberg.com/news/articles/2023-05-02/samsung-bans-chatgpt-and-other-generative-ai-use-by-staff-after-leak, 확인일: 2026-10-04.
- ↑ Microsoft, 「Data security and compliance protections for Microsoft 365 Copilot and other generative AI apps」, https://learn.microsoft.com/en-us/purview/ai-m365-copilot, 확인일: 2026-10-04.
- ↑ Google Cloud, 「Model Armor overview」, https://docs.cloud.google.com/model-armor/overview, 확인일: 2026-10-04.
- ↑ Amazon Web Services, 「Remove PII from conversations by using sensitive information filters」, https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-sensitive-filters.html, 확인일: 2026-10-04.
- ↑ Palo Alto Networks, 「Prisma AIRS AI Runtime Security」, https://www.paloaltonetworks.com/ai-security/ai-runtime-security, 확인일: 2026-10-04.
- ↑ Netskope, 「Netskope for Generative AI」, https://www.netskope.com/solutions/generative-ai-security, 확인일: 2026-10-04.
- ↑ Zscaler, 「Secure Generative AI」, https://www.zscaler.com/solutions/secure-generative-ai, 확인일: 2026-10-04.
- ↑ 이로운앤컴퍼니, 「세이프엑스」, https://eroun.ai/, 확인일: 2026-10-04.
- ↑ 윈스테크넷, 「SNIPER AIVAX」, https://www.wins21.com/kor/product/product.html?depth1=36&pcode=22, 확인일: 2026-10-04.
- ↑ 10.0 10.1 시커스랩, 「KYRA AI Guardrail」, https://seekerslab.com/ko/products/ai-guardrail, 확인일: 2026-10-04.