NIST AI RMF
더 많은 작업
- Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1; NIST AI 위험 관리 프레임워크
- 미국 국립표준기술연구소(NIST)가 인공지능 시스템의 위험을 조직 차원에서 관리하도록 Govern, Map, Measure, Manage 네 기능으로 정리한 자율 적용 프레임워크
NIST AI RMF(AI Risk Management Framework)는 NIST가 2023년 1월 26일 발표한 인공지능 위험 관리 프레임워크다. 간행물 번호는 NIST AI 100-1이고 판 이름은 AI RMF 1.0이다.[1] 미국 「국가 인공지능 이니셔티브법」(National Artificial Intelligence Initiative Act of 2020)의 지시에 따라 만들었으며, 원문은 이 프레임워크를 자율적(voluntary)이고, 권리를 보호하며, 특정 산업에 한정되지 않고, 사용 사례를 가리지 않는(use-case agnostic) 자료라고 설명한다.[2]
AI RMF는 보안만 다루는 문서가 아니다. 신뢰할 수 있는 AI의 특성 일곱 가지(유효성과 신뢰성, 안전성, 보안성과 회복력, 책임성과 투명성, 설명 가능성과 해석 가능성, 프라이버시 강화, 유해한 편향을 관리한 공정성)를 놓고, 그 위험을 조직이 어떻게 다스리고(Govern), 맥락을 파악하고(Map), 측정하고(Measure), 대응할지(Manage)를 성과(outcome) 단위로 적었다. 공격 기법의 분류는 자매 간행물 NIST AI 100-2가, 생성형 AI 고유 위험은 NIST AI 600-1 생성형 AI 프로파일이 맡는다. 국내 인공지능(AI) 보안 안내서도 참고 자료로 AI RMF 1.0을 들었다.[3]
이름이 비슷한 NIST 위험 관리 프레임워크(RMF, NIST SP 800-37)와는 다른 문서다. SP 800-37은 연방 정보 시스템의 보안·프라이버시 통제를 준비, 분류, 선정, 구현, 평가, 인가, 모니터링의 7단계로 관리하는 절차이고, AI RMF는 AI 시스템의 사회기술적 위험까지 포함하는 별도 프레임워크다. 문서에서 그냥 "RMF"라고 쓰면 대개 SP 800-37을 가리키므로 AI 쪽은 "AI RMF"로 구분해 쓴다.
| 날짜 | 내용 |
|---|---|
| 2021-07-29 | AI RMF 개발을 위한 정보 요청(RFI) 공고 |
| 2021-10-15 | RFI 응답 요약과 AI 위험 분류 체계 초안 공개 |
| 2021-12-13 | 개념 문서(concept paper) 공개 |
| 2022-03-17 | 첫 번째 초안 공개 |
| 2022-08-18 | 두 번째 초안 의견 수렴 |
| 2023-01-26 | AI RMF 1.0(NIST AI 100-1) 발표. Playbook, 로드맵, 다른 프레임워크와의 대응표(crosswalk)를 함께 공개 |
| 2023-03-30 | 신뢰할 수 있는 책임 있는 AI 자료 센터(Trustworthy and Responsible AI Resource Center, AIRC) 개설 |
| 2024-07-26 | NIST AI 600-1 생성형 AI 프로파일 발표 |
| 2026-04-07 | 핵심 기반 시설의 신뢰할 수 있는 AI에 관한 AI RMF 프로파일 개념 노트 공개 |
날짜는 NIST AI RMF 공식 페이지 기준이다.[1] 원문은 공식 정보 요청 응답, 세 차례 워크숍, 개념 문서와 두 초안에 대한 공개 의견을 거쳐 1.0을 만들었다고 적었다.[2]
판 관리 방식도 원문에 정해져 있다. 첫 번째 숫자는 세대(1.0)를 뜻하고 큰 개정 때만 바뀌며, 작은 개정은 "1.1"처럼 소수점 뒤 숫자로 표시한다. NIST는 내용을 정기적으로 검토하되 AI 공동체의 공식 의견을 받는 검토를 늦어도 2028년까지 하겠다고 밝혔다.[2] 2026년 10월 현재 공식 페이지는 AI RMF 1.0이 백악관 AI 행동 계획(AI Action Plan)의 일환으로 개정 중이라고만 적고 일정은 밝히지 않았다.[1]
본문은 두 부분과 부록 넷으로 되어 있다.[2]
| 부분 | 절 | 내용 |
|---|---|---|
| 1부 기초 정보 | 1. 위험의 틀 | 위험·영향·피해의 이해. AI 위험 관리의 어려움 네 가지: 위험 측정(믿을 만한 지표 부족, 제3자 구성요소, 실험실과 실제 환경의 차이 등), 위험 허용 수준, 위험 우선순위, 조직 위험 관리와의 통합 |
| 2. 대상 | AI 시스템의 핵심 차원(응용 맥락, 데이터와 입력, AI 모델, 과업과 출력, 그 중심의 사람과 지구)과 생명주기 단계, 단계별 AI 행위자(AI actor). 위험 관리는 계획·설계 단계부터 시작하라고 권한다 | |
| 3. AI 위험과 신뢰성 | 신뢰할 수 있는 AI의 일곱 특성 | |
| 4. 효과성 | 프레임워크 적용 효과를 평가하는 방법 | |
| 2부 코어와 프로파일 | 5. AI RMF 코어 | Govern, Map, Measure, Manage 네 기능과 범주·하위 범주 |
| 6. 프로파일 | 사용 사례, 시간(현재·목표), 범분야 프로파일 | |
| 부록 | A~D | A: AI 행위자 업무 설명, B: AI 위험이 전통 소프트웨어 위험과 다른 점, C: AI 위험 관리와 인간-AI 상호작용, D: AI RMF의 속성 |
부록 B는 AI 고유의 위험이 기존 소프트웨어와 무엇이 다른지 정리한다. 학습 데이터가 실제 맥락을 대표하지 못할 수 있다는 점, 사전 학습 모델과 전이 학습이 이점과 함께 위험도 가져온다는 점 등이 여기에 해당한다.[2]
원문 3장의 순서와 이름이다. 한국어 표기는 공식 번역판이 없어 이 문서에서 옮긴 것이다(NIST 공식 페이지에는 아랍어·일본어 번역만 올라와 있다).[1]
| 절 | 원문 | 한국어 | 요지 |
|---|---|---|---|
| 3.1 | Valid and Reliable | 유효성과 신뢰성 | 요구 사항을 충족하고 의도한 조건에서 실패 없이 작동한다. 다른 특성의 바탕이 되는 필수 조건이라 그림에서 맨 아래에 놓인다 |
| 3.2 | Safe | 안전성 | 정해진 조건에서 사람의 생명, 건강, 재산, 환경을 위험에 빠뜨리지 않는다 |
| 3.3 | Secure and Resilient | 보안성과 회복력 | 무단 접근과 사용을 막고, 예기치 못한 변화나 공격을 받아도 기능을 유지하거나 안전하게 멈춘다. 데이터 중독, 모델 탈취 같은 공격이 여기서 다뤄진다 |
| 3.4 | Accountable and Transparent | 책임성과 투명성 | 시스템과 출력에 관한 정보를 적절히 공개하고 책임 소재가 분명하다. 나머지 모든 특성과 관련되므로 그림에서 세로 상자로 그린다 |
| 3.5 | Explainable and Interpretable | 설명 가능성과 해석 가능성 | 작동 원리(설명)와 출력의 의미(해석)를 이해할 수 있다. 설명 가능한 인공지능 참고 |
| 3.6 | Privacy-Enhanced | 프라이버시 강화 | 익명성, 기밀성, 자기 결정권 같은 프라이버시 가치를 지킨다 |
| 3.7 | Fair, with Harmful Bias Managed | 공정성(유해한 편향 관리) | 체계적, 계산·통계적, 인간 인지의 세 가지 편향을 관리한다 |
특성 사이에는 맞바꿈(trade-off)이 생긴다. 예를 들어 프라이버시 강화 기법이 정확도를 떨어뜨릴 수 있는데, 원문은 이런 판단을 맥락에 따라 투명하게 하라고 권한다.[2] 같은 특성들은 인공지능 신뢰성 문서의 여러 원칙과도 겹친다.
코어는 기능(Function) → 범주(Category) → 하위 범주(Subcategory)의 계층이다. Govern은 나머지 세 기능 전체에 스며드는 가로 기능이고, Map·Measure·Manage는 개별 AI 시스템의 특정 생명주기 단계에 적용한다. 원문은 네 기능을 순서대로 한 번 수행하는 절차가 아니라 반복해서 오가는 활동으로 본다.[2]
| 기능 | 하는 일 | 범주 수 | 하위 범주 수 |
|---|---|---|---|
| GOVERN(거버넌스) | 위험 관리 문화, 정책, 책임 구조, 제3자 관리를 갖춘다 | 6 | 19 |
| MAP(매핑) | AI 시스템의 목적, 맥락, 구성 요소, 영향을 파악해 위험의 틀을 잡는다 | 5 | 18 |
| MEASURE(측정) | 정량·정성 방법으로 위험과 신뢰성 특성을 시험·평가·추적한다 | 4 | 22 |
| MANAGE(관리) | 파악·측정한 위험에 자원을 배분하고 대응·복구·소통한다 | 4 | 13 |
| 합계 | 19 | 72 |
아래 표는 원문 표 1~4의 범주 전체와 하위 범주를 요약한 것이다. 번호는 원문 그대로다.[2]
| 범주 | 원문 요지 | 하위 범주 |
|---|---|---|
| GOVERN 1 | 매핑·측정·관리에 관한 정책, 절차, 관행이 조직 전체에 마련되어 투명하게 실행된다 | 1.1 AI 관련 법·규제 요구 파악, 1.2 신뢰성 특성을 정책에 반영, 1.3 위험 허용 수준에 맞춘 활동 수준 결정, 1.4 투명한 정책으로 위험 관리 절차 확립, 1.5 정기 검토와 역할 지정, 1.6 AI 시스템 목록(inventory) 관리, 1.7 AI 시스템의 안전한 폐기·단계적 퇴출 |
| GOVERN 2 | 책임 구조를 갖추고 담당 팀과 개인에게 권한, 책임, 교육을 준다 | 2.1 역할·책임·소통 경로 문서화, 2.2 인력과 협력사 교육, 2.3 경영진이 AI 개발·배포 위험 결정에 책임 |
| GOVERN 3 | 인력의 다양성, 형평성, 포용성, 접근성을 생명주기 전반의 위험 관리에서 우선시한다 | 3.1 다양한 팀이 의사결정에 참여, 3.2 인간-AI 구성과 감독에 관한 역할 구분 |
| GOVERN 4 | 조직 팀이 AI 위험을 고려하고 소통하는 문화를 지킨다 | 4.1 안전 우선 사고방식 장려, 4.2 위험과 영향 문서화·공유, 4.3 AI 시험, 사고 식별, 정보 공유 관행 |
| GOVERN 5 | 관련 AI 행위자와 적극적으로 소통하는 절차가 있다 | 5.1 외부 의견 수집·반영, 5.2 판정된 피드백을 설계와 구현에 정기 반영 |
| GOVERN 6 | 제3자 소프트웨어, 데이터, 공급망에서 생기는 위험과 이익을 다루는 정책이 있다 | 6.1 제3자 위험(지식재산권 침해 포함) 정책, 6.2 고위험 제3자 데이터·AI 실패 시 비상 절차 |
| 범주 | 원문 요지 | 하위 범주 |
|---|---|---|
| MAP 1 | 맥락을 정하고 이해한다 | 1.1 의도한 목적·사용자·법규·배치 환경 문서화, 1.2 학제 간 인력 구성, 1.3 조직 사명과 AI 목표, 1.4 업무상 가치 정의, 1.5 위험 허용 수준 결정, 1.6 시스템 요구 사항 도출과 사회기술적 영향 고려 |
| MAP 2 | AI 시스템을 분류한다 | 2.1 수행 과업과 방법(분류기, 생성 모델, 추천 등) 정의, 2.2 지식의 한계와 인간 감독 방식 문서화, 2.3 과학적 무결성과 TEVV(시험·평가·검증·확인) 고려 사항 |
| MAP 3 | AI의 능력, 사용 범위, 목표, 기대 이익과 비용을 기준선과 비교해 이해한다 | 3.1 기대 이익, 3.2 오류로 생길 비용, 3.3 적용 범위, 3.4 운영자 숙련도 기준, 3.5 인간 감독 절차 |
| MAP 4 | 제3자 소프트웨어와 데이터를 포함한 모든 구성 요소의 위험과 이익을 매핑한다 | 4.1 구성 요소별 기술·법적 위험 매핑, 4.2 구성 요소 내부 통제 식별 |
| MAP 5 | 개인, 집단, 공동체, 조직, 사회에 미칠 영향을 규정한다 | 5.1 영향의 가능성과 크기, 5.2 관련 행위자와의 정기 소통과 피드백 반영 |
| 범주 | 원문 요지 | 하위 범주 |
|---|---|---|
| MEASURE 1 | 적절한 방법과 지표를 정하고 적용한다 | 1.1 중요한 위험부터 측정 방법 선정(측정 못 하는 위험도 문서화), 1.2 지표와 통제의 적절성 정기 평가, 1.3 개발에 참여하지 않은 내부 전문가나 독립 평가자 참여 |
| MEASURE 2 | AI 시스템의 신뢰성 특성을 평가한다 | 2.1 시험 세트·지표·도구 문서화, 2.2 인간 대상 평가 요건, 2.3 배포 환경과 비슷한 조건에서 성능 측정, 2.4 운영 중 기능과 동작 모니터링, 2.5 유효성·신뢰성 입증, 2.6 안전성, 2.7 보안성과 회복력, 2.8 투명성과 책임성, 2.9 설명·해석, 2.10 프라이버시, 2.11 공정성과 편향, 2.12 환경 영향과 지속 가능성, 2.13 TEVV 지표와 절차의 효과성 |
| MEASURE 3 | 식별된 위험을 시간에 따라 추적하는 장치가 있다 | 3.1 기존·예상 밖·신흥 위험의 정기 식별, 3.2 측정 기법이 없는 위험의 추적 방법, 3.3 최종 사용자와 영향받는 공동체의 문제 제기·이의 절차 |
| MEASURE 4 | 측정의 효과에 관한 피드백을 모아 평가한다 | 4.1 배포 맥락과 연결된 측정 방법, 4.2 도메인 전문가 의견으로 결과 검증, 4.3 성능 개선·저하의 식별과 문서화 |
| 범주 | 원문 요지 | 하위 범주 |
|---|---|---|
| MANAGE 1 | Map과 Measure의 결과를 바탕으로 위험의 우선순위를 정해 대응한다 | 1.1 개발·배포 진행 여부 결정, 1.2 영향·가능성·자원 기준의 우선순위, 1.3 고위험 대응(완화, 전가, 회피, 수용), 1.4 잔여 위험 문서화 |
| MANAGE 2 | 이익은 키우고 부정적 영향은 줄이는 전략을 계획·실행한다 | 2.1 비AI 대안까지 포함한 자원 검토, 2.2 배포된 시스템의 가치 유지, 2.3 미지의 위험이 드러났을 때 대응·복구, 2.4 의도와 다르게 작동하는 시스템을 대체·분리·정지하는 장치 |
| MANAGE 3 | 제3자에게서 오는 AI 위험과 이익을 관리한다 | 3.1 제3자 자원의 정기 모니터링과 통제, 3.2 개발에 쓰는 사전 학습 모델을 모니터링 대상에 포함 |
| MANAGE 4 | 대응·복구·소통 계획을 문서화하고 정기 모니터링한다 | 4.1 배포 후 모니터링 계획(이의 제기, 폐기, 사고 대응, 변경 관리 포함), 4.2 지속 개선 활동, 4.3 사고와 오류를 관련 행위자에게 알리고 처리 절차 기록 |
보안 담당자가 주로 보는 곳은 GOVERN 6(제3자·공급망), MAP 4(구성 요소 위험), MEASURE 2.7(보안성과 회복력 평가), MANAGE 3.2(사전 학습 모델 모니터링), MANAGE 4.3(사고 공유)이다. 이 하위 범주들은 AI 공급망 보안, 인공지능 레드티밍과 직접 이어진다.
프로파일은 코어를 특정 상황에 맞춰 구현한 것이다. 원문은 세 종류를 든다.[2]
- 사용 사례 프로파일: 채용, 공정 주택 같은 특정 용도나 분야에 맞춘 구현
- 시간 프로파일: 현재 상태(Current Profile)와 목표 상태(Target Profile)를 적고 그 차이를 메울 실행 계획을 세운다. NIST 사이버보안 프레임워크의 현재·목표 프로파일과 같은 방식이다
- 범분야(cross-sectoral) 프로파일: 대형 언어 모델, 클라우드 서비스, 조달처럼 여러 분야에 공통인 활동을 다룬다
원문은 프로파일 양식을 정하지 않았다.
NIST AI 600-1(Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile)은 2024년 7월 26일 나온 범분야 프로파일이다.[1] 당시 행정명령 14110의 4.1(a)(i)(A)절에 따라 만들었고, NIST 생성형 AI 공개 작업반(GAI PWG)의 의견을 바탕으로 했다. 작업반은 거버넌스, 콘텐츠 출처(provenance), 배포 전 시험, 사고 공개의 네 가지 주제에 집중했다.[4]
이 프로파일은 생성형 AI에 고유하거나 생성형 AI 때문에 커지는 위험 12가지를 정의한다.[4]
| 번호 | 원문 | 한국어 | 요지 |
|---|---|---|---|
| 1 | CBRN Information or Capabilities | CBRN 정보·역량 | 화학·생물·방사능·핵무기 관련 정보나 설계 능력에 대한 접근이 쉬워진다 |
| 2 | Confabulation | 작화(그럴듯한 거짓 생성) | 자신 있게 틀린 내용을 만든다. 흔히 할루시네이션이라 부르는 현상을 NIST는 이 이름으로 부른다 |
| 3 | Dangerous, Violent, or Hateful Content | 위험·폭력·혐오 콘텐츠 | 폭력 선동, 극단주의, 자해 조장 콘텐츠를 쉽게 만들고 접근하게 한다 |
| 4 | Data Privacy | 데이터 프라이버시 | 개인정보와 민감 데이터의 유출, 무단 사용, 재식별 |
| 5 | Environmental Impacts | 환경 영향 | 학습과 운영의 높은 연산 자원 사용 |
| 6 | Harmful Bias or Homogenization | 유해한 편향·획일화 | 역사적·사회적 편향의 증폭, 출력의 획일화 |
| 7 | Human-AI Configuration | 인간-AI 구성 | 자동화 편향, 과도한 의존, 의인화로 생기는 문제 |
| 8 | Information Integrity | 정보 무결성 | 허위·조작 정보의 생산과 유포가 쉬워진다 |
| 9 | Information Security | 정보 보안 | 공격 능력(자동 취약점 탐색 등)의 문턱을 낮추고, 생성형 AI 자체도 프롬프트 인젝션·데이터 중독 같은 공격면을 넓힌다 |
| 10 | Intellectual Property | 지식재산 | 저작권·상표 등으로 보호되는 콘텐츠의 생성·복제 |
| 11 | Obscene, Degrading, and/or Abusive Content | 음란·모욕·학대 콘텐츠 | 아동 성착취물, 비동의 성적 이미지 등의 생성 |
| 12 | Value Chain and Component Integration | 가치사슬·구성 요소 통합 | 출처를 추적하기 어려운 제3자 데이터, 모델, 구성 요소의 통합 |
위험 목록 뒤에는 AI RMF 하위 범주별로 묶은 제안 조치(suggested action)가 표로 이어진다. 조치마다 GV-1.1-001처럼 기능 약어, 하위 범주 번호, 일련번호를 붙인 ID와 관련 위험이 표시되어 있다(본문에서 200개가 넘는 ID가 나온다). 원문은 모든 하위 범주에 조치를 단 것은 아니며 앞으로 개정에서 범주, 위험, 조치를 보탤 것이라고 적었다.[4]
- Playbook: 코어의 하위 범주마다 제안 조치를 단 실무 자료다. NIST는 Playbook이 체크리스트도, 처음부터 끝까지 따라야 하는 단계도 아니며 필요한 만큼만 골라 쓰라고 설명한다. 약 1년에 두 번 갱신하고 AI RMF가 개정되면 함께 고치며, PDF, CSV, 엑셀, JSON 형식으로 받을 수 있다.[5]
- 로드맵: NIST와 공동체가 함께 채울 우선 연구 과제 목록
- 대응표(crosswalk): AI RMF와 다른 표준·지침의 대응 관계
- AIRC: 위 자료와 용어집을 모은 온라인 자료 센터(2023-03-30 개설)[1]
AI RMF는 인증 제도가 없고 따르지 않아도 제재가 없다. 그래서 실무에서는 다음처럼 다른 체계의 뼈대나 공통 언어로 쓰인다.
- 사내 AI 거버넌스 설계: GOVERN 범주를 정책·조직 점검 목록으로 바꿔 쓴다. 목록 관리(GOVERN 1.6), 폐기 절차(GOVERN 1.7), 경영진 책임(GOVERN 2.3)은 ISO/IEC 42001 경영시스템 요구 사항과도 겹친다.
- 시스템 단위 위험 평가: 새 AI 시스템마다 MAP 1~5로 맥락과 영향을 정리하고, MEASURE 2의 하위 범주(2.5~2.12)를 시험 항목으로 삼는다.
- 현재·목표 프로파일 비교로 개선 계획을 세운다.
- 생성형 AI 도입 때는 AI 600-1의 12개 위험과 제안 조치를 점검표처럼 쓴다.
- 보안 위협 목록은 다른 자료와 대응시킨다. OWASP Top 10 for LLM Applications 2026은 부록 A에서 각 항목을 AI 600-1 위험과 AI RMF에 대응시켰다.[6]
| AI 600-1 위험 | 주 대응 관계로 연결된 OWASP LLM Top 10(2026) 항목 |
|---|---|
| 정보 보안 | LLM01 프롬프트 인젝션, LLM02 민감 정보 유출, LLM03 과도한 위임, LLM04 공급망, LLM05 데이터 및 모델 오염, LLM06 무제한 소비, LLM08 숨겨진 컨텍스트 노출, LLM09 벡터 및 임베딩 취약점, LLM10 부적절한 출력 처리 |
| 데이터 프라이버시 | LLM02, LLM09 |
| 가치사슬·구성 요소 통합 | LLM04, LLM05 |
| 정보 무결성 | LLM05, LLM07 허위 정보, LLM09 |
| 작화 | LLM07 |
| 인간-AI 구성 | LLM07 |
표는 OWASP 부록 A에서 "주(primary)"로 표시된 대응만 옮긴 것이다. 자세한 항목 설명은 OWASP Top 10 for LLM Applications 참고.
| 구분 | NIST AI RMF | NIST 위험 관리 프레임워크(SP 800-37) | NIST 사이버보안 프레임워크(CSF 2.0) | ISO/IEC 42001 | EU 인공지능법 |
|---|---|---|---|---|---|
| 대상 | AI 시스템의 사회기술적 위험 전반 | 연방 정보 시스템의 보안·프라이버시 | 조직의 사이버보안 위험 | 조직의 AI 경영시스템 | EU 시장의 AI 시스템과 범용 AI 모델 |
| 구조 | 4기능, 19범주, 72하위 범주 | 7단계 절차 | 6기능(GOVERN 포함) | 경영시스템 요구 사항(4~10절)과 부속서 통제 | 위험 등급별 의무 |
| 성격 | 성과 중심 자율 프레임워크 | 연방 기관 적용 절차 | 성과 중심 자율 프레임워크 | 인증 가능한 국제표준 | 법적 구속력 있는 규정 |
| 인증·제재 | 없음 | 연방 기관의 시스템 인가 | 없음 | 제3자 인증 | 과징금 |
AI RMF와 CSF는 모두 GOVERN 기능을 두고 현재·목표 프로파일로 차이를 메우는 구조라 한 조직 안에서 함께 쓰기 쉽다. 보안 통제 수준의 구체적 요구는 AI RMF가 아니라 NIST SP 800-53 같은 통제 목록이나 인공지능(AI) 보안 안내서 같은 점검표에서 가져와야 한다.
- 성과만 적고 방법은 적지 않는다. 하위 범주는 "문서화되어 있다", "평가된다" 같은 상태 서술이라, 무엇을 얼마나 해야 충분한지는 조직이 정해야 한다. Playbook도 체크리스트가 아니라고 스스로 밝힌다.[5]
- 원문이 인정하듯 AI 위험을 재는 믿을 만한 지표가 아직 부족하고, 측정 못 하는 위험은 문서화만 하도록 한다(MEASURE 1.1).[2]
- 보안은 일곱 특성 가운데 하나라서 공격 기법이나 기술 통제는 깊이 다루지 않는다. 공격 분류는 NIST AI 100-2, 공격 사례는 MITRE ATLAS를 함께 봐야 한다.
- 1.0은 2023년 1월 문서라 에이전트형 AI처럼 그 뒤에 커진 위험은 직접 다루지 않는다. 생성형 AI는 AI 600-1로 보완했지만 이 프로파일도 일부 하위 범주에만 조치를 달았다.[4] 개정판은 2026년 10월 현재 일정이 공개되지 않았다.
- ↑ 1.0 1.1 1.2 1.3 1.4 1.5 AI Risk Management Framework, NIST.
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 NIST AI 100-1, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST, 2023-01. doi:10.6028/NIST.AI.100-1
- ↑ 인공지능(AI) 보안 안내서 발간 (정오 수정본 및 정오표 추가 배포), 한국인터넷진흥원, 2025-12-10(2026-03-13 정오).
- ↑ 4.0 4.1 4.2 4.3 NIST AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST, 2024-07. doi:10.6028/NIST.AI.600-1
- ↑ 5.0 5.1 NIST AI RMF Playbook, NIST Trustworthy and Responsible AI Resource Center.
- ↑ OWASP Top 10 for LLM Applications 2026, OWASP GenAI Security Project, 2026-08-03. 부록 A "Related Framework Mappings".