AIaaS
IT 위키
더 많은 작업
AIaaS(AI as a Service, 서비스형 인공지능)는 인공지능 모델과 그 학습·추론에 필요한 인프라·도구를 클라우드 사업자가 서비스로 제공하고, 이용자는 직접 구축하지 않고 API 나 웹 콘솔로 필요한 만큼 빌려 쓰고 쓴 만큼 비용을 내는 방식이다.
인공지능을 직접 도입하려면 GPU 서버, 대량의 학습 데이터, 모델을 만들고 운영할 전문 인력이 필요하다. AIaaS 는 이것을 사업자가 미리 갖춰 두고 서비스로 판다. 이용자는 음성 인식·번역·이미지 분석처럼 이미 학습된 모델을 API 로 호출하거나, 사업자의 플랫폼에서 자기 데이터로 모델을 학습·배포한다. 대형 언어 모델과 파운데이션 모델이 나온 뒤에는 거대 모델을 API 로 빌려 쓰고 프롬프트나 미세 조정으로 업무에 맞추는 형태가 중심이 되었다.
서비스 유형으로 보면 AIaaS 는 IaaS·PaaS·SaaS 에 걸쳐 있다.
| 계층 | 제공하는 것 | 예 |
|---|---|---|
| AI 인프라(IaaS) | GPU·NPU 가상 서버, 분산 학습 클러스터, 대용량 스토리지 | GPU 인스턴스, AI 전용 데이터센터 자원 |
| AI 플랫폼(PaaS) | 데이터 준비·라벨링, 모델 학습·튜닝, 배포·모니터링 도구 | 기계 학습 플랫폼, MLOps 파이프라인, AutoML |
| AI API·애플리케이션(SaaS) | 학습된 모델을 호출하는 API 와 완성된 AI 서비스 | 음성 인식·번역·OCR·이미지 분석 API, LLM API, 챗봇 |
- 낮은 진입 장벽 : 초기 투자 없이 구독·종량제로 시작한다. 인공지능 전문 인력이 적은 조직도 쓸 수 있다
- 확장성 : 학습이나 추론 요청이 몰리면 GPU 자원을 늘리고, 줄면 반납한다
- 빠른 적용 : 이미 학습된 모델을 API 로 붙이므로 서비스 출시가 빠르다
- 최신 모델 이용 : 사업자가 모델을 계속 갱신하므로 직접 재학습하지 않아도 성능이 오른다
- 사업자 의존 : 모델 내부를 볼 수 없는 블랙박스이고, 사업자가 모델을 바꾸거나 서비스를 끝내면 결과가 달라진다
| 구분 | 고려사항 |
|---|---|
| 데이터 보안·개인정보 | 입력 데이터와 프롬프트가 사업자에게 넘어간다. 개인정보·영업비밀의 전송 범위, 학습 재사용 여부(옵트아웃), 저장 위치와 보관 기간, 국외 이전 여부를 계약으로 정한다. 필요하면 가명처리·마스킹 후 보낸다 |
| 모델 신뢰성 | 정확도·편향·환각을 업무 데이터로 검증하고, 사람이 결과를 검토하는 단계를 둔다. 판단 근거를 설명해야 하는 업무에는 설명 가능성을 확인한다 |
| AI 보안 | 프롬프트 인젝션, 데이터 유출, 모델 탈취 같은 AI 고유의 공격에 대비한다 → AI 보안 |
| 비용 | 토큰·호출 수·GPU 시간 단위로 과금되므로 사용량이 늘면 직접 구축보다 비싸질 수 있다. 사용량 상한과 비용 모니터링을 둔다 |
| 종속성 | 특정 사업자 API 에 묶이지 않도록 추상화 계층을 두거나 여러 모델을 바꿔 쓸 수 있게 설계한다 |
| 성능·가용성 | 응답 지연, 장애 시 대체 경로, 서비스 수준 협약(SLA)을 확인한다. 지연에 민감하거나 망 분리가 필요한 업무는 온디바이스 AI나 내부 구축(온프레미스)과 비교한다 |
| 법·규제 | 저작권(학습 데이터·생성물), 업종별 규제, 고영향 인공지능에 대한 의무를 확인한다 |