"해당 배너는 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."
📑 목차 (Table of Contents)
최종 업데이트:
1. 국가·공공기관 AI보안의 핵심: C/S/O 등급제
AI 기술이 발전함에 따라 기존의 보안 체계로는 대응하기 어려운 새로운 위협이 등장했습니다. 이에 따라 이번 가이드북은 업무 중요도와 데이터의 성격에 따라 기밀(Classified), 민감(Sensitive), 공개(Open)의 3단계 등급으로 분류하는 국가 망 보안체계(N2SF)를 적용합니다.
🔐 3단계 보안등급 분류 기준
- 기밀 (Classified): 국가 안보와 직결되거나 외교, 국방 등 극히 보안이 요구되는 데이터. 외부망과 완전히 분리된 내부망 전용 AI시스템에서만 취급해야 합니다.
- 민감 (Sensitive): 개인정보, 행정 내부 자료 등 유출 시 피해가 예상되는 데이터. 제한적인 접근 통제가 필요하며, 민감정보 필터링이 필수적입니다.
- 공개 (Open): 대국민 서비스나 홈페이지 게시 자료 등 누구나 접근 가능한 데이터. 상대적으로 유연한 상용 AI 서비스(SaaS) 활용이 가능합니다.
이러한 등급 분류는 AI 도입의 첫 단추이며, 시스템 구축 시 동일하거나 낮은 등급의 정보만 생산·저장하도록 설계해야 합니다.
2. AI시스템 수명주기별 15대 보안위협 (T01~T15)
AI시스템은 데이터 수집부터 폐기까지 전 과정에서 고유한 취약점을 가집니다. 가이드북에서는 이를 15가지 핵심 위협(T코드)으로 식별하고 있습니다.
⚠️ 데이터 및 모델 관련 주요 위협
- T01 학습데이터 오염: 공격자가 의도적으로 변조된 데이터를 주입하여 AI의 오판을 유도하거나 편향성을 발생시키는 공격입니다.
- T06 AI모델 추출: API 쿼리 분석 등을 통해 역공학으로 AI 모델의 구조나 가중치(Weight)를 탈취하여 복제 모델을 만드는 위협입니다.
- T08 프롬프트 인젝션 (Prompt Injection): 악의적인 명령어를 입력하여 AI의 윤리적 제한(가드레일)을 무력화하고 민감정보를 유출하거나 비인가 명령을 실행하게 만듭니다.
⚠️ 운영 및 인프라 위협
- T14 공급망 공격: 오픈소스 라이브러리나 외부 AI 모델 자체에 악성코드가 심어져 배포되는 경우입니다.
- T13 권한관리 부실: AI에게 과도한 자율성을 부여하여, 사람의 승인 없이 중요 시스템을 제어하거나 데이터를 삭제하는 사고가 발생할 수 있습니다.
3. 필수 보안대책 30선 및 구축 유형별 전략
식별된 위협에 대응하기 위해 총 30가지의 보안대책(M코드)이 제시되었습니다. 특히 암호화와 접근 통제는 기본이며, AI 특화 대책이 중요합니다.
🛡️ 핵심 보안 조치사항
- M01 신뢰할 수 있는 데이터 활용: 출처가 불분명한 데이터는 학습에서 배제하고, 무결성이 검증된 데이터만 사용합니다.
- M13 입·출력 필터링: AI-DLP(데이터 유출 방지) 솔루션을 도입하여 프롬프트와 답변에 포함된 민감정보를 실시간으로 탐지하고 차단합니다.
- M15 가드레일 다중화: 단일 방어막이 아닌, 계층적 방어 체계를 구축하여 프롬프트 인젝션 등 우회 공격을 방어합니다.
- M20 민감 명령 승인 절차: 시스템 제어 등 중요한 작업은 AI가 단독으로 수행하지 못하게 하고, 반드시 사람의 승인(Human-in-the-loop)을 거치도록 설계합니다.
4. 신기술 보안: 에이전틱(Agentic) & 피지컬(Physical) AI
단순한 생성형 AI를 넘어, 스스로 도구를 사용하고 행동하는 에이전틱 AI와 로봇 등 물리 장치와 결합된 피지컬 AI에 대한 보안 지침도 새롭게 추가되었습니다.
🤖 에이전틱 AI 보안 (Agentic AI)
AI가 스스로 이메일을 보내거나 코드를 실행하는 등 자율성이 높습니다.
대응책: 화이트리스트 기반의 도구 사용(A-M04)을 의무화하고, AI 에이전트 간의 권한 위임을 엄격히 통제해야 합니다.
🦾 피지컬 AI 보안 (Physical AI)
로봇이나 드론이 해킹당할 경우 물리적 피해를 입힐 수 있습니다.
대응책: 이상 징후 감지 시 즉시 작동을 멈추는 비상 정지(Kill Switch) 기능을 구현하고, 하드웨어 포트를 물리적으로 봉인(P-M06)해야 합니다.
자주 묻는 질문 (FAQ) ❓
Q. 공공분야 AI시스템은 공개등급 데이터만 사용해야 하나요?
아닙니다. 기밀·민감등급 데이터도 활용 가능합니다. 단, 이 경우 외부망과 분리된 내부망 전용 AI시스템을 구축하거나, 철저한 접근 통제 및 암호화 조치가 선행된 상태에서 운영해야 합니다.
Q. 챗GPT 같은 상용 AI를 업무에 써도 되나요?
네, 가능합니다. 하지만 공개(Open) 등급의 데이터만 입력해야 하며, 민감정보가 입력되지 않도록 필터링 시스템을 갖추거나 학습 기능(Data Training)을 비활성화하는 보안 설정을 반드시 적용해야 합니다.
Q. 오픈소스 AI 모델을 사용해도 안전한가요?
오픈소스 모델은 공급망 공격(T14) 위험이 있습니다. 공식 저장소에서 다운로드하고 해시값을 검증해야 하며, 백도어 존재 여부를 확인하기 위해 샌드박스 환경에서 충분한 테스트를 거친 후 도입해야 합니다.
🎯 핵심 요약
2. 프롬프트 인젝션 등 15대 보안위협에 대비해 입·출력 필터링을 강화하세요.
3. 에이전틱·피지컬 AI 도입 시 자율성 통제 및 비상 정지 체계를 반드시 마련하세요.
"해당 배너는 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다."
댓글