국정원, AI 에이전트 안전성 평가한다 (인사이트 메모)

원문: https://lnkd.in/p/ge2jZc2T
일자: 2026년 9월 17일

작성자: 권하영

국가정보원이 AI(Artificial Intelligence, 인공지능) 안전성 평가 대상을 기존 LLM(Large Language Model, 대규모언어모델)에서 스스로 도구를 사용하고 업무를 수행하는 AI 에이전트까지 확대한다. 단순히 모델의 답변이 안전한지를 보는 단계에서 벗어나 AI가 실제 시스템에서 수행하는 행동과 권한, 실행 결과까지 검증해야 한다는 방향으로 국가 보안정책의 범위가 넓어지고 있다는 점이 핵심이다.

[AI 에이전트까지 안전성 평가 확대]

국정원은 AI안전연구소와 협력해 화학, 생물학, 방사능, 핵과 사이버 및 국가안보 분야의 위협 데이터베이스와 AI 안전성 평가체계를 운용하고 있으며 평가 대상을 AI 에이전트로 확대할 계획이다. 평가 결과와 대응방안은 국가기관이 확인할 수 있도록 공유하는 체계를 추진한다.

오는 12월에는 각급 기관이 자체 AI 시스템을 공격자 관점에서 점검할 수 있도록 AI 레드티밍 가이드라인과 AI 보안 플레이북을 배포할 계획이다. 이는 공공기관의 AI 도입 과정에서 모델 선정뿐 아니라 권한 부여, 외부 시스템 연결, 데이터 접근, 실제 행동 결과까지 보안 검증 대상이 될 가능성이 커졌다는 의미다.

[공공 클라우드 보안체계 개편]

국정원은 N2SF(National Network Security Framework, 국가망보안체계) 확산도 추진하고 있다. 기존 망분리 중심 구조에서 정보를 기밀, 민감, 공개 등급으로 나누고 위험도에 따라 보안통제를 적용하는 방식이다.

기사에서는 공공 클라우드 보안검증 체계를 N2SF와 연계하고 기존 상, 중, 하 등급을 기밀 C, 민감 S, 공개 O 체계와 정합성을 맞추는 방안이 추진되고 있다고 전했다. 대규모 정보화 사업도 기획과 예산 단계부터 N2SF 보안대책을 반영하도록 절차를 마련하고 무선, 원격, 모바일 업무환경 운용 모델도 연내 공개할 계획이다.

[자율형 AI가 실제 방어훈련에 참여]

APEX(Allied Power EXercise, 국제 사이버훈련) 2026에는 사람의 지속적인 개입 없이 사이버 공격에 대응하는 AI 방어팀 프로젝트 팔랑크스가 투입됐다. 국정원 국가사이버안보센터 주도로 국방부, 국가보안기술연구소, 스틸리언, 금융보안원 등이 약 4개월간 개발했고 네이버클라우드가 기반 환경을 지원한 사실은 별도 보도를 통해서도 확인된다.

이 시스템은 여러 AI 에이전트가 협업해 위협 탐지, 공격 분석, 복구, 대응전략 수립 등 방어 과정을 수행하도록 설계됐다. AI 보안이 분석가를 보조하는 수준에서 실제 SOC(Security Operations Center, 보안관제센터)의 대응 절차 일부를 자율적으로 수행하는 단계로 이동하고 있음을 보여주는 사례다.

[핵심 시사점]

가장 중요한 변화는 AI 보안의 평가 단위가 모델에서 에이전트로 바뀌고 있다는 점이다. 에이전트는 판단만 하는 것이 아니라 계정과 API를 사용하고 시스템을 변경할 수 있기 때문에 보안성 평가는 프롬프트와 출력뿐 아니라 권한, 실행 경로, 도구 호출, 데이터 접근, 복구 가능성까지 포함해야 한다.

또한 프로젝트 팔랑크스처럼 자율형 AI를 실제 사이버훈련에 투입하는 시도는 향후 SOC에서 저위험 탐지와 분석, 대응 업무부터 AI가 담당하고 고위험 조치는 사람이 승인하는 운영 모델로 발전할 가능성을 보여준다. AI 도입 경쟁의 핵심이 모델 성능에서 안전한 자율 실행과 통제 가능한 권한 설계로 이동하고 있다는 점이 이번 정책에서 읽히는 가장 큰 변화다.

[미검증 사항]

기사에서 언급된 공공 클라우드 보안검증의 국정원 중심 단일화 세부안과 산업계 준비를 위한 1년 유예 여부, 기밀 영역의 양자내성암호 전환 목표를 기존 2035년보다 앞당기는 일정은 현재 의견 수렴 또는 관계부처 검토 단계로 전해졌다. 최종 시행 시점과 확정 제도는 자료로는 확인 불가하다.