사이버 서밋 코리아(CSK) 2026. (출처: CSK 2026 Cyber Summit Korea 홈페이지)

CSK 2026 세션 A-2 : AX 시대, 필요한 국가 AI보안 전략

인공지능(AI)이 업무와 산업 전반에 빠르게 적용되면서 사이버보안의 기준도 함께 바뀌고 있습니다.

과거의 보안이 컴퓨터, 네트워크, 서버와 같은 IT 인프라를 보호하는 데 초점을 맞췄다면, 이제는 AI 모델과 데이터, AI 에이전트, 자동화된 의사결정 과정까지 보호해야 하는 상황으로 확대되고 있습니다.

이러한 변화 속에서 열린 사이버 서밋 코리아(CSK) 2026에서는 AI 전환, 즉 AX(AI Transformation) 시대에 국가 차원에서 어떤 보안 전략이 필요한지를 논의하는 세션이 마련됐습니다.

그중에서도 세션 A-2 「AX 시대, 필요한 국가 AI보안 전략」은 AI 활용 확대에 따라 달라지는 사이버 위협과 국가 차원의 대응체계를 살펴본 자리였습니다.

1. CSK 2026에서 왜 '국가 AI보안 전략'을 논의했을까?

CSK 2026은 국가정보원과 국가보안기술연구소가 공동 주최한 글로벌 사이버안보 행사로, 2026년 9월 서울 코엑스에서 개최됐습니다.

올해 행사의 주제는 「글로벌 사이버안보를 위한 한발 앞선 노력: 연결된 세상, 함께하는 보안」이었습니다.

공식 프로그램에 따르면 세션 A-2는 9월 17일 오후 3시 30분부터 5시까지 진행됐으며, 이원태 국가AI전략위원회 보안특별위원장이 좌장을 맡았습니다.

패널에는 김창훈 대구대학교 교수, 최영철 SGA솔루션즈 대표이사, 박상규 팔로알토 네트웍스 코리아 지사장, 홍관희 LG유플러스 CISO가 참여했습니다.

행사 측은 이 세션의 핵심 논의를 AI가 가져오는 편리함의 이면에 존재하는 새로운 위협에 대응하고, 기술주권 확보와 AX 전환을 뒷받침할 AI보안 전략을 모색하는 것으로 설명했습니다.

즉, AI를 얼마나 빠르게 도입할 것인가뿐만 아니라,

"AI를 안전하게 활용하기 위해 어떤 보안 기반을 먼저 갖춰야 하는가?"

라는 질문이 핵심이었던 셈입니다.

2. AX 시대에는 공격과 방어의 속도 자체가 달라진다

AI의 가장 큰 특징 가운데 하나는 사람이 수행하던 분석과 작업을 빠른 속도로 자동화할 수 있다는 점입니다.

이러한 특성은 방어 측면에서는 장점이지만 공격 측면에서도 활용될 수 있습니다.

예를 들어 AI는 대량의 데이터를 분석하거나 소프트웨어의 코드를 검토하고, 잠재적인 취약점을 찾는 작업을 자동화하는 데 활용될 수 있습니다.

CSK 2026에서 이러한 문제의식을 보여주는 사례로 언급된 것이 고성능 프런티어 AI의 사이버보안 활용이었습니다.

박상규 팔로알토 네트웍스 코리아 지사장은 세션에서 자사가 앤트로픽의 사이버보안 협력 프로젝트인 '프로젝트 글래스윙'에 참여하면서 고성능 AI를 활용해 취약점을 점검한 경험을 소개했습니다.

보도에 따르면 그는 자사 엔지니어들이 장기간 수행했던 취약점 탐색 작업과 AI를 활용한 결과가 매우 짧은 시간 안에 유사한 결과를 낸 사례를 소개했습니다.

이 사례가 보여주는 중요한 부분은 특정 AI 모델의 성능 자체보다 사이버 공격과 방어에 투입되는 자동화 수준과 속도가 크게 달라질 수 있다는 점입니다.

3. AI는 보안의 '도구'인 동시에 새로운 공격 표면이 된다

AI를 보안에 활용한다고 해서 모든 문제가 해결되는 것은 아닙니다.

AI 시스템 자체가 새로운 공격 대상이 될 수도 있기 때문입니다.

AI 서비스를 구성하는 요소를 단순하게 나누어 보면 다음과 같습니다.

AI 모델 → 데이터 → 애플리케이션 → API → 사용자 → 외부 시스템

AI가 다른 서비스와 연결될수록 보호해야 할 영역도 증가합니다.

특히 AI 에이전트가 외부 서비스나 업무 시스템과 연결되어 스스로 작업을 수행하는 환경에서는 기존의 단순한 정보보호 방식만으로 모든 위험을 관리하기 어려워질 수 있습니다.

실제로 CSK 2026의 다른 세션에서도 고성능 AI의 자율 공격 가능성과 Agentic SOC, LLM을 이용한 취약점 발견 등이 주요 주제로 다뤄졌습니다.

따라서 앞으로의 AI 보안은 단순히

"AI를 안전하게 사용하는 방법"

을 넘어

"AI가 다른 시스템과 상호작용하면서 발생할 수 있는 위험까지 어떻게 관리할 것인가"

라는 문제로 확대될 가능성이 큽니다.

4. 공통된 AI 보안 기준이 필요하다는 논의

이번 세션에서 주목할 부분 가운데 하나는 기관이나 기업마다 서로 다른 방식으로 보안을 관리하는 문제입니다.

AI 기술은 특정 산업에만 사용되는 기술이 아닙니다.

금융, 통신, 제조, 의료, 공공서비스 등 다양한 분야에서 AI 활용이 증가하고 있습니다.

그런데 조직마다 AI 보안 기준과 관리 방법이 지나치게 달라지면 국가적인 위협에 공동 대응하기 어려워질 수 있습니다.

CSK 2026 세션에서는 이러한 문제와 관련해 여러 기관에 분산된 보안 통제 항목을 표준화하고 통합하는 국가 공통 AI 보안 프레임워크의 필요성이 제시됐다고 보도됐습니다.

쉽게 말하면,

기업마다 제각각의 기준으로 AI를 보호하는 것에서 벗어나 공통적으로 적용할 수 있는 기본적인 보안 기준을 마련하자는 접근입니다.

이는 AI 서비스를 개발하는 기업뿐만 아니라 AI를 사용하는 공공기관과 일반 기업에도 중요한 문제입니다.

5. 기존 보안체계와 AI 보안체계의 연결

AI 보안을 완전히 새로운 별도의 영역으로만 보는 것도 적절하지 않습니다.

기존의 정보보호 체계와 AI 보안이 연결되어야 하기 때문입니다.

현재 기업과 기관에서는 접근통제, 계정관리, 네트워크 보안, 개인정보보호, 시스템 취약점 관리 등 다양한 보안 통제를 운영하고 있습니다.

AI가 도입되면 여기에 추가적으로 다음과 같은 요소를 고려할 필요가 있습니다.

AI 모델 보안

사용하는 AI 모델의 출처와 버전, 변경 이력, 취약점 등을 관리해야 합니다.

데이터 보안

AI 학습이나 추론 과정에서 사용되는 데이터에 개인정보나 기업의 민감정보가 포함되지 않는지 관리해야 합니다.

API 및 외부 서비스 보안

AI가 외부 API나 클라우드 서비스를 이용한다면 새로운 연결 지점이 만들어집니다.

AI 에이전트 권한 관리

AI가 단순히 답변하는 수준을 넘어 파일을 수정하거나 시스템에 명령을 전달한다면 어떤 작업까지 허용할 것인지 명확하게 정의해야 합니다.

결과 검증

AI가 생성한 코드나 명령, 분석 결과를 사람이 검증할 수 있는 체계도 중요합니다.

결국 AI 보안은 기존 정보보호 체계를 대체하는 것이 아니라 기존 보안에 AI라는 새로운 구성요소를 포함시키는 방향으로 발전할 필요가 있습니다.

6. 제로트러스트가 다시 중요해지는 이유

세션에서는 제로트러스트(Zero Trust)를 비롯한 보안체계 고도화 필요성도 언급됐습니다.

제로트러스트는 쉽게 말하면 "내부에 있다고 해서 무조건 신뢰하지 않는다"는 보안 접근 방식입니다.

AI 환경에서는 이러한 접근 방식이 더욱 중요해질 수 있습니다.

예를 들어 AI 에이전트가 업무 시스템에 접근한다고 가정해 보겠습니다.

단순히 "이 AI는 우리 회사에서 사용하는 시스템이므로 신뢰한다"고 결정하는 대신,

어떤 AI인가?
누구를 대신해 작업하는가?
어떤 데이터에 접근하는가?
어떤 작업을 수행할 수 있는가?
해당 작업을 수행할 권한이 있는가?
작업 결과를 어떻게 검증할 것인가?

등을 지속적으로 확인하는 구조가 필요합니다.

보안뉴스가 전한 세션 내용에서도 제로트러스트의 제도화와 자동화된 방어체계, 실시간 격리체계 등의 필요성이 논의됐습니다.

7. AI 보안은 '자동화'만으로 해결할 수 있을까?

AI가 사이버보안에 활용되면 보안관제와 대응을 자동화할 수 있다는 장점이 있습니다.

하지만 자동화에는 또 다른 문제가 있습니다.

AI가 잘못된 판단을 내릴 경우 그 판단이 자동으로 실행될 수 있기 때문입니다.

예를 들어 보안 AI가 정상적인 시스템을 공격으로 잘못 판단하고 자동으로 차단한다면 업무 중단이라는 새로운 문제가 발생할 수 있습니다.

따라서 AI 기반 보안에서는 다음과 같은 구조가 중요합니다.

탐지 → 분석 → 판단 → 실행 → 검증

특히 중요한 시스템에서는 모든 과정을 AI에게 맡기기보다는 위험 수준에 따라 사람의 승인이나 감독을 추가하는 방식이 필요할 수 있습니다.

실제로 박상규 지사장도 고성능 AI를 활용한 취약점 점검 과정에서 비용과 자원, 전문가의 개입 필요성을 함께 언급했습니다.

즉, AI 보안의 미래는 단순한 '완전 자동화'라기보다 AI와 보안 전문가의 역할을 어떻게 적절하게 나눌 것인가라는 문제와 연결됩니다.

8. 기술주권과 '소버린 AI'의 의미

이번 세션에서 또 하나의 중요한 키워드는 기술주권입니다.

AI 기술이 국가와 기업의 핵심 업무에 깊숙이 들어오면 AI 모델과 데이터, 인프라에 대한 의존성 역시 중요한 보안 문제가 될 수 있습니다.

특히 중요한 국가 기반시설이나 공공서비스에서 사용하는 AI라면 다음과 같은 질문이 필요합니다.

AI 모델은 어디에서 개발됐는가?
데이터는 어디에서 처리되는가?
중요한 데이터가 외부로 전송되는가?
모델이나 서비스가 중단되면 어떻게 대응할 것인가?
AI 시스템의 보안 취약점을 누가 관리하는가?
특정 해외 기술에 대한 의존도가 지나치게 높지는 않은가?

이 때문에 최근에는 소버린 AI(Sovereign AI)라는 개념도 함께 논의되고 있습니다.

CSK 2026 현장에서도 최영철 SGA솔루션즈 대표가 AI 기반 취약점 점검과 모의해킹 자동화 등을 위해 고성능 모델의 중요성을 언급하면서, 소버린 AI와 독자적인 파운데이션 모델 개발 필요성을 함께 거론한 것으로 보도됐습니다.

다만 소버린 AI가 반드시 모든 AI 기술을 자체 개발해야 한다는 의미로만 사용되는 것은 아닙니다.

핵심은 중요한 데이터와 AI 시스템에 대한 통제권을 어떻게 확보할 것인가라는 문제로 이해할 수 있습니다.

9. 국가 차원의 AI 안전성 평가도 확대된다

CSK 2026에서는 국가 차원의 AI 안전성 평가와 관련한 움직임도 소개됐습니다.

연합뉴스 보도에 따르면 국가정보원은 기존 대규모언어모델(LLM)을 중심으로 진행하던 안전성 평가를 AI 에이전트까지 확대할 계획을 밝혔습니다.

또한 AI 에이전트의 위험성을 평가하고, 각 기관이 자체적으로 보안 점검을 수행할 수 있도록 관련 가이드라인과 보안 플레이북을 마련할 계획도 소개됐습니다.

이러한 변화는 AI가 단순히 질문에 답하는 프로그램에서 벗어나 실제 업무를 수행하는 에이전트 형태로 발전하고 있다는 점과 관련이 있습니다.

AI가 수행할 수 있는 작업의 범위가 넓어질수록 AI 자체의 안전성뿐 아니라 AI가 실제 환경에서 어떤 행동을 할 수 있는가를 평가해야 하기 때문입니다.

10. 국가 AI보안 전략을 구성하는 핵심 요소

CSK 2026 세션에서 논의된 내용을 종합하면 AI 시대의 국가 보안 전략은 하나의 기술만으로 구성하기 어렵습니다.

다음과 같은 여러 요소가 함께 작동해야 합니다.

① 국가 공통 AI 보안 기준

기관과 기업이 공통적으로 활용할 수 있는 AI 보안 기준과 프레임워크가 필요합니다.

② AI 보안 기술 확보

AI 모델과 데이터를 보호하고 AI를 활용해 위협을 탐지·대응하는 기술을 함께 발전시켜야 합니다.

③ 제로트러스트 기반 접근통제

AI와 사람이 시스템에 접근할 때 최소 권한과 지속적인 검증을 적용하는 체계가 중요합니다.

④ AI 에이전트 보안

AI 에이전트가 수행할 수 있는 행동과 접근 권한을 명확하게 관리해야 합니다.

⑤ 공급망 보안

AI 모델, 데이터, 오픈소스 소프트웨어, 외부 API 등 AI 시스템을 구성하는 전체 공급망을 관리해야 합니다.

⑥ 자동화된 방어체계

AI를 활용해 탐지와 분석, 대응 속도를 높이되 중요한 의사결정에는 적절한 검증 절차를 마련해야 합니다.

⑦ 전문인력 확보

AI와 사이버보안을 동시에 이해할 수 있는 전문인력 양성이 필요합니다.

⑧ 기술주권 확보

핵심 AI 기술과 데이터, 보안 인프라에 대한 국가 차원의 대응 역량을 확보할 필요가 있습니다.

11. AI 시대의 보안은 'AI를 막는 것'이 아니다

AI 보안에 대해 흔히 생길 수 있는 오해가 있습니다.

AI를 사용하지 않으면 보안 문제가 해결될 것이라고 생각하는 것입니다.

하지만 AI가 이미 다양한 산업과 서비스에 활용되고 있는 상황에서 단순히 AI 사용을 제한하는 것만으로는 문제를 해결하기 어렵습니다.

오히려 중요한 것은 AI를 사용하면서 발생할 수 있는 위험을 파악하고 통제하는 것입니다.

AI를 적극적으로 활용하면서도

누가 → 어떤 AI를 → 어떤 데이터로 → 어떤 시스템에 연결해 → 어떤 작업을 수행하는지

를 확인할 수 있어야 합니다.

그리고 문제가 발생했을 때 빠르게 탐지하고 격리하고 복구할 수 있는 체계가 필요합니다.

12. CSK 2026 세션 A-2가 던지는 질문

이번 세션을 통해 생각해 볼 수 있는 질문은 단순합니다.

"AI 시대에 기존 보안 방식만으로 충분한가?"

AI가 사람보다 빠르게 코드를 분석하고, 취약점을 찾아내고, 데이터를 처리하고, 다양한 시스템과 연결될 수 있다면 보안 역시 그 변화에 맞춰야 합니다.

특히 국가와 기업의 핵심 시스템이 AI와 연결되면 하나의 취약점이 다른 시스템으로 확산될 가능성도 고려해야 합니다.

따라서 AI 보안은 특정 보안 제품 하나를 도입하는 문제라기보다 정책·제도·기술·인력·데이터·공급망을 함께 바라보는 종합적인 보안 문제라고 볼 수 있습니다.

13. 일반 사용자에게도 AI 보안이 중요한 이유

국가 차원의 AI 보안 전략은 정부나 보안기업만의 문제가 아닙니다.

개인이 사용하는 생성형 AI 서비스 역시 AI 보안과 연결되어 있습니다.

예를 들어 회사의 내부 문서를 아무런 검토 없이 외부 AI 서비스에 입력하거나, AI가 생성한 프로그램 코드를 검증하지 않고 실행하거나, AI 에이전트에 지나치게 많은 권한을 부여하는 경우 새로운 보안 위험이 발생할 수 있습니다.

따라서 개인과 기업 모두 다음과 같은 기본 원칙을 기억할 필요가 있습니다.

민감한 정보를 AI에 입력하기 전에 확인하기

AI가 생성한 코드를 바로 실행하지 않고 검토하기

AI 서비스에 필요한 최소한의 권한만 제공하기

외부 AI 서비스의 데이터 처리 정책 확인하기

AI가 수행한 중요한 작업은 사람이 검증하기

이러한 기본적인 습관만으로도 AI 활용 과정에서 발생할 수 있는 일부 위험을 줄이는 데 도움이 될 수 있습니다.

마무리

CSK 2026의 「AX 시대, 필요한 국가 AI보안 전략」 세션은 AI 기술의 발전을 단순히 새로운 산업 기회로만 바라보지 않고, 그와 동시에 변화하는 사이버보안 환경까지 함께 살펴봤다는 점에서 의미가 있습니다.

AI는 공격자에게도 강력한 도구가 될 수 있고, 방어자에게도 강력한 도구가 될 수 있습니다.

따라서 앞으로의 경쟁은 단순히 누가 더 강력한 AI를 가지고 있는가에만 머물지 않을 가능성이 높습니다.

누가 AI를 더 안전하게 개발하고, 활용하고, 통제할 수 있는가 역시 중요한 요소가 될 것입니다.

CSK 2026에서 논의된 국가 공통 AI 보안 기준, 제로트러스트, 자동화된 방어체계, AI 에이전트 보안, 기술주권과 같은 주제는 앞으로 AI가 우리 생활과 산업에 더욱 깊숙하게 들어갈수록 계속해서 중요하게 다뤄질 분야입니다.

결국 AX 시대의 핵심 과제는 AI 도입과 보안을 서로 반대되는 목표로 보는 것이 아니라,

"안전하게 AI를 활용할 수 있는 환경을 어떻게 구축할 것인가"

라는 관점에서 접근하는 데 있다고 볼 수 있습니다.

Cyber Summit Korea(CSK) 2026 홈페이지 참고(https://cybersummit.kr)

출처 : 오늘부터 AI(Today AI) - https://blog.candlesister.com