사이버 서밋 코리아(CSK) 2026. (출처: CSK 2026 Cyber Summit Korea 홈페이지)

CSK 2026 세션 C-3 : 3대 메가 프로젝트와 사이버보안

AI 데이터센터·피지컬 AI·첨단기술을 지키는 새로운 사이버보안

인공지능(AI)이 산업과 국가 인프라의 핵심 영역으로 빠르게 확산하면서 사이버보안의 범위도 크게 달라지고 있다.

과거에는 주로 컴퓨터와 네트워크, 서버에 저장된 데이터를 보호하는 것이 사이버보안의 중요한 과제였다면, 이제는 AI 모델과 데이터, AI가 내리는 판단, 그리고 AI의 판단에 따라 움직이는 물리적 시스템까지 보호해야 하는 시대가 됐다.

이러한 변화의 흐름을 살펴볼 수 있었던 행사가 Cyber Summit Korea 2026(CSK 2026)이다.

CSK 2026은 2026년 9월 16일부터 18일까지 서울 코엑스에서 개최됐으며, 국가정보원과 국가보안기술연구원이 공동으로 주최했다. 행사에서는 사이버안보를 둘러싼 최신 기술과 정책, 국제협력, 산업 현장의 보안 이슈 등이 다뤄졌다.

그중에서도 관심을 끈 세션 가운데 하나가 「3대 메가 프로젝트와 사이버보안」이다.

이 세션에서는 국가 차원에서 추진되는 대형 기술 프로젝트를 대상으로 AI 데이터센터, 피지컬 AI, 기업의 첨단기술 보호라는 세 가지 관점에서 사이버보안 과제를 살펴봤다.

세션 C-3의 핵심은 무엇일까?

이번 세션의 좌장은 김태균 본부장(국가보안기술연구소)이 맡았으며, 최신 사이버위협 동향을 중심으로 세 가지 주제발표가 진행됐다.

세션 구성

[좌장] 김태균 본부장(국가보안기술연구소)

주제발표

1. 공공 AI 데이터센터 구축 및 보안 내재화 전략

   • 이창열 단장(한전KDN)

2. 피지컬 AI 시대의 사이버안보 진화 방향

   • 윤정현 연구원(국가안보전략연구원)

3. 기술패권 시대, 기업보안의 가치와 의의

   • 장항배 교수(중앙대학교)

세 발표는 서로 다른 분야를 다루는 것처럼 보이지만 공통된 질문을 던지고 있다.

AI와 첨단기술이 국가와 산업의 핵심 인프라가 될수록 보안을 어떻게 설계해야 하는가?

즉, 보안을 기술이 완성된 이후 추가하는 방식이 아니라 프로젝트의 기획과 설계 단계부터 함께 고려해야 한다는 것이 이번 세션을 이해하는 중요한 관점이다.

공공 AI 데이터센터, GPU만 구축한다고 끝이 아니다

첫 번째 발표에서는 공공 AI 데이터센터의 구축과 보안 내재화가 주요하게 다뤄졌다.

AI 데이터센터는 대규모 GPU와 서버, 네트워크, 저장장치 등을 이용해 AI 모델의 학습과 추론을 지원하는 핵심 인프라다.

특히 공공 분야에서 AI 데이터센터가 활용될 경우 단순한 기업용 데이터센터와는 다른 보안 요구사항이 발생할 수 있다.

공공기관의 행정 데이터나 산업 데이터, 에너지 관련 데이터 등 민감한 정보가 AI 시스템과 연결될 수 있기 때문이다.

한전KDN은 실제로 에너지 특화 AI 데이터센터 구축과 관련한 보안기술 및 운영체계를 논의해 왔다.

2026년 6월 한전KDN이 개최한 공공데이터 AI클라우드 구축 전략 기술 세미나에서도 에너지 특화 AI 데이터센터의 보안기술, AIDC 통제 항목, AI 기반 취약점 탐지, AI 에이전트의 보안 검증 및 통제 등이 주요 주제로 다뤄졌다.

AI 데이터센터에서 보호해야 할 대상이 달라진다

기존 데이터센터에서는 서버와 네트워크, 데이터베이스 등에 저장된 정보를 보호하는 것이 중요했다.

하지만 AI 데이터센터에서는 보호해야 할 대상이 더 넓어진다.

대표적으로 다음과 같은 요소를 생각할 수 있다.

데이터

AI가 학습하거나 추론에 사용하는 데이터 자체가 중요한 보호 대상이다.

잘못된 데이터가 입력되거나 데이터가 변조되면 AI가 잘못된 결과를 만들어낼 가능성이 있다.

AI 모델

AI 모델의 가중치와 모델 구성 자체도 중요한 자산이 된다.

특히 기업이나 공공기관이 자체적으로 개발한 AI 모델은 기술 경쟁력과 직접 연결될 수 있다.

프롬프트

AI에게 전달되는 명령이나 지시 역시 관리 대상이 될 수 있다.

업무용 AI 에이전트가 특정 시스템에 접근할 수 있도록 구성되어 있다면 프롬프트를 악용해 의도하지 않은 행동을 유도할 가능성도 고려해야 한다.

AI 에이전트의 메모리와 실행 기록

AI 에이전트가 업무를 수행하는 환경에서는 단순히 질문에 답하는 것을 넘어 여러 작업을 직접 수행할 수 있다.

따라서 어떤 정보를 참고했고 어떤 판단을 했으며 어떤 작업을 수행했는지를 추적할 수 있는 체계가 중요해진다.

한전KDN이 제시한 AI 데이터센터 보안의 방향

CSK 2026 세션에서 이창열 한전KDN 보안사업단장은 AI 데이터센터 보안을 단순한 네트워크 보호의 문제로 바라보기보다 AI의 판단과 실행까지 관리하는 문제로 확장해 설명했다.

AI가 에너지 분야의 데이터를 활용해 전력 수요나 공급을 예측하고 설비 운영을 지원한다고 가정해보자.

AI가 잘못된 정보를 이용하거나 공격자가 AI의 판단 과정에 영향을 준다면 단순히 잘못된 문서가 만들어지는 것에서 끝나지 않을 수 있다.

잘못된 예측이나 판단이 실제 설비 운영과 연결될 경우 물리적인 시스템에 영향을 줄 가능성이 있기 때문이다.

따라서 AI 데이터센터에서는 다음과 같은 보안 체계가 중요해진다.

위험 분석 → 접근통제 → 데이터·모델 보호 → 보안관제 → 이상행동 확인 → 위험 재평가

이러한 접근은 보안을 별도의 사후 조치가 아니라 AI 시스템 운영 과정에 포함시키는 방식이라고 볼 수 있다.

공공 AI 데이터센터와 국가망보안체계

한전KDN은 에너지 특화 AI 데이터센터에 국가망보안체계(N2SF)를 적용할 계획도 소개했다.

핵심은 모든 데이터를 동일하게 취급하는 것이 아니라 데이터의 중요성과 위험 수준을 고려해 보호 수준과 접근 범위를 정하는 것이다.

예를 들어 사용자라고 해서 모든 데이터에 접근할 수 있도록 하는 것이 아니라,

• 누가 접근하는가

• 어떤 기기를 사용하는가

• 어떤 서비스에 접근하는가

• 어떤 데이터가 필요한가

• 해당 접근이 업무 목적에 적합한가

등을 확인하고 필요한 범위에서만 권한을 제공하는 방식이다.

이러한 접근은 흔히 최소권한 원칙과 연결된다.

AI 시대에는 사람뿐 아니라 AI 에이전트 역시 시스템의 접근 주체가 될 수 있다는 점에서 더욱 중요해진다.

두 번째 주제 : 피지컬 AI 시대의 사이버안보

두 번째 발표의 주제는 「피지컬 AI 시대의 사이버안보 진화 방향」이었다.

발표자는 국가안보전략연구원의 윤정현 연구원이다.

피지컬 AI(Physical AI)는 말 그대로 현실 세계와 직접 상호작용하는 AI를 의미한다.

일반적인 생성형 AI가 주로 텍스트나 이미지, 음성 같은 디지털 콘텐츠를 생성한다면 피지컬 AI는 센서 등을 이용해 현실 환경을 인식하고 AI의 판단에 따라 로봇이나 차량 등의 물리적 행동으로 연결될 수 있다.

예를 들어,

• 자율주행 시스템

• 산업용 로봇

• 물류 로봇

• 의료 로봇

• 스마트 제조 시스템

• 각종 자율화 설비

등을 생각할 수 있다.

피지컬 AI에서는 사이버공격이 현실 세계의 문제로 이어질 수 있다

피지컬 AI의 가장 중요한 특징은 AI의 판단이 물리적인 행동으로 연결될 수 있다는 점이다.

일반적인 정보시스템에서 공격이 발생하면 데이터 유출이나 서비스 장애가 주요 피해가 될 수 있다.

하지만 피지컬 AI에서는 상황이 달라진다.

센서가 잘못된 정보를 받아들이거나 AI 모델의 판단 과정이 조작되고, 그 결과가 실제 장비의 동작으로 이어질 경우 사람이나 시설에 직접적인 영향을 줄 가능성이 있다.

따라서 피지컬 AI 보안에서는 다음과 같은 연결 관계를 함께 살펴봐야 한다.

센서 → 데이터 → AI 모델 → 판단 → 명령 → 물리적 행동

이 가운데 어느 하나만 보호하는 것으로 충분하지 않을 수 있다.

전체 연결 구조에서 발생할 수 있는 위험을 함께 평가해야 한다.

피지컬 AI는 개발 이후에도 보안 검증이 필요하다

윤정현 연구원은 피지컬 AI의 보안을 제품 출시 직전 한 번 점검하는 방식에서 벗어나 개발부터 운영과 업데이트까지 전 과정에서 검증하는 체계가 필요하다는 방향을 제시했다.

피지컬 AI는 실제 환경에서 계속 새로운 데이터를 접하고 모델이나 소프트웨어가 업데이트될 수 있다.

따라서 개발 당시에는 발견되지 않았던 새로운 취약점이나 예상하지 못했던 상황이 운영 과정에서 나타날 가능성을 고려해야 한다.

이를 위해 활용할 수 있는 방법으로는 디지털 트윈과 레드팀 방식의 보안 검증 등이 거론됐다.

디지털 트윈은 실제 환경을 가상공간에 구현해 다양한 상황을 시험하는 데 활용할 수 있다.

이를 이용하면 실제 장비에 영향을 주지 않으면서 특정 사이버공격이나 시스템 오류가 발생했을 때 어떤 결과가 나타나는지를 점검할 수 있다.

레드팀은 공격자의 관점에서 시스템을 시험해 취약점을 찾아내는 방식이다.

피지컬 AI에서는 단순히 시스템에 침투할 수 있는지를 확인하는 것뿐 아니라 그 결과가 실제 물리적 환경에서 어떤 영향을 발생시킬 수 있는지도 함께 살펴볼 필요가 있다.

국가안보전략연구원 역시 2026년 1월 발표한 윤정현 연구원의 연구자료에서 피지컬 AI 확산과 함께 신뢰와 안전의 중요성이 커지고 있다고 분석했다.

세 번째 주제 : 기술패권 시대의 기업보안

세 번째 발표는 장항배 중앙대학교 교수의 「기술패권 시대, 기업보안의 가치와 의의」였다.

최근 기업의 경쟁력은 단순히 제품을 얼마나 많이 생산하는가에만 의해 결정되지 않는다.

기업이 보유한 기술과 연구개발 결과, 설계정보, 제조공정, 데이터, 소프트웨어 등도 중요한 경쟁 자산이 된다.

특히 반도체와 AI처럼 기술 변화가 빠른 분야에서는 기술정보가 경쟁력과 직접 연결될 수 있다.

따라서 사이버보안은 단순히 해킹을 막는 기술을 넘어 기업의 핵심 기술과 지식자산을 보호하는 활동으로 확대되고 있다.

기업이 AI를 사용할 때 생기는 새로운 보안 문제

기업에서 생성형 AI를 활용하는 사례는 빠르게 증가하고 있다.

직원들이 AI를 활용해 문서를 작성하거나 코드를 분석하고 회의 내용을 정리하는 등 다양한 업무를 수행할 수 있다.

문제는 업무 과정에서 기업의 민감한 정보가 AI 서비스에 입력될 가능성이 있다는 점이다.

예를 들어 직원이 다음과 같은 자료를 외부 AI 서비스에 입력한다고 가정해보자.

• 개발 중인 제품의 설계정보

• 소스코드

• 미공개 사업계획

• 고객정보

• 내부 회의자료

• 연구개발 자료

• 제조공정 정보

AI를 활용하는 행위 자체가 문제가 되는 것이 아니라 어떤 정보를 어떤 AI 환경에서 어떻게 처리하는가가 중요한 문제가 된다.

따라서 기업은 AI 사용을 무조건 차단하기보다 정보의 중요도를 구분하고 적절한 보호정책을 마련할 필요가 있다.

모든 정보를 똑같이 보호할 수는 없다

기업보안에서 중요한 출발점 가운데 하나는 무엇을 보호해야 하는지를 명확히 정하는 것이다.

기업이 보유한 모든 정보를 동일한 수준으로 보호하려고 하면 비용과 업무 부담이 지나치게 커질 수 있다.

반대로 중요한 정보를 일반 정보와 똑같이 관리하면 기술 유출이나 정보 탈취 위험이 커질 수 있다.

따라서 정보의 가치와 중요도를 기준으로 분류하는 접근이 필요하다.

예를 들어 기업 내부 정보를 다음과 같이 구분할 수 있다.

일반정보

공개해도 큰 문제가 없는 정보

↓

내부정보

업무상 외부 공개가 제한되는 정보

↓

중요정보

사업 경쟁력과 연결되는 정보

↓

핵심기술·민감정보

유출될 경우 기업의 기술 경쟁력이나 사업에 큰 영향을 줄 수 있는 정보

이러한 분류를 바탕으로 정보별 접근권한과 반출정책, AI 사용정책 등을 다르게 설정할 수 있다.

AI 시대에는 '정보를 어디에 넣는가'도 중요하다

생성형 AI를 사용할 때 흔히 "AI가 좋은 답을 만들어 주는가?"에 관심을 갖는다.

하지만 기업보안 관점에서는 질문을 조금 바꿀 필요가 있다.

"이 정보를 어떤 AI 시스템에 입력해도 되는가?"

이 질문이 중요하다.

예를 들어 공개된 보도자료를 AI에 입력하는 것과 아직 공개되지 않은 반도체 설계자료를 AI에 입력하는 것은 보안 관점에서 전혀 다른 문제다.

따라서 기업의 AI 활용정책에는 다음과 같은 기준이 필요할 수 있다.

AI 입력 가능 정보

공개자료, 일반적인 업무자료 등

제한적인 입력이 필요한 정보

내부 업무자료, 고객 관련 정보 등

외부 AI 입력을 금지하거나 별도의 보호환경에서 처리해야 하는 정보

핵심기술, 영업비밀, 민감한 연구개발 정보 등

이처럼 AI 활용과 정보보안을 연결해서 생각하는 것이 중요하다.

기술패권 경쟁에서 기업보안의 의미

기술패권 경쟁이 심화되면서 기업이 보유한 기술은 기업만의 자산을 넘어 국가 산업경쟁력과도 연결될 수 있다.

장항배 교수 역시 최근 기술패권 경쟁과 연구보안의 중요성을 다룬 글에서 국가 R&D 성과와 첨단 핵심기술 보호의 중요성을 강조했다. 특히 연구과제를 일률적으로 보안과 일반으로 구분하기보다 보호 필요성에 따라 보다 세분화된 관리체계가 필요하다는 취지의 논의를 제시했다.

이는 기업보안에도 중요한 시사점을 제공한다.

보안은 모든 것을 차단하는 것이 아니라 보호해야 할 대상과 활용해야 할 대상을 구분하는 작업에서 출발할 수 있기 때문이다.

세 가지 발표가 연결되는 지점

이번 세션의 세 가지 주제를 하나의 흐름으로 연결하면 다음과 같이 정리할 수 있다.

AI 데이터센터

AI가 사용하는 인프라와 데이터 보호

↓

피지컬 AI

AI의 판단과 물리적 행동까지 보호

↓

기업보안

AI와 첨단기술을 활용하는 과정에서 기업의 핵심정보 보호

결국 세 주제 모두 보안의 범위가 기존 IT 시스템을 넘어 AI와 현실 세계, 그리고 기술자산까지 확대되고 있다는 점에서 연결된다.

'보안을 나중에 추가하는 방식'에서 벗어나야 한다

과거에는 새로운 시스템이나 서비스를 먼저 개발한 다음 마지막 단계에서 보안 기능을 추가하는 경우가 많았다.

하지만 AI와 첨단기술이 핵심 인프라로 활용되면서 이러한 방식만으로는 충분하지 않을 수 있다.

예를 들어 AI 데이터센터를 구축하면서 보안을 마지막에 추가한다면 데이터 구조와 AI 모델, 접근권한, 에이전트 권한 등을 다시 설계해야 할 수 있다.

피지컬 AI 역시 제품을 모두 개발한 뒤 보안을 검토하면 실제 환경에서 발생할 수 있는 위험을 충분히 반영하기 어려울 수 있다.

기업의 AI 활용 역시 마찬가지다.

AI를 먼저 도입한 뒤 정보 유출 문제가 발생하고 나서 보안정책을 만드는 것보다, AI 도입 단계에서부터 정보의 중요도와 처리환경을 함께 설계하는 것이 중요하다.

이러한 접근을 흔히 보안 내재화(Security by Design)라는 관점에서 이해할 수 있다.

3대 메가 프로젝트와 보안을 연결해서 이해하기

CSK 2026에서 논의된 세 가지 주제는 최근 국가 차원의 AI·첨단산업 정책 흐름과도 연결된다.

정부의 2026년 업무 추진 현황에는 AI 데이터센터와 국가 AI 컴퓨팅 인프라 확대, 피지컬 AI 관련 데이터 구축, AI 보안 및 정보보호 체계 강화 등의 내용이 포함돼 있다.

또한 국가AI전략위원회와 관련한 최근 보도에서도 3대 메가프로젝트와 AI 데이터센터, 제조AI, AI 사이버보안 체계 등의 추진 방향이 소개됐다.

즉, AI와 첨단산업을 육성하는 정책이 확대될수록 이를 안전하게 운영하기 위한 사이버보안 역시 함께 고려해야 하는 구조가 되고 있다.

일반 사용자 입장에서 무엇을 이해하면 좋을까?

이번 세션은 국가와 대기업의 보안 전문가를 위한 이야기처럼 보일 수 있다.

하지만 핵심 원리는 일반적인 AI 사용자에게도 적용할 수 있다.

첫째, AI에게 입력하는 정보를 확인한다

AI에게 질문하기 전에 민감한 개인정보나 회사 내부자료가 포함되어 있는지 확인하는 습관이 필요하다.

둘째, AI의 결과를 그대로 신뢰하지 않는다

AI가 만들어낸 결과가 항상 정확하다고 볼 수는 없다.

중요한 업무에서는 결과를 확인하고 검증하는 과정이 필요하다.

셋째, AI가 실제 행동을 수행한다면 권한을 제한한다

AI 에이전트가 파일을 수정하거나 시스템에 접근하거나 외부 서비스를 이용할 수 있다면 필요한 범위에서만 권한을 제공하는 것이 중요하다.

넷째, AI가 연결된 시스템까지 생각한다

AI 자체만 안전하게 만드는 것으로 끝나는 것이 아니라 AI가 연결된 데이터와 네트워크, 애플리케이션, 물리적 장비까지 함께 살펴봐야 한다.

CSK 2026 세션 C-3가 보여준 사이버보안의 변화

「3대 메가 프로젝트와 사이버보안」 세션은 AI 시대의 보안이 단순한 해킹 방어 기술만을 의미하지 않는다는 점을 보여준다.

AI 데이터센터에서는 데이터와 모델, AI 에이전트의 권한과 행동을 보호해야 한다.

피지컬 AI에서는 센서부터 AI 판단, 실제 장비의 행동까지 전체 과정을 살펴야 한다.

기업에서는 AI 활용이 증가하는 만큼 기업의 핵심 기술과 정보를 어떻게 분류하고 보호할 것인지가 중요해진다.

결국 앞으로의 사이버보안은 다음과 같은 방향으로 확대될 가능성이 크다.

네트워크 보안

→ 데이터 보안

→ AI 모델 보안

→ AI 에이전트 보안

→ 물리적 시스템 보안

→ 기업 핵심기술 보호

이러한 변화는 AI가 단순한 소프트웨어 기능을 넘어 국가 인프라와 산업 현장, 기업의 업무 프로세스에 직접 연결되고 있기 때문에 나타나는 현상이라고 볼 수 있다.

CSK 2026의 「3대 메가 프로젝트와 사이버보안」 세션은 AI 데이터센터·피지컬 AI·첨단기술 보호라는 서로 다른 분야가 결국 사이버보안이라는 하나의 과제로 연결되고 있다는 점을 보여준 자리였다.

특히 AI 데이터센터에서는 AI가 사용하는 데이터와 모델뿐 아니라 AI의 판단과 실행 과정까지 관리할 필요성이 커지고 있다.

피지컬 AI에서는 사이버상의 문제가 현실 세계의 행동으로 연결될 수 있기 때문에 개발 단계부터 운영과 업데이트까지 지속적인 보안 검증이 중요해지고 있다.

기업에서는 AI를 업무에 활용하면서 기술정보와 영업비밀을 보호하기 위한 정보 분류와 AI 활용정책이 더욱 중요해질 것으로 보인다.

AI 시대의 사이버보안은 단순히 "해킹을 막는 기술"이라고 정의하기 어렵다.

무엇을 보호해야 하는지 판단하고, AI가 무엇을 할 수 있는지 통제하며, AI의 판단과 행동을 지속적으로 확인하는 것까지 포함하는 종합적인 관리 영역으로 확대되고 있다.

이번 CSK 2026 세션은 이러한 변화가 이미 국가 인프라와 산업 현장에서 중요한 논의 주제가 되고 있음을 보여줬다는 점에서 의미가 있다.

Cyber Summit Korea(CSK) 2026 홈페이지 참고(https://cybersummit.kr)

출처 : 오늘부터 AI(Today AI) - https://blog.candlesister.com