사이버 서밋 코리아(CSK) 2026. (출처: CSK 2026 Cyber Summit Korea 홈페이지)

CSK 2026 세션 C-4 특별강연

제조 파운데이션 모델의 보안 이슈와 국제사이버훈련 APEX를 쉽게 이해하기

인공지능이 제조 현장과 사이버보안 영역으로 빠르게 확산하면서 이제는 단순히 "AI를 어떻게 활용할 것인가"만큼이나 "AI를 어떻게 안전하게 사용할 것인가"가 중요한 과제가 되고 있습니다.

특히 제조업에서는 생산 과정에서 만들어지는 센서 데이터, 설비 정보, 제품 이미지, 품질 데이터, 작업 문서, 레시피와 같은 정보가 AI의 학습과 분석에 활용될 수 있습니다.

이러한 데이터가 하나의 AI 모델 안에서 결합되면 생산성과 품질을 높이는 데 도움이 될 수 있지만, 반대로 기업의 핵심 기술과 노하우가 AI를 통해 외부로 노출될 가능성도 함께 생각해야 합니다.

2026년 9월 개최된 「CYBER SUMMIT KOREA 2026」에서는 이러한 AI 시대의 보안 문제와 국제적인 사이버 방어 협력을 함께 살펴볼 수 있는 다양한 프로그램이 마련됐습니다.

이번 글에서는 특히 세션 C-4 특별강연에서 다뤄진 두 가지 주제인

「제조 파운데이션 모델의 보안 이슈와 대응 방안」- 고영명 교수(포항공대)
「국제사이버훈련 APEX 쉽게 이해하기」- 김한수 대표(세그폴트, 유투버 '노말틱')

를 중심으로 내용을 쉽게 정리해 보겠습니다.

1. CSK 2026은 어떤 행사인가?

「CYBER SUMMIT KOREA 2026」, 줄여서 CSK 2026은 글로벌 사이버안보를 주제로 국내외 전문가와 기관, 기업, 학계 등이 모이는 사이버안보 행사입니다.

2026년 행사는 9월 16일부터 18일까지 서울 COEX에서 진행됐으며, 국가정보원과 국가보안기술연구소가 주최했습니다.

CSK 2026에서는 크게 다음과 같은 프로그램이 진행됐습니다.

사이버안보 컨퍼런스
국제사이버훈련 APEX
사이버공격방어대회 CCE
전시·홍보 부스
청소년 화이트해커 아카데미
대학생 논문발표회 등

이번 행사의 특징 가운데 하나는 AI가 사이버안보의 중요한 주제로 본격적으로 등장했다는 점입니다.

고성능 AI의 위협, AI 보안 전략, 국제 사이버협력, 사이버훈련 등 다양한 분야에서 AI와 보안의 관계가 논의됐습니다.

즉, AI를 활용해 업무와 산업을 혁신하는 동시에 AI를 이용한 새로운 공격과 AI 시스템 자체의 보안 문제에도 대응해야 하는 시대가 됐다는 것입니다.

2. 세션 C-4 특별강연에서 무엇을 다뤘나?

세션 C-4 특별강연에서는 제조 분야의 AI 보안과 국제 사이버훈련이라는 서로 다른 주제가 다뤄졌습니다.

첫 번째 발표는

「제조 파운데이션 모델의 보안 이슈와 대응 방안」

이라는 주제였습니다.

두 번째 발표는

「국제사이버훈련 APEX 쉽게 이해하기」

라는 주제로 진행됐습니다.

세션의 좌장은 박기태 센터장(국보연)이 맡았습니다.

두 발표를 함께 살펴보면 하나의 공통점을 발견할 수 있습니다.

바로 AI와 사이버보안이 특정 기술 하나의 문제가 아니라 산업과 국가 차원의 보안 문제로 확대되고 있다는 점입니다.

3. 제조 파운데이션 모델이란 무엇일까?

먼저 제조 파운데이션 모델(MFM, Manufacturing Foundation Model)을 이해해 보겠습니다.

파운데이션 모델은 다양한 데이터를 대규모로 학습해 여러 업무에 활용할 수 있도록 만들어진 AI 모델을 말합니다.

대표적으로 우리가 사용하는 생성형 AI도 텍스트, 이미지 등의 다양한 데이터를 학습해 여러 작업을 수행할 수 있습니다.

제조 분야에서도 이러한 방식의 AI 모델을 활용할 수 있습니다.

예를 들어 제조 현장에서는 다음과 같은 데이터가 발생합니다.

설비 센서 데이터
생산 공정 데이터
제품 이미지
품질 검사 데이터
작업 문서
생산 레시피
재료 및 물성 데이터
설비 운전 데이터
작업자의 경험과 노하우

이러한 데이터를 AI가 종합적으로 이해한다면 제조 현장의 여러 문제를 지원할 수 있습니다.

예를 들어 다음과 같은 활용이 가능합니다.

공정 최적화

생산 과정에서 발생하는 데이터를 분석해 공정 조건을 개선하는 데 활용할 수 있습니다.

품질 검사

제품의 사진이나 검사 데이터를 AI가 분석해 불량 여부를 판별하는 데 활용할 수 있습니다.

예지보전

설비에서 발생하는 센서 데이터를 분석해 고장 가능성을 미리 파악하는 데 활용할 수 있습니다.

생산성 향상

여러 생산 데이터를 종합적으로 분석해 생산 과정에서 발생하는 비효율을 찾아내는 데 활용할 수 있습니다.

이처럼 제조 AI는 단순히 질문에 답하는 AI를 넘어 제조 현장의 의사결정과 생산 과정에 직접 연결될 수 있습니다.

4. 그런데 제조 AI에 왜 보안이 중요할까?

제조 AI가 일반적인 AI와 다른 중요한 특징 가운데 하나는 학습 데이터 자체가 기업의 핵심 자산일 수 있다는 점입니다.

예를 들어 어떤 기업이 특정 제품을 생산하기 위해 사용하는 제조 레시피가 있다고 가정해 보겠습니다.

레시피에는 다음과 같은 정보가 포함될 수 있습니다.

원료의 종류
원료의 배합 비율
공정 온도
압력
시간
설비 조건
생산 순서
품질 관리 기준

이러한 정보는 단순한 데이터가 아니라 기업이 오랜 시간 축적한 제조 노하우가 될 수 있습니다.

또한 설비 데이터를 장기간 분석하면 특정 공장의 설비 구성이나 생산 특성을 파악할 수 있는 정보가 만들어질 수도 있습니다.

따라서 제조 데이터를 대규모 AI 모델에 학습시키는 과정에서는 다음과 같은 질문이 필요합니다.

"AI가 데이터를 잘 학습하는가?"

뿐만 아니라

"AI가 학습한 데이터를 안전하게 보호하고 있는가?"

라는 질문도 함께 해야 합니다.

5. 제조 파운데이션 모델에서 생각할 수 있는 주요 위협

이번 발표에서는 제조 파운데이션 모델에서 발생할 수 있는 여러 보안 위협을 다룹니다.

대표적으로 데이터 추출, 모델 인버전, 그래디언트 유출, 포이즈닝 등이 있습니다.

하나씩 쉽게 살펴보겠습니다.

5-1. 데이터 추출

AI 모델에 반복적으로 질문하거나 모델의 출력 결과를 분석하면서 학습 데이터에 포함된 민감한 정보를 추론하려는 공격입니다.

예를 들어 제조 AI가 특정 생산 공정에 대한 질문에 지나치게 구체적인 답변을 반복적으로 제공한다면 공격자는 답변을 조합해 기업의 제조 정보를 추정할 수 있습니다.

이 때문에 AI 모델의 답변 자체도 보안 관점에서 관리할 필요가 있습니다.

5-2. 모델 인버전

모델의 동작이나 출력 결과를 분석해 학습에 사용된 데이터의 특성을 역으로 추정하는 공격을 생각할 수 있습니다.

제조 AI가 특정 설비나 제품의 데이터를 많이 학습했다면 모델의 출력 정보를 분석해 원래 데이터에 포함됐던 특징을 추정하려는 시도가 가능할 수 있습니다.

즉,

데이터 → AI 모델

이라는 일반적인 흐름뿐만 아니라

AI 모델 → 학습 데이터의 특징 추정

이라는 역방향의 위험도 고려해야 합니다.

6. 그래디언트 유출이란?

AI 모델을 학습할 때는 데이터를 이용해 모델의 파라미터를 업데이트합니다.

이 과정에서 생성되는 그래디언트 정보를 외부에 전달해야 하는 환경에서는 이 정보가 원래 학습 데이터의 일부 특징을 노출할 가능성이 문제가 될 수 있습니다.

특히 여러 조직이 데이터를 직접 공유하지 않고 AI 모델 학습에 참여하는 환경에서는 이러한 문제가 중요합니다.

제조 분야에서는 데이터 자체를 외부로 보내지 않는 방식이 선호될 수 있지만, 그렇다고 해서 모든 정보가 자동으로 안전해지는 것은 아닙니다.

모델 업데이트 과정에서 전달되는 정보까지 보안 대상으로 봐야 합니다.

7. 포이즈닝 공격은 무엇일까?

포이즈닝(Poisoning)은 AI가 학습하는 데이터를 의도적으로 오염시키는 공격입니다.

예를 들어 정상적인 제조 데이터를 학습해야 하는데 공격자가 잘못된 데이터를 학습 과정에 섞는다면 AI의 판단에 영향을 줄 수 있습니다.

제조 AI에서는 이런 문제가 더욱 중요할 수 있습니다.

AI가 생산 품질이나 설비 상태를 판단하는 데 사용된다면 잘못된 학습 데이터가 AI의 판단 오류로 이어질 수 있기 때문입니다.

따라서 제조 AI에서는

데이터를 얼마나 많이 확보했는가

뿐만 아니라

그 데이터가 신뢰할 수 있는 데이터인가

도 확인해야 합니다.

8. 제조 AI 보안은 하나의 기술만으로 해결하기 어렵다

제조 파운데이션 모델을 보호하기 위해서는 하나의 보안 기술만 적용하는 방식보다는 여러 방어 수단을 함께 사용하는 접근이 필요합니다.

발표에서 제시된 주요 대응 방향을 쉽게 정리하면 다음과 같습니다.

차분 프라이버시

데이터를 그대로 노출하지 않도록 일정한 방식으로 개인정보나 민감한 데이터의 영향을 줄이는 기술입니다.

AI 학습 결과에서 특정 데이터가 지나치게 드러나는 것을 줄이는 데 활용할 수 있습니다.

연합학습

데이터를 한곳에 모두 모으지 않고 각 기관이나 기업에서 모델을 학습한 뒤 필요한 정보만 공유하는 방식입니다.

제조기업 간 데이터를 직접 공유하기 어려운 상황에서 활용 가능성을 생각해 볼 수 있습니다.

다만 연합학습 역시 모델 업데이트 정보 등을 통한 정보 유출 가능성을 함께 고려해야 합니다.

머신 언러닝

AI 모델이 특정 데이터를 학습한 이후 해당 데이터의 영향을 모델에서 제거하는 기술입니다.

데이터 삭제 요구나 특정 데이터의 영향 제거가 필요한 상황에서 중요한 연구 분야입니다.

접근통제

누가 어떤 AI 모델과 데이터에 접근할 수 있는지를 관리하는 것입니다.

모든 직원이나 시스템이 모든 제조 데이터에 접근할 필요는 없습니다.

업무에 필요한 범위만 접근할 수 있도록 권한을 나누는 것이 중요합니다.

MLSecOps

머신러닝 개발과 운영 과정에 보안을 함께 적용하는 접근입니다.

AI 모델을 개발한 뒤 마지막에 보안을 추가하는 것이 아니라

데이터 수집 → 학습 → 모델 검증 → 배포 → 운영 → 모니터링

전 과정에 보안을 포함하는 것입니다.

9. 제조 AI에서는 거버넌스도 중요하다

AI 보안을 기술만으로 해결할 수 없는 이유가 있습니다.

제조 데이터에는 기업의 핵심 기술과 노하우가 포함될 수 있기 때문입니다.

따라서 다음과 같은 질문에 대한 조직 차원의 기준이 필요합니다.

어떤 데이터를 AI 학습에 사용할 것인가?
민감한 제조 데이터는 어디에 저장할 것인가?
누가 데이터에 접근할 수 있는가?
외부 AI 서비스에 데이터를 입력해도 되는가?
AI가 생성한 결과를 사람이 검증해야 하는가?
모델 업데이트를 누가 승인할 것인가?
문제가 발생했을 때 누가 책임지는가?

이러한 문제를 종합적으로 관리하는 것이 AI 거버넌스입니다.

특히 국가핵심기술이나 기업의 핵심 제조기술과 연결되는 경우에는 기술적인 보안과 함께 제도와 정책 측면의 보호 체계도 중요해집니다.

10. 두 번째 발표, 국제사이버훈련 APEX란?

두 번째 발표 주제는

「국제사이버훈련 APEX 쉽게 이해하기」

입니다.

APEX는 Allied Power Exercise의 약자로, 국제적인 사이버안보 협력과 연대를 강화하기 위한 국제사이버훈련입니다.

CSK 공식 자료에 따르면 APEX는 2024년부터 시작됐으며, 가상의 국가 간 분쟁 상황을 기반으로 한 사이버전 시나리오를 활용합니다.

참가국들은 방어팀(Blue Team)으로 참여해 사이버공격 상황에 대응합니다.

쉽게 표현하면

"실제 국가 간 사이버 위기가 발생했다고 가정하고 여러 나라가 함께 사이버공격을 방어하는 훈련"

이라고 이해하면 됩니다.

11. APEX는 왜 필요한가?

사이버공격에는 국경이 없습니다.

공격자가 어느 국가에 있든 인터넷을 통해 다른 국가의 기업이나 기관을 공격할 수 있습니다.

또한 하나의 공격이 여러 국가와 기관에 동시에 영향을 미칠 수도 있습니다.

따라서 한 국가가 혼자 모든 공격을 막는 데에는 한계가 있습니다.

실제 사이버 위기 상황에서는 다음과 같은 협력이 필요할 수 있습니다.

공격 정보 공유
위협 분석
침해 상황 파악
공격 확산 차단
대응 방법 협의
복구 지원
사후 분석

APEX와 같은 국제훈련은 이러한 협력 과정을 실제와 비슷한 상황에서 연습할 수 있도록 하는 역할을 합니다.

12. APEX에서는 어떤 훈련을 할까?

APEX는 단순한 이론 교육이 아닙니다.

가상의 사이버 위기 상황을 만들어 참가자들이 실제 방어팀처럼 대응하도록 구성됩니다.

예를 들어 가상의 국가에서 사이버공격이 발생했다고 가정해 보겠습니다.

그러면 방어팀은 다음과 같은 과정을 수행할 수 있습니다.

① 공격 상황 확인

시스템에서 이상 징후가 발생했는지 확인합니다.

② 위협 분석

어떤 종류의 공격인지 분석합니다.

③ 피해 범위 파악

어떤 시스템이나 네트워크가 영향을 받았는지 확인합니다.

④ 대응 방법 결정

추가적인 피해를 막기 위해 어떤 조치를 취할지 결정합니다.

⑤ 국제 협력

다른 참가국이나 기관과 필요한 정보를 공유합니다.

⑥ 공격 대응

공격에 대응하고 추가적인 침해를 차단합니다.

⑦ 사후 분석

훈련이 끝난 뒤 어떤 대응이 효과적이었고 어떤 부분을 개선해야 하는지 분석합니다.

즉 APEX의 핵심은 단순히 "공격을 막는 기술"을 테스트하는 것에 그치지 않고 국가와 기관 간 협력 능력까지 함께 확인하는 것이라고 볼 수 있습니다.

13. 2026년 APEX에서 주목할 부분, AI 방어팀

2026년 APEX에서는 특히 AI 방어팀(AI-driven Blue Team)이 새롭게 구성됐다는 점이 주목됩니다.

AI가 사이버공격에 활용될 가능성이 커지면서 방어 분야에서도 AI를 활용할 필요성이 커지고 있기 때문입니다.

기존에는 사람이 보안 이벤트를 확인하고 분석한 뒤 대응 방법을 결정하는 방식이 중심이었다면, AI를 활용하면 대규모 보안 데이터를 빠르게 분석하고 이상 징후를 찾아내는 방식으로 발전할 수 있습니다.

더 나아가 AI가 탐지와 분석뿐만 아니라 대응 과정의 일부를 자동화할 수도 있습니다.

하지만 AI 방어에는 새로운 과제도 있습니다.

AI가 잘못된 판단을 하면 오히려 보안 대응에 문제를 일으킬 수 있기 때문입니다.

따라서 AI 방어팀에서는

AI를 사용하는 것 자체가 목표가 아니라 AI가 실제 사이버 위협 상황에서 얼마나 신뢰할 수 있는 판단을 하는지 검증하는 것

이 중요합니다.

14. AI 공격과 AI 방어의 경쟁

AI 시대에는 공격자와 방어자 모두 AI를 사용할 수 있습니다.

공격자는 AI를 이용해 공격 정보를 수집하거나 취약점을 찾거나 공격 과정을 자동화하려 할 수 있습니다.

반대로 방어자는 AI를 이용해 대량의 보안 데이터를 분석하고 이상 행동을 탐지하거나 대응 과정을 지원할 수 있습니다.

이러한 상황에서는 사이버보안의 속도도 중요해집니다.

사람이 모든 이벤트를 하나씩 분석하는 동안 공격이 진행될 수 있기 때문입니다.

따라서 앞으로는

사람 + AI

가 함께 보안을 수행하는 구조가 더욱 중요해질 가능성이 있습니다.

다만 중요한 판단을 AI에게 무조건 맡기는 것이 아니라 AI의 결과를 검증하고 통제할 수 있는 체계를 함께 마련해야 합니다.

15. 제조 AI 보안과 APEX는 어떻게 연결될까?

겉으로 보면

「제조 파운데이션 모델 보안」

과

「국제사이버훈련 APEX」

는 서로 다른 주제처럼 보입니다.

하지만 공통된 핵심이 있습니다.

바로 AI가 실제 환경에 들어올수록 보안 역시 AI와 함께 설계해야 한다는 점입니다.

제조 현장에서는 AI가 생산 데이터를 분석합니다.

국가 사이버방어 분야에서는 AI가 사이버위협을 분석할 수 있습니다.

결국 두 분야 모두

데이터 → AI → 판단 → 실제 행동

이라는 흐름을 갖게 됩니다.

따라서 AI의 판단이 틀렸을 때 어떤 문제가 발생하는지, 데이터가 오염됐을 때 어떻게 대응할지, AI에 누가 접근할 수 있는지 등을 미리 준비해야 합니다.

16. 앞으로 중요해질 AI 보안의 기본 원칙

제조 AI든 사이버방어 AI든 기본적으로 다음과 같은 원칙을 생각할 수 있습니다.

첫째, 중요한 데이터는 최소한으로 제공한다

AI가 필요하다고 해서 모든 데이터를 무조건 제공할 필요는 없습니다.

업무에 필요한 데이터만 제공하고 민감한 정보는 별도로 보호해야 합니다.

둘째, AI의 결과를 그대로 믿지 않는다

AI가 아무리 정교해도 오류가 발생할 수 있습니다.

중요한 의사결정에는 사람의 검토와 승인 절차가 필요합니다.

셋째, AI 접근 권한을 관리한다

누구나 AI 모델과 민감한 데이터에 접근할 수 있도록 해서는 안 됩니다.

사용자와 시스템별로 권한을 구분해야 합니다.

넷째, 학습 데이터의 출처와 품질을 확인한다

AI의 성능은 학습 데이터에 크게 영향을 받습니다.

따라서 데이터가 어디에서 왔는지, 변경되지는 않았는지, 신뢰할 수 있는지 확인해야 합니다.

다섯째, AI 시스템을 지속적으로 모니터링한다

AI는 한 번 개발했다고 끝나는 시스템이 아닙니다.

운영 과정에서 새로운 공격이나 오류가 발생할 수 있기 때문에 지속적인 점검이 필요합니다.

17. 마무리

CSK 2026의 세션 C-4 특별강연에서 다뤄진 두 주제는 서로 다른 분야처럼 보이지만 AI 시대의 사이버보안이라는 하나의 흐름으로 연결해서 생각할 수 있습니다.

「제조 파운데이션 모델의 보안 이슈와 대응 방안」은 AI가 제조 현장의 데이터와 지식을 폭넓게 활용하게 될수록 기업의 핵심 데이터와 제조 노하우를 어떻게 보호할 것인가가 중요한 문제가 된다는 점을 보여줍니다.

반면 「국제사이버훈련 APEX 쉽게 이해하기」는 국가 간 사이버위협에 대응하기 위해 여러 국가와 기관이 실제와 유사한 상황에서 함께 대응하는 훈련이 왜 필요한지를 이해하는 데 도움을 줍니다.

특히 2026년 APEX에 AI 방어팀이 새롭게 참여했다는 점은 앞으로의 사이버보안에서 AI가 공격 수단뿐만 아니라 방어 수단으로도 중요한 역할을 하게 될 가능성을 보여주는 사례입니다.

결국 AI 시대의 보안은 단순히 해킹을 막는 기술만을 의미하지 않습니다.

데이터를 보호하고, AI 모델을 보호하고, AI의 판단을 검증하고, 사람이 AI를 통제하며, 필요한 경우 국가와 기관이 함께 대응할 수 있는 체계를 만드는 것이 중요합니다.

앞으로 제조업과 국가 사이버방어를 비롯해 다양한 분야에서 AI 활용이 확대될수록 AI 보안은 선택적인 기능이 아니라 AI를 안전하게 활용하기 위한 기본 조건으로 자리 잡을 가능성이 큽니다.

CSK 2026의 이번 특별강연은 바로 이러한 변화 속에서 AI를 얼마나 똑똑하게 활용하느냐뿐만 아니라 얼마나 안전하게 활용하느냐가 중요해지고 있다는 사실을 생각해 볼 수 있는 주제였습니다.

출처 : 오늘부터 AI(Today AI) - https://blog.candlesister.com