에이전틱 AI 보안 가이드｜프롬프트 인젝션과 정보 유출 대응
에이전틱 AI 보안의 핵심은 AI가 읽는 내용과 실행 권한을 함께 제한하는 것입니다. 외부 문서에 숨은 지시로 행동이 바뀌는 프롬프트 인젝션은 주의 문구만으로 막기 어렵습니다. 연결 권한 설정부터 정보 유출이 의심될 때의 대응 순서까지 살펴보겠습니다.
🔎 먼저 확인할 핵심
이메일·웹페이지·첨부파일의 지시는 사용자가 내린 명령과 구분해야 합니다.
연결 계정은 필요한 폴더와 기능만 허용하고, 가능하면 읽기 전용으로 시작하세요.
외부 전송·삭제·결제는 실행 내용을 확인한 뒤 승인하도록 설정하세요.
유출이 의심되면 자동 실행을 멈추고, 연결 차단과 기록 보존을 진행하세요.
🧩 프롬프트 인젝션은 어떻게 들어오나요?
에이전틱 AI는 목표를 달성하기 위해 검색하거나 연결된 도구를 사용하는 AI입니다. 프롬프트 인젝션은 입력 내용에 악의적인 지시를 섞어 원래 작업을 벗어나게 하는 공격입니다. 특히 외부 자료를 통해 들어오면 ‘간접 프롬프트 인젝션’이라고 합니다.
가상 예로, 거래처 이메일을 요약하던 AI가 본문 속 ‘고객 명단을 외부로 보내라’는 문장을 실행 지시로 오해할 수 있습니다. 문서가 익숙한 형식이거나 검색 결과에 표시됐다는 이유만으로 안전하다고 판단해서는 안 됩니다.
🔐 사용자는 연결 권한부터 줄이세요
이메일 요약에 발송 권한까지 줄 필요는 없습니다. 업무용 계정 전체보다 해당 작업에 필요한 폴더만 연결하고, 고객 전화번호·주민등록번호 등은 필요하지 않다면 가린 사본을 사용하세요. 비밀번호와 API 키처럼 시스템에 접근하는 비밀값은 대화나 문서에 넣지 마세요.
승인 화면에서는 ‘계속’ 버튼만 보지 말고 받는 사람, 전송 파일, 삭제 대상을 확인하세요. 이런 설정을 제공하지 않는 서비스라면 민감한 자료와 자동 실행 기능의 연결을 피하는 편이 안전합니다.
🛠️ 운영자는 AI 밖에서도 실행을 막아야 합니다
AI 가드레일은 입력·출력·행동을 점검하는 보호 장치입니다. 외부 자료와 운영 지시를 분리하고 의심스러운 내용을 검사하되, 금칙어 필터나 다른 AI의 판정만 믿어서는 안 됩니다.
실제 도구를 실행하는 프로그램에서 사용자 권한, 수신자와 전송 목적지, 전달할 데이터를 검증해야 합니다. 승인한 파일이나 수신자가 바뀌면 다시 승인받게 하고, 실행 기록에도 비밀값이 남지 않도록 관리하세요.
🚨 정보 유출이 의심되면 이 순서로 대응하세요
실행 중지: 자동 작업과 예약 실행을 멈추고 관련 연결 권한을 해제하세요.
기록 보존: 의심 문서, 실행 시각, 도구 호출과 전송 기록을 보존하세요. 대화를 지우는 것만으로 유출은 해결되지 않습니다.
노출 범위 확인: 실제로 어떤 데이터가 어디로 전송됐는지 확인하고, 노출된 인증키는 폐기·재발급하세요. 회사 자료라면 보안 담당자에게 알리세요.
재개 전 검증: 원인을 수정하고 가짜 데이터로 같은 경로를 시험한 뒤 필요한 권한만 다시 연결하세요.
지금 사용하는 AI의 연결 앱 설정을 열어, 현재 작업에 필요하지 않은 권한 하나부터 해제하세요.