OpenAI, 민감 데이터 보호를 위한 '잠금 모드' 공개… 프롬프트 인젝션 대응

OpenAI가 ChatGPT에 새로운 보안 기능인 '잠금 모드(Lockdown Mode)'를 도입했다. 이 기능은 프롬프트 인젝션 공격으로부터 민감한 데이터를 보호하기 위해 설계됐으며, 기업 환경에서 AI를 안전하게 활용하려는 수요에 직접 응답하는 조치다. 다만 OpenAI는 잠금 모드를 활성화해도 프롬프트 인젝션에 완전히 취약하지 않을 수 있다고 인정했으며, 목표는 민감 데이터가 유출될 가능성을 낮추는 것이라고 밝혔다.

프롬프트 인젝션은 악의적인 사용자가 AI 시스템의 입력에 숨겨진 명령을 삽입해 원래 의도와 다른 동작을 유도하는 공격 기법이다. 특히 AI 에이전트가 외부 데이터(웹사이트, 문서, 이메일 등)를 처리할 때 이 공격에 취약해진다. 기업들이 ChatGPT를 내부 시스템과 연동하는 사례가 급증하면서 이 공격 벡터의 위험성도 크게 높아졌다. 잠금 모드는 이러한 환경에서 외부 콘텐츠의 영향력을 제한해 내부 데이터가 의도치 않게 노출되는 상황을 방지하는 것을 목표로 한다.

이번 발표는 AI 보안이 더 이상 선택이 아닌 필수 요소가 됐음을 시사한다. 기업들이 AI를 핵심 업무 프로세스에 통합할수록 보안 취약점은 곧바로 비즈니스 리스크로 이어진다. OpenAI가 보안 기능을 강화하는 것은 기업 시장에서의 신뢰를 구축하고, 규제 요건을 충족하기 위한 전략적 선택이기도 하다. Anthropic의 Claude, Google의 Gemini 등 경쟁사들도 유사한 보안 기능을 강화하고 있어 AI 보안은 주요 경쟁 영역으로 부상하고 있다.

완벽한 프롬프트 인젝션 방어는 현재 기술로는 달성하기 어렵다는 점에서, 잠금 모드의 등장은 시작에 불과하다. 앞으로 AI 보안 연구는 더욱 정교해지는 공격 기법에 맞서 방어 체계를 지속적으로 발전시켜야 하는 과제를 안고 있다. 기업 사용자들은 잠금 모드 같은 기능을 활용하면서도 AI 시스템의 접근 권한 최소화, 출력 검증 등 다층적 보안 전략을 병행해야 한다는 점을 명심해야 한다.

출처 - https://techcrunch.com/2026/06/06/openai-unveils-lockdown-mode-to-protect-sensitive-data-from-prompt-injection-attacks/