자율성을 가진 AI 에이전트가 기업의 복잡한 업무를 대행하는 시대가 열렸지만, 동시에 통제권을 벗어난 '로그 에이전트(Rogue Agent)'가 기업 보안의 최대 위협으로 떠올랐다. 사용자의 의도를 오해하거나 설계 범위를 넘어선 행동을 하는 AI 에이전트는 기밀 데이터를 유출하고 규제 위반을 초래하는 시한폭탄과 같다. 이 문제를 해결하기 위해 네트워크 레벨에서 AI의 '의도'를 실시간으로 감시하는 Witness AI의 행보에 보안 업계의 시선이 집중되고 있다.

통제 불능의 에이전트와 섀도우 AI의 결합

최근 기업 환경에서 가장 심각한 보안 사각지대는 승인되지 않은 AI 도구를 사용하는 '섀도우 AI(Shadow AI)'다. 직원이 임의로 도입한 AI 에이전트가 외부 MCP(Model Context Protocol) 서버와 연결되어 사내 데이터를 학습하거나, 명령을 수행하는 과정에서 비정상적인 경로로 정보를 전송하는 사례가 급증하고 있다. 기존의 CASB(Cloud Access Security Broker) 솔루션은 단순히 특정 서비스의 접속 여부나 정적인 데이터 유출(DLP)을 차단하는 데 그쳐, 비결정적으로 동작하는 AI 모델의 런타임(Runtime) 위협을 막기에는 역부족이다.

Witness AI는 이 격차를 메우기 위해 5,800만 달러(한화 약 770억 원)의 투자금을 확보하며 '신뢰 계층(Confidence Layer)' 아키텍처를 전면에 내세웠다. 이 기술은 네트워크 수준에서 데이터 경로를 직접 가로채 사용자의 프롬프트와 에이전트의 실행 명령이 일치하는지를 실시간으로 분석한다. 단순히 문장을 검열하는 수준을 넘어, 에이전트가 내리는 하위 명령이 원래의 의도에서 벗어났는지를 판단하는 '의도 분류(Intent Classification) 모델'을 활용하는 것이 핵심이다.

특히 2026년 8월부터 전면 시행되는 EU AI법(EU AI Act)은 기업에 강력한 컴플라이언스 준수를 요구한다. 고위험 AI 시스템에 대한 엄격한 관리가 의무화됨에 따라, Witness AI는 미승인 에이전트의 연결을 즉각 식별하고 차단하는 기능을 통해 기업이 법적 리스크를 회피할 수 있는 안전장치를 제공한다.

의도와 실행 사이의 간극을 메우는 보안 기술

Witness AI의 접근 방식은 기존 보안 솔루션과 궤를 달리한다. 기존 보안이 '어디로 접속하는가'에 집중했다면, Witness AI는 '무엇을 하려 하는가'에 집중한다. 이들이 구축한 신뢰 계층은 사용자와 LLM(대형언어모델) 사이에서 양방향 관측성을 제공한다. 사용자가 내린 명령이 LLM을 거쳐 에이전트의 구체적인 행동으로 변환될 때, 그 과정에 개입하여 '오정렬(Misalignment)' 여부를 확인하는 식이다.

이 과정에서 Witness AI의 자체 ML 모델이 작동한다. 에이전트가 외부 API를 호출하거나 데이터베이스에 접근하려 할 때, 이 행위가 원래 프롬프트의 목적에 부합하는지 검증한다. 만약 에이전트가 승인되지 않은 외부 서버와 통신을 시도하거나 관리자가 설정한 가드레일을 벗어나면 네트워크 레벨에서 즉시 차단이 이뤄진다.

하지만 기술적 한계와 과제도 분명 존재한다. Witness AI가 활용하는 의도 분류 모델의 구체적인 탐지 정확도 수치나, 실시간 감시 과정에서 발생할 수 있는 네트워크 지연(Latency)에 대한 상세 데이터는 아직 충분히 공개되지 않았다. 또한 고객사별로 운영되는 독립 인스턴스에 적용되는 암호화 표준이 업계 표준인 AES-256 수준을 충족하는지에 대해서도 추가적인 기술 검증이 필요한 상황이다.

기업 보안 책임자가 직면한 2026년의 과제

이제 보안 책임자들은 단순히 방화벽을 높이는 것을 넘어 '에이전틱 보안(Agentic Security)'이라는 새로운 영역에 대응해야 한다. 2026년 기준, 기업이 AI 에이전트를 도입할 때 ISO/IEC 42001(인공지능 경영시스템) 인증과 EU AI법 준수는 선택이 아닌 필수다. 이를 위해서는 제로 트러스트(Zero Trust) 원칙에 기반한 최소 권한 접근 제어가 에이전트 단위까지 적용되어야 한다.

실무 현장에서는 다음과 같은 전략적 접근이 요구된다. 우선, 사내에서 사용 중인 모든 AI 에이전트와 외부 모델의 흐름을 가시화해야 한다. 섀도우 AI를 전면 금지하기보다는 Witness AI와 같은 도구를 활용해 승인된 경로 내에서 안전하게 사용하도록 유도하는 정책이 현실적이다. 에이전트가 자율적으로 동작할 수 있는 권한 범위를 명확히 규정하고, 이를 네트워크 레벨에서 강제할 수 있는 기술적 장치를 마련해야 한다.

FAQ

Q: 기존 CASB 보안 솔루션으로 AI 에이전트 보안을 대체할 수 없나? A: 불가능하다. CASB는 이미 알려진 서비스의 접속 제어에는 유효하지만, AI 에이전트의 비결정적 행위나 프롬프트 주입 공격(Prompt Injection)을 실시간으로 분석할 수 없다. AI 보안 전용 솔루션은 모델의 실행 단계에서 발생하는 '의도'의 변화를 감지한다는 점에서 기술적 차별점을 갖는다.

Q: EU AI법 준수를 위해 당장 준비해야 할 것은 무엇인가? A: 2026년 8월 전면 시행에 맞춰 고위험 AI 시스템에 대한 기록 보존, 투명성 확보, 인간의 감독 체계를 구축해야 한다. 특히 AI 에이전트의 오작동으로 인한 사고 발생 시 책임 소재를 명확히 할 수 있도록 에이전트의 모든 실행 로그를 감사 가능한 형태로 보관하는 시스템을 갖춰야 한다.

Q: Witness AI의 기술이 실제 네트워크 성능에 영향을 미치지는 않는가? A: 실시간으로 데이터 경로를 가로채 분석하는 방식이므로 미세한 지연이 발생할 가능성이 있다. 다만 Witness AI는 이를 최적화된 아키텍처로 해결하려 하며, 보안 사고로 인한 잠재적 손실에 비해 보안 계층이 제공하는 안정성이 더 크다는 점을 강조하고 있다. 구체적인 성능 저하 수치는 개별 기업의 인프라 환경에 따라 달라질 수 있다.

결론: 자율성에는 책임이 따른다

AI 에이전트의 자율성은 기업의 생산성을 극대화할 수 있는 도구지만, 적절한 통제 장치가 없다면 그 자율성은 양날의 검이 된다. Witness AI가 제시하는 네트워크 기반의 의도 분류 방식은 섀도우 AI와 로그 에이전트라는 난제를 해결하기 위한 실질적인 해법으로 평가받는다.

앞으로의 관건은 이러한 보안 기술이 얼마나 정교하게 발전하여 사용자 경험을 해치지 않으면서도 완벽한 컴플라이언스를 달성하느냐에 달려 있다. 2026년 한 해 동안 EU AI법의 실제 집행 사례와 함께 에이전틱 보안 기술의 성숙도를 예의주시해야 할 시점이다.

참고 자료

• 🛡️ WitnessAI Launches With Guardrails for AI
• 🛡️ EU AI Act Requirements: What Compliance Officers Need to Know in 2026
• 🛡️ 2026 AI Data Crisis: Protect Your Sensitive Information Now
• 🛡️ What Is Shadow AI? Risks, Challenges, and How to Manage It - WitnessAI
• 🏛️ WitnessAI Secures $58M to Grow Global AI Security Reach
• 🏛️ WitnessAI | Enterprise AI Governance & Security
• 🏛️ WitnessAI Raises $58 Million... Announces New Ways to Secure AI Agents
• 🏛️ AI Security in 2026: Eight Trends that Will Shape the Next Era - WitnessAI
• 🏛️ CAISI Issues Request for Information About Securing AI Agent Systems | NIST
• 🏛️ WitnessAI Secures $58M to Grow Global AI Security Reach