AI 규제, 내부자료 접근 확대

세 줄 요약

무슨 변화/핵심이슈인가? EU·미국·중국의 공식 문서에서 ‘고위험 AI/핵심 인프라/국가안보’ 통제 방식이 서로 다르게 정리돼 있고, 감독기관의 개입 범위가 기술 내부(문서·데이터셋·소스코드)로 확장되는 흐름이 보인다.
왜 중요한가? 감독기관이 자료 접근과 집행 수단을 확보하면, 기업이 행정·서비스를 자동화하더라도 통제권이 기업으로만 이동한다고 보기 어렵다(반대로 2025-01-20 철회 같은 공백은 준거를 흔들 수 있다).
독자는 뭘 하면 되나? 내 AI가 “핵심 인프라의 관리·운영” 같은 고위험 범주에 걸릴 수 있는지 먼저 분류하고, 국가별로 다른 자료 제출·설명 요구를 전제로 컴플라이언스/리스크 대응 문서를 갱신한다.

서류 검토만 하던 공공기관 책상 위에 문서·데이터셋·소스코드 같은 기술 자료가 함께 올라오는 일이 늘고 있다. 이는 감독 권한이 기술의 “외부”에서 “내부”로 들어가려는 방향으로 읽힌다. 핵심 쟁점은 “기업이 국가를 대체하느냐”가 아니라, 국가가 어떤 방식으로 규제 집행을 통해 통제와 책임의 고리를 유지하느냐다. 다만 그 방식은 지역별로 다르고, 어떤 곳에서는 공백도 보인다.

예: 한 기관이 민원 처리와 시설 점검을 자동화 도구로 돌린다. 편의는 늘지만, 사고가 나면 누가 기록을 내고 누가 책임을 지며 누가 시스템 내부 자료를 열람하는지가 쟁점이 된다.

이 차이는 “기업-국가 역전” 논쟁이 현실에서 어디까지 성립하는지의 경계선이 된다. 권력 이동은 감독권이 어디까지 들어가는지(문서·데이터셋·소스코드), 무엇을 예외로 두는지(국가안보), 무엇을 측정하는지(생산성·고용·치안/국방 비용)에서 갈린다.

현황

감독기관이 AI 시스템 내부 자료에 접근할 수 있는 설계가 EU 문서에서 반복된다. EU 집행위 ‘Shaping Europe’s digital future’ 설명에 따르면, 시장감시기관(Market surveillance authorities)이 금지 규정과 고위험 AI 규칙을 포함해 AI Act 준수를 감독·집행한다. 같은 페이지 묶음에서는 AI Office와 각국 시장감시기관이 AI Act를 구현·감독·집행한다고 밝힌다. 그리고 위험이 있거나 위반이 의심될 때 개입하며, 제공자가 가진 정보에 접근할 권한이 있다는 취지로 정리돼 있다(해당 자료는 문서·데이터셋·소스코드 접근을 포함한다고 설명한다).

‘무엇이 고위험이냐’도 쟁점이다. 유럽의회(EP) 요약 페이지는 고위험 영역에 “핵심 인프라의 관리와 운영(Management and operation of critical infrastructure)”을 포함한다고 적는다. AI가 사무 자동화를 넘어 인프라 운영에 들어가면, 회원국 관할 당국이 개입하는 프레임이 열린다. EP는 사람들이 지정된 국가 당국에 AI 시스템에 대한 불만을 제기할 권리가 있다고도 설명한다. 즉, 불만·구제의 창구가 국가 당국에 남도록 설계돼 있다는 뜻이다.

미국은 문서의 효력 상태가 변수다. E.O. 14110은 핵심 인프라와 사이버보안에서 위험 관리를 다루고, “관련 규제 권한을 가진 각 기관”이 역할을 맡아 CISA와 조정하도록 쓰여 있다. 다만 CRS 보고서에 따르면 이 행정명령은 2025-01-20에 철회됐다. 철회 이후 이를 대체하는 체계가 무엇인지는 이번 조사 결과만으로 확인되지 않는다(추가 확인 필요).

중국은 생성형 AI 잠정조치 체계에서 인터넷정보 등 복수 부처가 직무에 따라 감독을 강화한다. 또 여론속성/사회동원능력이 있는 서비스에 보안평가 및 알고리즘 신고를 요구한다. 감독검사 때는 훈련데이터 출처·모델·알고리즘 메커니즘 설명과 기술/데이터 지원 협력을 요구하는 틀로 정리된다.

분석

“기업-국가 역전”을 권력 서사로만 보면, 실제 작동점을 놓치기 쉽다. 국가는 규제 문구만으로 통제하지 않는다. 무엇을 제출하게 하는지(문서·데이터셋·소스코드), 누가 집행하는지(회원국 시장감시기관 같은 주체), 어떤 영역을 고위험으로 못 박는지(핵심 인프라 운영)가 실질 권력의 구성요소가 된다. EU 문서 흐름은 “민간이 국가 기능을 자동화하더라도, 국가는 감독권을 기술 내부까지 연장하려 한다”는 방향으로 해석할 여지가 있다.

반대로, 정책의 지속성 자체가 균형을 흔들 수 있다. 미국 사례처럼 E.O. 14110이 2025-01-20에 철회됐다면, 기업 입장에서는 준거가 흔들리고 국가 입장에서는 일관된 집행 틀을 유지하기 어려울 수 있다(철회 이후 체계는 추가 확인 필요).

또한 생산성과 고용 같은 거시 지표는 ‘국가 기능 대체’와 직접 연결되기 어렵다. 예를 들어 BLS는 2024년 미국 민간 비농업 부문 TFP가 증가했다고 발표했고, 이후 2025-12-19에 수정치도 공지했다. 유럽 JRC는 EU 노동자의 30%가 AI 도구를 사용한다고 보고한다. 다만 이 수치들은 “AI가 치안·국방 비용을 얼마나 바꿨는가” 같은 질문에 직접 답하지 않는다. 이번 조사 결과 기준으로, 치안·국방 비용 변화를 AI/로봇 도입에 인과적으로 귀속해 정량 보고한 공식 통계는 확인되지 않았다(추가 확인 필요). 따라서 “기업이 국가를 대체한다”는 주장을 평가하려면, 비용·성과·책임 소재의 변화를 더 직접적으로 측정할 자료가 필요하다.

실전 적용

“기업이 국가 기능을 대체한다”는 가설은 기술 성능보다 감사 가능성과 자료 제출 가능성에서 먼저 검증된다. EU처럼 감독기관이 문서·데이터셋·소스코드 접근을 전제로 움직일 수 있다면, 제품 조직은 보안·IP뿐 아니라 감독기관 대응을 운영 체계로 다뤄야 한다. 반대로 미국처럼 특정 문서(행정명령)가 2025-01-20에 철회된 경우에는, 무엇을 준수해야 하는지부터 재정의가 필요하다(이번 조사 결과만으로는 대체 규범 확인 불가).

또한 TFP(2024년 증가, 2025-12-19 수정 공지)나 사용률(예: EU 노동자 30% AI 사용) 같은 지표만으로 “국가 기능 대체”를 단정하기는 어렵다. 비용·책임·집행 주체가 어디로 이동하는지(또는 이동하지 않는지)를 별도로 추적해야 한다.

오늘 바로 할 일:

서비스 기능을 단위로 쪼개 “핵심 인프라의 관리·운영” 등 고위험 분류 가능성을 점검하는 내부 분류표를 만든다.
데이터셋 출처, 학습/평가 문서, 모델 동작 설명, 감사 대응 절차를 묶어 제출 가능한 형태의 패키지로 유지한다.
미국 관련 컴플라이언스는 E.O. 14110의 2025-01-20 철회를 전제로, 적용 가능한 대체 규범을 법무/정책팀이 별도 확인하도록 과제로 등록한다.

FAQ

Q1. EU에서 국가는 AI를 어디까지 들여다볼 수 있나?
A. EU 관련 설명 페이지들은 회원국 시장감시기관이 고위험 AI 규칙 준수를 감독·집행하며, 필요 시 개입하고 제공자가 가진 정보에 접근할 수 있다고 정리한다. 해당 정리에는 문서·데이터셋·소스코드 접근이 포함된다고 소개돼 있다(세부 법문 조항은 이번 조사 결과에 원문 인용이 없어 추가 확인이 필요).

Q2. 미국은 핵심 인프라 AI 감독 체계가 정리돼 있나?
A. E.O. 14110은 핵심 인프라 위험평가를 “관련 규제 권한을 가진 각 기관”이 맡아 CISA와 조정하는 구조를 담았지만, CRS에 따르면 그 행정명령은 2025-01-20에 철회됐다. 철회 이후 무엇이 이를 대체했는지는 이번 조사 결과만으로 확인되지 않아 추가 확인이 필요하다.

Q3. ‘기업이 국가를 대체한다’는 걸 생산성 지표로 증명할 수 있나?
A. 제한적으로만 가능하다. BLS의 TFP처럼 거시 지표는 경제 전반의 생산성 변화를 보여주지만, 그것이 국가 기능(치안·국방·행정)의 비용 구조 변화로 곧바로 연결된다고 말하기는 어렵다. 이번 조사 결과 기준으로, AI/로봇 도입이 치안·국방 비용을 얼마나 바꿨는지 인과적으로 정량 보고한 공식 통계는 확인되지 않았다(추가 확인 필요).

결론

기업이 국가를 ‘대체’하는지 여부보다 먼저 관찰되는 변화는, 국가가 AI를 ‘감독 가능한 시스템’으로 다루려는 움직임이다. EU의 집행 구조(회원국 시장감시기관, 고위험 범주에 핵심 인프라 운영 포함, 자료 접근 권한)와 미국의 철회 사례(2025-01-20)는 같은 문제를 서로 다른 방식으로 다룬다. 앞으로는 “누가 서비스를 제공하는가”뿐 아니라 “누가 시스템 내부를 열람하고, 누가 책임을 묻는가”를 함께 추적할 필요가 있다.

Aionda

AI 규제, 내부자료 접근 확대

세 줄 요약

현황

분석

실전 적용

FAQ

결론

다음으로 읽기

참고 자료

업데이트 받기