미국 AI 정책을 보는 실무자의 판단 포인트는 “이 법안이 곧 통과될까”에만 있지 않다. 더 유용한 신호가 있다. 샌더스·카사르 법안은 기존의 모델 평가, 보고 의무, 자율 안전 약속 논의를 넘어선다. 특정 수준의 AI 역량 자체를 불법화하고, 규제기관이 생기기 전까지 첨단 AI 개발을 멈추자는 금지형 프레임을 의회 의제로 올린다. 제품·R&D 조직은 이를 당장의 법적 리스크로 과대평가하기보다, 프런티어 모델 개발에서 “어떤 능력이 규제 트리거가 되는가”를 추적해야 한다.

이 법안이 실제로 겨냥하는 것

공개된 요약에 따르면 법안은 인공 초지능 개발·배포를 영구 금지한다. 또 새 연방 AI 규제기관이 안전 규칙과 모델 검토 절차를 마련할 때까지 첨단 AI 개발을 일시 중단하는 구상이다. 여기서 인공 초지능은 단순히 “성능이 좋은 AI”가 아니다. 광범위한 영역이나 과업에서 인간의 인지적 수행·능력과 같거나 이를 초과하는 AI, 또는 쉽게 그렇게 개조될 수 있는 AI로 설명된다. 인류의 권한을 박탈할 계획을 세우고 실행할 충분한 능력, 미국 정부를 전복하거나 약화할 능력을 가진 AI도 포함된다.

이 정의는 넓다. “광범위한 영역”, “쉽게 개조”, “인간의 인지적 수행” 같은 표현은 기술 조직이 내부 벤치마크 하나로 판단하기 어렵다. 따라서 법안의 핵심 리스크는 특정 모델 크기나 학습비용 기준이 아니다. 능력 기반 판정이 법적 금지와 연결될 수 있다는 점이다.

반면 “첨단 AI 시스템”은 공개 요약에서 별도 법률상 정의가 확인되지 않는다. 연방 규제기관이 안전 규칙과 모델 검토 절차를 마련할 때까지 개발을 중단한다는 방향만 확인된다. 이 공백이 중요하다. 적용 대상이 어디까지인지, 오픈소스 모델·파인튜닝·에이전트형 제품·기존 모델 개선이 포함되는지 판단할 근거가 아직 부족하기 때문이다.

금지보다 더 큰 변화는 ‘감시기관’ 구상이다

이 법안은 초지능을 금지하는 데서 멈추지 않는다. 새 내각급 연방 AI 기관이 프런티어 AI의 전 생애주기에서 위험 역량을 감시하는 체계를 제안한다. 해당 역량의 제거와 인공 초지능의 파기를 감독하는 내용도 포함된다. 발표에는 인간 지능을 능가하거나 인간 정부를 전복할 능력, 종료 명령을 무력화하는 등의 위험 역량이 언급된다.

이 설계가 현실화되면 기업의 안전 업무는 “출시 전 레드팀 보고서 작성” 수준을 넘어설 수 있다. 모델 개발, 평가, 배포, 사후 모니터링, 위험 능력 제거까지 규제기관의 검토 대상이 될 수 있다. 다만 현재 공개 자료만으로는 위험 역량을 판정하는 기술적 임계값, 시험 방법, 신고·감사 절차가 확인되지 않는다. 따라서 지금 단계에서 “어떤 모델이 위법”이라고 단정하는 것은 근거가 약하다.

실무적으로는 다음처럼 해석하는 편이 안전하다. 이 법안은 특정 현행 제품을 즉시 겨냥했다기보다, 프런티어 개발 경쟁에서 기업의 자율 안전 약속만으로는 부족하다는 정치적 문제 제기다. 그래서 처방도 자율 가이드라인이 아니라 법적 금지, 정부 감시, 강한 제재로 이동한다.

백악관 기조와는 정면 충돌한다

현재 확인되는 미국 행정 기조는 AI 우위와 혁신 촉진 쪽이다. 백악관의 2025년 1월 행정명령은 미국의 글로벌 AI 지배력을 유지·강화해 인간 번영, 경제 경쟁력, 국가안보를 촉진한다는 정책을 제시한다. 반면 샌더스·카사르 법안은 초지능 AI를 영구 금지한다. 또 연방 규제기관의 안전 규칙이 마련되기 전까지 첨단 AI 개발을 중단시키려 한다.

의회 내 다른 흐름과도 긴장이 있다. 예컨대 규제 샌드박스를 통해 AI 개발자가 낡거나 경직된 연방 규칙에 막히지 않고 새 기술을 시험·출시할 공간을 주자는 접근은, 개발 중단을 전제로 하는 이 법안과 방향이 다르다. 다만 완전히 별개의 논의는 아니다. 양쪽 모두 AI 위험 완화와 연방 차원의 정책 설계를 다룬다. 한쪽은 출시 공간을 열어두고 안전장치를 붙이는 방식이다. 다른 한쪽은 일정 능력 이상을 금지하고 국가가 감시하는 방식이다.

이 차이는 제품 전략에 직접 영향을 준다. 샌드박스형 규제에서는 기업이 “안전장치를 갖춘 빠른 실험”을 주장할 수 있다. 금지형 규제에서는 “이 시스템이 금지 대상 능력에 도달하지 않았고, 쉽게 개조될 수 없으며, 위험 역량 제거·검토 절차를 갖췄다”는 입증 부담이 커진다.

지금 의사결정 규칙

프런티어 모델을 직접 개발하지 않는 기업이라면 이 법안을 이유로 로드맵을 멈출 근거는 부족하다. 법안 전문, 법안번호, 실제 발의·위원회 심사 상태, 최종 문안이 확인되지 않았다. 첨단 AI 시스템의 적용 기준도 공개 자료에서 확인되지 않는다.

그러나 대규모 모델 개발사, 에이전트형 시스템 개발사, 고위험 자동화 제품을 만드는 조직은 다른 결정을 해야 한다. 성능 향상 계획과 별도로 ‘위험 역량 인벤토리’를 만들고, 종료 명령 회피, 자율적 목표 추구, 권한 상승, 정부·사회 시스템 교란 가능성 같은 항목을 모델 평가 체계에 분리해 넣어야 한다. 이는 이 법안의 통과 여부와 별개로 검토할 만하다. 금지형 규제가 살아남지 않더라도, 향후 감독 논의는 “모델이 무엇을 할 수 있는가”를 묻는 능력 기반 평가로 이동할 수 있기 때문이다.

따라서 이 신호의 결론은 보수적이다. 단기 법무 대응보다 기술 거버넌스 대응이 먼저다. “첨단 AI”의 법적 정의가 비어 있는 동안에는 공개 입장문보다 내부 증거가 중요하다. 우리 모델이 어떤 위험 능력을 보였는지, 어떤 조건에서 나타났는지, 제거 또는 완화 조치를 어떻게 검증했는지를 남겨야 한다. 이 법안이 법이 되지 않더라도, 그 문서화 능력은 다음 규제 논쟁에서 방어선이 될 수 있다.

다음으로 읽기

• CKD 선별에 LLM을 쓰기 전 확인할 것
• 채용 LLM 감사는 과정 로그부터
• AI 자기증폭 루프를 보는 법
• 인과 리코스 XAI의 제품 설계 기준
• 문서 추출 에이전트 평가는 실행 로그부터

참고 자료

• The Ban Artificial Superintelligence Act — Summary - sanders.senate.gov
• NEWS: Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development - sanders.senate.gov
• Removing Barriers to American Leadership in Artificial Intelligence - whitehouse.gov
• Sen. Cruz Unveils AI Policy Framework to Strengthen American AI Leadership - commerce.senate.gov