미국 상원, AI 기업에 '재앙적 위험' 완화 의무 부과하는 법안 초당적 협상

미국 상원이 구글, 앤스로픽(Anthropic), OpenAI 등 최첨단 AI 모델을 개발하는 기업에 생물·핵무기 개발이나 정교한 사이버공격 같은 "재앙적 위험(catastrophic risk)"을 제품 설계 단계에서부터 방지할 법적 의무를 부과하는 법안을 놓고 초당적 협상을 벌이고 있다. 이 법안이 통과되면 연방 정부는 안전성이 검증되지 않았다고 판단한 AI 모델의 출시를 직접 차단할 수 있는 권한을 갖게 되며, 해당 기업은 연방 법원에서 이 결정에 이의를 제기할 수 있다.

배경

이번 협상은 상원 다수당 원내대표 존 튠(John Thune), 상원 상무위원회 위원장 테드 크루즈(Ted Cruz) 등 공화당 인사와 민주당의 에이미 클로버샤(Amy Klobuchar), 마리아 캔트웰(Maria Cantwell) 의원이 주도하고 있다. 법안의 핵심은 AI 개발사에 "주의 의무(duty of care)"를 부과하는 것으로, 기업이 자사 AI 제품을 설계할 때부터 대규모 피해로 이어질 수 있는 위험 요소를 사전에 통제하도록 강제하는 내용을 담고 있다. 그동안 미국의 AI 규제는 연방 차원의 통일된 기준 없이 주(state)별로 산발적으로 추진되어 왔는데, 이번 법안은 가장 고도화된 기능을 갖춘 프론티어 AI 모델에 한해 연방 차원의 기준을 마련하는 동시에, 이와 충돌하는 주 단위 규제를 무력화하는 조항도 포함하고 있다.

영향

법안이 시행되면 구글, 앤스로픽, OpenAI를 포함해 최상위권 AI 모델을 개발하는 소수의 기업이 직접적인 규제 대상이 된다. 연방 정부가 안전성이 불충분하다고 판단한 모델의 출시를 사전에 막을 수 있게 되면서, 기업들은 신규 모델을 공개하기 전 위험 평가와 완화 조치에 더 많은 자원을 투입해야 할 가능성이 크다. 동시에 각 주가 독자적으로 추진해온 AI 안전 규제가 연방법에 의해 선점(preemption)될 경우, 이미 자체 AI 규제를 마련한 캘리포니아 등 일부 주와의 관할권 충돌 문제도 불거질 수 있다. 산업계 입장에서는 예측 가능한 단일 연방 기준이 마련된다는 점에서 규제 불확실성이 줄어드는 효과가 있지만, 반대로 신제품 출시 속도가 늦춰질 수 있다는 우려도 나온다.

향후 전망

가장 큰 변수는 시간이다. 11월 3일 중간선거를 앞두고 하원은 단 1주, 상원은 3주 일정만 남아있어 회기 내 법안 통과 가능성은 높지 않은 것으로 평가된다. 다만 이번 협상 자체가 그동안 자율규제에 가까웠던 미국의 AI 정책 기조가 연방 차원의 강제 규제로 전환되는 신호탄이 될 수 있다는 점에서, 법안의 세부 조항이 어떻게 다듬어지는지, 그리고 어떤 기업과 모델이 규제 대상 범위에 포함되는지가 앞으로 주목해야 할 지점이다.

자주 묻는 질문

이 법안은 어떤 AI 기업에 적용되나요? 가장 고급 기능을 갖춘 프론티어 AI 모델을 개발하는 기업이 대상이며, 구글·앤스로픽·OpenAI 등이 거론되고 있다.

법안이 통과되면 정부가 AI 모델 출시를 막을 수 있나요? 그렇다. 연방 정부가 안전하지 않다고 판단한 AI 모델의 출시를 차단할 수 있으며, 기업은 이 결정에 대해 연방 법원에서 이의를 제기할 수 있다.

이 법안은 언제 통과될 가능성이 있나요? 11월 중간선거를 앞두고 남은 회기 일정이 짧아 이번 회기 내 통과 가능성은 낮게 평가되지만, 협상 자체는 계속 진행 중이다.

출처 - https://www.thestar.com.my/tech/tech-news/2026/09/12/us-senate-negotiators-consider-requiring-ai-firms-to-mitigate-known-major-risks