앤스로픽 CEO 다리오 아모데이 "AI 개발 속도 늦춰야"...3대 안전 전략 제시

앤스로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)가 AI 모델의 성능 향상 속도를 의도적으로 늦춰야 한다는 구체적 계획을 내놓았다. 그는 제3자 감시 강화, 주요 AI 기업 간 공통 안전 기준 조율, 미국 동맹국 간 글로벌 공조라는 3대 전략을 제안했으며, 오픈AI(OpenAI) CEO 샘 알트만(Sam Altman)도 "속도 조절(pace the frontier)"에 공감을 표하면서 업계 전반의 화두로 떠올랐다.

배경

AI 연구자들 사이에서 인공지능의 위험성에 대한 경고가 잇따르는 가운데, 앤스로픽과 오픈AI라는 업계를 대표하는 두 기업의 수장이 잇달아 개발 속도 조절 필요성을 언급하면서 논의에 무게가 실리고 있다. 아모데이는 "우리는 AI 모델의 능력을 개선하는 속도를 늦춰야 한다"고 밝혔고, 알트만 역시 "진전이 여전히 빠르게 보일 것"이라면서도 속도 조절 논의 자체에는 동의하는 태도를 보였다.

아모데이가 제시한 3가지 구체적 전략은 다음과 같다. 첫째, METR와 같은 독립 기관의 "내장형 평가자(embedded evaluator)"를 배치해 기업들이 스스로 내건 안전 약속을 실제로 지키고 있는지 제3자가 검증하도록 하자는 것이다. 그는 현재 앤스로픽이 안전 약속을 일방적으로 지키고 있는 상황이라고 지적했다. 둘째, 민주국가 내 주요 AI 기업들이 공통의 안전 기준을 함께 조율해야 한다는 제안이다. 이 과정에서 발생할 수 있는 반독점법 문제와 관련해서는 미국 정부의 중재가 필요하다고 언급했다. 셋째, 미국과 동맹국들이 중국을 비롯한 권위주의 국가들과도 AI 안전을 위한 협력을 모색해야 한다는 글로벌 공조 방안이다.

영향

두 최대 AI 기업 CEO의 이번 발언은 업계 자율 규제 논의에 실질적 동력을 제공할 수 있다. 특히 제3자 평가 기관을 통한 검증 체계가 실제로 도입된다면, 그동안 기업 자체 발표에 의존해온 AI 안전성 점검 방식에 변화가 생길 가능성이 있다. 다만 일부 비평가들은 이러한 제안이 결과적으로 후발 기업의 시장 진입을 어렵게 만드는 "규제 포획(regulatory capture)"으로 작용할 수 있다고 우려한다. 선두 기업들이 주도하는 안전 기준이 오히려 경쟁 장벽으로 작용할 수 있다는 지적이다.

사용자와 시장 입장에서는 AI 모델의 성능 향상 속도가 실제로 조절될 경우, 신규 모델 출시 주기나 기능 업데이트 속도에 변화가 나타날 수 있다. 동시에 안전성 검증 절차가 강화되면서 AI 서비스에 대한 신뢰도 제고 효과도 기대할 수 있다.

향후 전망

아모데이가 제안한 반독점법 관련 정부 중재나 국제 공조는 미국 정부와 동맹국들의 실제 정책 반응에 달려 있어 단기간에 가시적 결과가 나오기는 쉽지 않을 전망이다. 앞으로는 METR 등 독립 평가 기관이 실제로 업계 안전 감시 역할을 맡게 되는지, 그리고 앤스로픽과 오픈AI 외 다른 주요 AI 기업들도 이 같은 속도 조절 논의에 동참하는지가 관전 포인트가 될 것으로 보인다.

자주 묻는 질문

Q. 다리오 아모데이가 제안한 AI 개발 속도 조절 전략은 무엇인가요? 제3자 독립 평가 기관을 통한 안전 약속 검증, 주요 AI 기업 간 공통 안전 기준 조율, 미국과 동맹국의 글로벌 공조라는 3가지 전략이다.

Q. 오픈AI 샘 알트만도 이 제안에 동의했나요? 알트만은 아모데이의 제3자 평가 아이디어에 대해 "좋은 아이디어"라고 언급하며 공감을 표했지만, 동시에 "진전이 여전히 빠르게 보일 것"이라는 입장도 함께 밝혔다.

Q. 이런 제안이 규제 포획이라는 비판은 왜 나오나요? 일부 비평가들은 선두 AI 기업들이 주도하는 안전 기준 논의가 결과적으로 후발 기업이나 신생 기업의 시장 진입 장벽을 높이는 방향으로 작용할 수 있다고 지적한다.

출처 - https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/