"우리는 속도를 늦춰야 한다"...앤스로픽 CEO, AI 개발 감속 공개 촉구

앤스로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)가 "우리는 AI 모델의 능력을 개선하는 속도를 늦춰야 한다"고 공개적으로 밝혔다. 세계 최선두 AI 기업 수장이 스스로 자사 기술의 개발 속도를 늦추자고 촉구한 이례적인 발언으로, AI 안전성 논쟁에 다시 불을 지피고 있다.

배경

아모데이는 이번 발언과 함께 실행 가능한 세 가지 구체적 방안을 제시했다. 첫째는 METR와 같은 독립 기관의 '내장형 평가자'를 통해 AI 기업들이 스스로 내건 안전 약속을 실제로 이행하는지 제3자가 검증하도록 하는 것이다. 그는 현재 앤스로픽이 이러한 약속을 사실상 일방적으로 지키고 있다고 지적했다. 둘째는 민주국가 내 주요 AI 기업들이 공통의 안전 기준을 함께 조율해야 한다는 제안으로, 이 과정에서 발생할 수 있는 반독점법 이슈에 대해서는 미국 정부의 중재가 필요하다고 언급했다. 셋째는 미국과 동맹국이 중국 등 권위주의 국가와도 AI 안전을 위한 협력을 모색해야 한다는 글로벌 공조 방안이다.

오픈AI(OpenAI) CEO 샘 알트만(Sam Altman) 역시 제3자 평가 아이디어에 대해 "좋은 아이디어"라며 공감을 표했지만, "진전이 여전히 빠르게 보일 것"이라는 견해도 함께 밝혀 온도차를 드러냈다.

영향

업계를 대표하는 두 기업 CEO가 공개적으로 속도 조절과 제3자 검증 필요성을 언급했다는 사실만으로도 AI 안전 논의에 실질적 무게가 실릴 전망이다. 다만 일부 비평가들은 이 같은 제안이 결국 선두 기업에 유리한 안전 기준을 만들어 후발 주자의 시장 진입을 어렵게 하는 '규제 포획'으로 이어질 수 있다고 지적한다. 실제 정책이나 업계 자율 규제로 이어지기까지는 미국 정부의 반독점법 판단, 동맹국과의 협의 등 여러 변수가 남아 있다.

향후 전망

METR와 같은 독립 평가 기관이 실제로 AI 기업들의 안전 이행 여부를 감시하는 역할을 맡게 될지, 그리고 앤스로픽·오픈AI 외 다른 주요 기업들도 이 논의에 동참할지가 핵심 관전 포인트다. 아모데이가 요청한 미국 정부의 반독점법 중재가 실제로 이뤄질지도 지켜볼 대목이다.

자주 묻는 질문

Q. 다리오 아모데이가 말한 'AI 개발 속도를 늦춰야 한다'는 발언의 핵심은 무엇인가요? AI 모델의 성능 향상 속도가 안전성 검증 속도를 앞지르고 있다는 문제의식에서 나온 발언으로, 제3자 검증·공통 안전 기준·국제 공조라는 세 가지 구체적 실행 방안이 함께 제시됐다.

Q. 샘 알트만도 같은 입장인가요? 알트만은 제3자 평가 아이디어에는 공감했지만, AI 기술의 실제 발전 속도 자체는 여전히 빠르게 유지될 것이라는 입장도 동시에 밝혔다.

Q. 이 제안이 실제로 시행될 가능성은 얼마나 되나요? 반독점법 문제에 대한 미국 정부의 중재, 동맹국과의 국제 공조 등 여러 정책적 변수가 남아 있어 단기간에 구체화되기는 어려울 것으로 보인다.

출처 - https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/