오픈웨이트 AI, 프론티어 모델 성능 따라잡지만 "안전성 격차는 여전"

오픈웨이트(open-weight) AI 모델들의 성능이 빠르게 최상위권 모델 수준에 근접하고 있지만, 안전성 확보는 여전히 뒤처져 있다는 분석이 나왔다. AI 안전성 평가기관 SaferAI의 새 보고서에 따르면, 중국 스타트업 Z.ai가 공개한 오픈웨이트 모델 'GLM-5.2'는 프론티어급 AI의 성능에 근접했지만 핵심 안전 완화 조치는 갖추지 못한 것으로 나타났다.

그동안 오픈AI, 앤스로픽, 구글 등 소수 빅테크가 주도해온 최상위권(frontier) AI 모델과 오픈소스·오픈웨이트 진영 간에는 상당한 성능 격차가 존재한다는 인식이 일반적이었다. 그러나 최근 중국을 비롯한 여러 기업들이 공개한 오픈웨이트 모델들이 벤치마크 성능에서 빠르게 이 격차를 좁히면서, 오픈소스 AI 생태계의 저력이 재조명받고 있다. 문제는 이러한 모델들이 성능 향상 속도에 비해 위험 완화, 악용 방지, 레드팀 테스트 등 안전 장치 마련에는 상대적으로 소홀하다는 점이다.

프론티어급 성능을 갖췄지만 안전 가드레일이 미흡한 모델이 누구나 다운로드해 자유롭게 수정·배포할 수 있는 형태로 공개될 경우, 악의적 활용이나 통제 불가능한 파급 효과에 대한 우려가 커진다. 이는 각국 정부와 국제기구가 추진 중인 AI 거버넌스 및 규제 프레임워크가 오픈웨이트 모델의 확산 속도를 따라가지 못하고 있다는 문제의식과도 맞닿아 있다. 폐쇄형 모델에 집중된 기존 안전 규제 체계로는 빠르게 늘어나는 오픈웨이트 모델의 위험을 충분히 관리하기 어렵다는 지적이다.

향후 오픈웨이트 모델 개발사들이 자발적으로 안전 기준을 얼마나 끌어올릴지, 그리고 각국 규제 당국이 이 격차를 메우기 위한 새로운 정책을 어떻게 마련할지가 중요한 관전 포인트다.

출처 - https://techcrunch.com/2026/08/04/open-weight-ai-models-are-catching-up-to-the-frontier-the-safety-gap-remains/