"초인적 AI도 현실 예측에서는 실수한다" — 아비 로브가 지적한 초지능의 근본적 한계

하버드대 천체물리학자 아비 로브(Avi Loeb)가 미디엄(Medium)에 기고한 글에서 초인적(superhuman) 인공지능이라 하더라도 현실을 예측하는 데 있어서는 필연적으로 실수를 저지를 수밖에 없다고 주장했다. 아무리 뛰어난 계산 능력을 갖춘 AI라도 물리적 현실의 복잡성과 불확실성 앞에서는 한계를 드러낸다는 것이 그의 핵심 논지다.

로브 교수는 외계 지성체 탐사 프로젝트인 갈릴레오 프로젝트를 이끄는 학자로, 과학적 지식의 원천은 순수한 추론이 아니라 실험과 관측이라는 입장을 꾸준히 견지해 왔다. 이번 글 역시 그 연장선에 있다. AI가 초지능 수준에 도달하더라도 학습의 재료가 되는 데이터는 결국 인간이 수집한 불완전한 기록이며, 자연 현상의 카오스적 특성과 관측되지 않은 변수들은 계산만으로는 극복할 수 없다는 지적이다. 이는 최근 AI 업계에서 확산되고 있는 "규모 확장이 곧 지능의 완성"이라는 낙관론과 대비되는 관점으로, 초지능 담론이 뜨거운 시점에 물리학자의 시각에서 제기된 냉정한 반론이라는 점에서 주목된다.

이러한 논의는 AI의 예측 결과를 무비판적으로 수용하는 사회적 분위기에 경종을 울린다. 금융, 기후, 의료 등 고위험 영역에서 AI 예측에 대한 의존도가 급격히 높아지는 가운데, 아무리 강력한 모델이라도 오류 가능성을 전제로 검증 체계와 인간의 판단을 병행해야 한다는 함의를 던지기 때문이다. 특히 AI가 스스로 과학적 발견을 수행할 수 있다는 기대가 커지는 상황에서, 새로운 관측과 실험 데이터 없이는 AI도 세계에 대한 이해를 근본적으로 확장할 수 없다는 주장은 AI 기반 과학 연구의 방향 설정에도 시사하는 바가 크다.

향후 초지능 논쟁에서 '계산 능력의 확장'과 '경험적 검증의 필요성' 사이의 긴장은 더욱 첨예해질 전망이다. AI의 예측 능력이 어디까지 신뢰될 수 있는지, 그리고 그 한계를 보완할 제도적·과학적 장치가 무엇인지에 대한 논의가 이어질지 지켜볼 필요가 있다.

출처 - https://news.google.com/rss/articles/CBMiuAFBVV95cUxOVDZ2SXp4Y19HN2h3YlI5UE13Qks3M2lEMXhOWFpKM3pBWlF6eUlUalBGYVFTNm9JSjNIZXFKck42NTEyWWxna3ZtX1FvSUpTWnZMTHE4c050VGhkTG1LekJXOS13c1NaSU5IYWpoQlh5RmFyaURGaVRYdlZkcHBsWGhxNmczUElTVnlkYlc3VjNFc2FrMFdWVXlLZElhWWtoNk5kVTJQSG1FeDJMMWpwMmZGU1NZZEo3?oc=5