시뮬레이션의 만점을 믿지 말 것: 세계 모델 거버넌스가 AI 교육에 주는 한 가지 원칙

스탠퍼드 인간중심AI연구소(HAI)가 낸 정책 브리프 '세계 모델과 공간지능의 시대'는 언어 모델 다음에 올 AI를 다룬다. 페이페이 리 HAI 창립소장의 설명에 따르면 세계 모델은 도시나 공장, 재난 현장 같은 환경의 내부 표상을 만들어 "이 물체를 옮기면, 저 문을 열면, 무너진 다리 주변으로 교통을 돌리면 무슨 일이 생기는가"를 예측하는 시스템이다. 언어 모델이 다음 단어를 예측한다면 세계 모델은 물리적 결과를 예측한다.

이 브리프는 교육 정책 문서가 아니다. 다루는 것은 자율주행, 로봇, 국가안보 같은 영역이다. 그러나 HAI 연구진이 세계 모델의 거버넌스에서 가장 근본적인 문제로 꼽은 것, 곧 '시뮬레이션 안에서 잘 보이는 것과 현실에서 작동하는 것은 다르다'는 명제는 이 칼럼의 해석으로는 AI 교육 도구를 검토하는 모든 이에게 그대로 옮겨 적을 수 있는 원칙이다.

같은 모형으로 훈련하고 같은 모형으로 시험하면

브리프 저자 가운데 한 명인 에이미 지가트 HAI 부소장이 든 사례는 간명하다. 시뮬레이션 도시에서 훈련한 자율주행차를 같은 시뮬레이션으로 안전 검증한다고 하자. 시뮬레이션이 빗길의 미끄러움을 과소평가하면 차량은 젖은 길에서 너무 빨리 달리도록 학습하고, 같은 결함을 가진 시험에서는 여전히 높은 점수를 받는다. 배포 준비가 된 것처럼 보이지만 실제 도로가 그 오류를 드러낸다는 것이다. 지가트는 이를 언어 모델의 '내용'과 에이전트 AI의 '권한'에 이은 세 번째 차원, 곧 '시뮬레이션된 환경 자체의 타당성' 문제라고 부른다.

리 소장은 측정의 공백을 인정한다. 현재의 벤치마크는 대부분 시각적 품질을 재지 물리 역학의 이해를 재지 않으며, 선도 모델들이 시뮬레이션 과제에서 거의 만점을 받는데도 실제 세계의 신뢰도는 제한적이어서 벤치마크가 시스템을 구별하는 데 덜 유용해졌다는 것이다. 그래서 그의 결론은 "시뮬레이션에서 좋아 보인다는 이유로 실제 검증을 건너뛸 수 없다"이다.

브리프의 핵심 구분(HAI 연구진 기준). 세계 모델의 세 유형: 렌더러(사실적으로 보이게 함, 정확성과 별개), 시뮬레이터(물리·기하·역학을 모형화), 플래너(행동을 결정). 안전에 가까울수록 더 엄격한 평가가 필요하다는 것이 러셀 월드 HAI 사무총장의 정책 함의. 저자들의 정책 제안: 측정 과학 투자, 조달을 통한 독립 검증 의무화, 공공 데이터 인프라, 학제 간 인력 양성.

교육의 '시뮬레이션'은 어디에 있는가

이 칼럼이 이 브리프를 교육 독자에게 소개하는 이유는 여기에 있다. AI 학습 도구가 제시할 수 있는 지표는 도구 안에서 측정된다. 문제를 몇 개 풀었는지, 정답률이 얼마나 올랐는지, 학습 시간이 얼마나 늘었는지 같은 것이다. 위험의 크기는 같지 않지만, 내부 지표만으로 외부 성과를 판단하기 어렵다는 검증 구조는 비교할 수 있다. 이 칼럼은 도구 안의 성취가 도구 밖의 성취, 곧 학교 시험과 수능, 그리고 도구가 없는 상황에서의 사고력으로 이어지는지를 내부 지표만으로 판단해서는 안 된다고 본다.

브리프가 든 렌더러와 시뮬레이터의 구분도 옮겨 적을 만하다. 리 소장은 렌더러가 새 병원 병동의 아름다운 이미지를 만들 수 있지만 구조가 튼튼한지, 사람들이 실제로 어떻게 움직일지는 담지 못한다고 말한다. 이 칼럼의 해석으로는 이 구분은 교육에서 그럴듯한 해설과 실제 학습 효과를 나누어 검토해야 한다는 경고로 읽힌다. 겉이 정교할수록 안이 검증됐는지 묻기 어려워진다는 것이 이 비유의 함의다.

벤치마크 만점의 역설

리 소장의 지적 가운데 가장 불편한 것은 벤치마크 포화다. 모델이 시뮬레이션 과제에서 거의 만점을 받으면 그 벤치마크는 시스템을 구별하는 데 덜 유용해진다. 이 칼럼의 독법으로는 교육 시장에서도 유사한 문제가 생길 수 있다. 여러 도구가 자체 지표에서 비슷하게 높은 성과를 보고한다면, 그 지표는 선택의 근거가 되기 어렵다. 남는 것은 도구 밖에서의 검증, 곧 학교 성적과 외부 평가의 변화뿐이며, 이것을 요구하는 주체는 결국 학교와 학원, 학부모다.

지가트가 제안한 정책 수단 가운데 조달은 교육에 특히 시사적이다. 정부 기관이 자율 시스템의 주요 고객이므로 모든 조달에 독립 검증과 시뮬레이션 환경 접근권, 실제 검증을 요구하라는 것이다. 이 논리를 교육에 옮기면, AI 도구를 대량으로 도입하는 교육청과 학교는 공급자가 제시한 지표가 아니라 독립적으로 검증된 학습 성과를 조건으로 삼을 수 있는 위치에 있다.

기술이 굳기 전의 좁은 창

브리프의 결론은 시점에 관한 것이다. 지가트는 언어 모델에서는 뒤늦게 따라잡고 있지만 세계 모델은 아직 연구실에서 초기 배포로 나오는 단계이므로, 궤적이 굳기 전에 조건을 만들 기회가 있다고 말한다. 민간 소유 시스템이 핵심 인프라에 깊이 자리 잡으면 방향을 바꾸기가 훨씬 어려워진다는 것이다.

이 칼럼의 해석으로는 한국의 AI 교육 도입도 비슷한 창 안에 있다. 도구가 학교와 학원의 일상에 완전히 자리 잡기 전에 '도구 밖 검증'을 관행으로 만들 수 있는지가, 몇 년 뒤 그 도구들이 실제로 무엇을 가르쳤는지를 알 수 있느냐를 결정한다. 세계 모델의 거버넌스가 던지는 질문은 결국 하나로 모인다. 시뮬레이션 안의 점수의 신뢰도를 어떻게 평가할지의 문제다.

시뮬레이션에서 잘 보이는 것과 현실에서 작동하는 것은 다르다. AI 교육 도구에 던져야 할 첫 질문도 그 도구 밖에서 무엇이 달라졌는가다.

출처: Stanford HAI — Why Governing World Models Is AI's Next Big Policy Challenge (Amy Zegart, Fei-Fei Li, Russell Wald 대담; 정책 브리프 "The World Model and Spatial Intelligence Era: Governing AI Beyond Language")