기계가 절반을 쓴 글, 우리는 가려낼 수 있는가

인공지능이 쓴 글은 한눈에 알아볼 수 있다는 말이 널리 퍼져 있다. 영혼이 없고 무미건조하며 진짜 생각의 불꽃이 빠져 있다는 진단이다. Merriam-Webster는 2025년 올해의 단어로 slop, 곧 인공지능이 만든 저품질 디지털 콘텐츠를 뽑았다. 그런데 이 손쉬운 경멸이 정작 더 불편한 질문을 가린다. 기계가 쓴 문장을 정말 가려낼 수 있는가, 그리고 가려내는 일이 핵심이 맞는가.

한눈에 알아본다는 착각

역사학자 조너선 리스는 올봄 학술지 Academe에서 인공지능 문장을 밋밋하고 구체성 없고 평범한 산문이라고 깎아내렸다. 언론인이자 UCL 소속 학자인 사르프라즈 만주르는 The Independent 기고에서 학생들이 읽은 AI 기사를 두고 유능하지만 잊히는 글이라 평했다. 교수들이 모이는 온라인 게시판 r/professors를 아무 날에나 넘겨 보면, 누가 봐도 기계가 쓴 과제를 제출한 학생을 성토하는 동료 수십, 수백 명을 만난다. 학계 바깥에서도 이 거부감은 문화로 굳었다. 기계가 토해낸 글은 곧 쓰레기라는 등식이다.

그러나 전부 다 slop이라는 말은 비평이 아니다. 게으른 반사에 가깝다. 이 반사가 편한 이유는 분명하다. 더 곤란한 대화를 피하게 해 주기 때문이다. 문장의 질을 비웃는 동안, 정작 그 글이 어떻게 만들어졌고 무엇을 대신했는지는 묻지 않아도 된다. 경멸은 빠르고 검증은 느리다.

절반은 기계가 썼다

이 글을 쓴 물리학자 필립 모리아티는 한 가지 실험을 독자에게 건넨다. 이 기사의 절반 이상을 Anthropic의 Claude Sonnet 4.6이 썼다. 탄소로 된 신경망이 쓴 문장과 실리콘으로 된 짝이 쓴 문장을 구별해 보라는 제안이다. 그러면서 한 가지 단서를 단다. em 대시(—)의 개수를 세는 일은 도움이 되지 않는다. 본인은 어떤 알고리즘이 학습되기 훨씬 전부터 글에 대시를 흩뿌려 왔기 때문이다.

이 장난스러운 도전에는 날카로운 전제가 깔려 있다. 기계 문체를 식별하는 표지로 흔히 거론되는 특징조차, 사람의 오랜 습관과 구별되지 않는다. 누가 썼는지 가려내는 게임은 생각보다 빨리 무너진다. 글의 출처를 문체로 판정하려는 시도가 흔들린다면, 판정 자체에 매달리는 평가는 토대가 약하다.

검색기라는 비유의 허점

인공지능을 깎아내리는 가장 닳고 닳은 논리는 거대언어모델이 정교한 검색기에 불과하다는 주장이다. 학습한 데이터를 그대로 토해내는 우버브라우저라는 비유다. 그러나 증거는 다른 쪽을 가리킨다. 2024년의 한 연구는 거대언어모델의 추론이 검색과 다르며 절차적 지식을 종합하는 일반화 가능한 전략에 가깝다고 정리했다.

다시 말해 답을 꺼내 오는 것이 아니다. 방법을 적용한다. 그 방식은 인간 연구자가 지식을 종합하고 확장하는 과정과 불편할 만큼 닮아 있다. 검색기 비유가 편한 이유도 앞의 거부 반사와 같다. 기계가 단지 베껴 온다고 믿으면, 결과물을 진지하게 따질 의무에서 풀려난다. 그러나 베껴 온 것이 아니라 빚어낸 것이라면, 마주한 질문은 완전히 달라진다.

온라인에 없던 코드

모리아티는 자신의 연구에서 이를 직접 봤다고 적는다. 최근 논문에서 문헌에 실린 특수한 수학 표현식을 작동하는 코드로 옮겨야 했다. 모리아티는 해당 수식을 저해상도 스크린샷으로 Claude에 붙여 넣었고 몇 초 만에 작동하는 코드를 받았다. 받은 코드는 온라인 어디에도 존재하지 않았다. 사실상 추론으로 만들어진 결과다.

같은 논문의 분자 확산 시뮬레이션은 더 반복적인 작업이었다. 모델과 주고받는 과정이 여러 차례 오갔지만 많은 학자가 협업적 문제 해결이라 부를 법한 방식이었다. 그리고 며칠, 길게는 몇 주가 걸렸을 일을 몇 시간으로 줄였다. 핵심은 속도가 아니다. 코드가 어딘가에 이미 있어 검색된 게 아니라, 정의된 문제에서 새로 빚어졌다는 점이다. 종합과 확장이라는, 그동안 사람의 몫이라 여겨진 일을 기계가 떠맡았다.

코딩하지 못하면 이해하지 못한 것

이 지점에서 불편함은 더 깊어진다. 이 코드를 쓰고 디버깅하는 일은 원래 박사 연구자나 고학년 학부생 프로젝트 학생에게 맡겼을 과제였다. 의미가 있었던 이유는 분명하다. 수학과 씨름하는 과정이 물리적 직관을 길러 주기 때문이다.

모리아티가 물리학과 학부생 시절 품었던 좌우명은 단순했다. 코딩할 수 없으면 나는 그 내용을 이해하지 못했다. 이 원칙이 지금 압박을 받는 정도가 아니다. 모리아티의 표현으로는 물에 빠져 죽었다. 배움에 필요한 고통과, 그 고통이 주는 보상이 함께 끊겨 버렸다. 누군가 대신 답에 도달해 주는 순간, 답까지 가는 길에서 자라는 것이 사라진다. 효율이 늘수록 사라지는 무언가가 있다는 사실이, 이 기술이 던지는 가장 무거운 질문이다.

시험지를 그대로 받아 든 기계

추론 능력은 코드 생성에 그치지 않는다. 모리아티가 학부 양자물리 시험지를 한 글자도 바꾸지 않고 그대로 ChatGPT에 넣었을 때, 모델은 95퍼센트를 받았다. 어휘를 다듬지도, 구조를 바꾸지도, 어떤 도움을 주지도 않은 상태였다. 그뿐이 아니다. 어느 대목에서는 사람이 마련한 모범답안보다 나은 쪽으로 추론을 밀고 나갔다.

시험이라는 장치는 학생이 무엇을 이해했는지 확인하려고 만들어졌다. 그런데 같은 시험지를 그대로 받아 든 기계가 사람보다 높은 점수를 낸다면, 점수가 증명하던 것은 흔들린다. 문장의 질을 비웃거나, 문체로 기계를 색출하거나, 같은 시험을 더 어렵게 내는 식으로는 이 흔들림을 막지 못한다. 평가가 무엇을 측정하고 있었는지부터 되물어야 한다.

다음에 누군가의 답안을 마주할 때

한국에서 인공지능 글쓰기를 둘러싼 논쟁은 대개 금지냐 허용이냐의 양자택일로 좁혀진다. 그러나 모리아티의 실험이 보여 주는 것은 그 틀 자체가 어긋났다는 사실이다. 기계 문체를 가려낼 수 없고 같은 시험지로 기계가 더 높은 점수를 낸다면, 탐지와 차단에 기댄 방어선은 이미 뚫려 있다.

남는 질문은 하나다. 어떤 결과물이 나왔는가가 아니라, 결과물을 내놓은 사람이 실제로 이해하고 표현했는가를 어떻게 확인할 것인가. 글을 쓴 뒤 글을 두고 따져 묻고 풀이 과정을 말로 설명하게 하고 답이 아니라 답에 이른 사고를 드러내게 하는 설계가 그 자리를 대신한다. 다음에 누군가의 글이나 답안을 마주할 때, 이거 AI가 쓴 거 아니야라는 질문은 잠시 미뤄 두는 편이 낫다. 대신 물어야 할 것은 따로 있다. 이 사람은 자기가 쓴 내용을 설명한다. 이 한 가지 질문이, 무너진 방어선을 대신할 유일한 토대다.