AI가 만든 '직접 인용', 뉴스의 신뢰를 흔들다

뉴욕타임스가 캐나다 보수당 대표 피에르 푸알리에브르의 발언으로 보도한 한 문장을, 편집자 주석으로 정정했다. 따옴표 안에 들어가 있던 말은 푸알리에브르가 실제로 한 발언이 아니라, AI가 그의 캐나다 정치관을 요약해 마치 직접 인용처럼 다듬어 놓은 문구였다. 기사는 이후 4월 연설의 실제 인용으로 교체됐다. 사고는 짧게 마무리됐지만 남는 질문은 길다. 따옴표는 누구의 목소리를 담는 도구였는가, 그리고 그 부호를 우리는 앞으로도 같은 무게로 믿을 수 있는가.

따옴표가 가진 무게

저널리즘에서 직접 인용은 단순한 문장 부호가 아니다. 이 사람이 이 말을 실제로 했다는 기자의 보증이자, 독자가 발화자의 책임을 추궁하는 근거다. 정치인의 인용 한 줄이 선거 국면을 바꾸고 기업가의 한마디가 주가를 흔드는 이유도 여기서 나온다. 따옴표 안에 들어간 말은 요약이나 해석과 다른 층위의 사실로 취급된다.

그런데 이번 사례에서 따옴표 안에 들어간 것은 발화가 아니라 추정이었다. AI가 푸알리에브르라면 말할 법한 문장을 만들어냈고, 그 문구가 검증 단계를 통과해 인쇄된 지면과 디지털 기사에 실렸다. 발언이 변형된 것이 아니라, 애초에 존재하지 않은 발언이 발언으로 둔갑했다. 이 차이는 작아 보이지만 결정적이다. 잘못 들은 것과 듣지도 않은 것을 들었다고 적는 것은 다른 종류의 오류다.

요약이 인용으로 둔갑하는 경로

AI 도구를 취재나 편집에 활용할 때 자주 일어나는 일이다. 기자가 어떤 인물의 입장을 빠르게 파악하려고 챗봇에 그 사람의 정치관을 요약해달라고 요청한다. 모델은 해당 인물의 과거 발언과 공개된 자료를 학습한 토대 위에서 매끄러운 문장을 만든다. 결과물은 진짜 인용문처럼 자연스럽고 인물의 어투까지 흉내 낸다.

문제는 이 결과물이 원자료에서 분리되는 순간 발생한다. 메모장이나 초고에 옮겨 적힌 문장은 더 이상 AI가 만든 요약이라는 꼬리표를 달고 있지 않다. 다음 편집자나 다음 단계의 자신에게는 그저 취재 메모 속의 한 줄로 보인다. 따옴표를 씌우는 손이 머뭇거리지 않을 만큼 그럴듯하기 때문이다. 환각은 거짓 정보의 문제만이 아니다. 출처를 잃어버린 정보가 다른 권위를 입고 다시 등장하는 문제다.

그럴듯함이 검증을 통과하는 이유

AI가 만들어낸 문장이 위험한 까닭은 틀려서가 아니라 자주 맞기 때문이다. 푸알리에브르의 캐나다 정치관 요약은 실제 입장과 크게 어긋나지 않았을 가능성이 높다. 그래서 편집자도 데스크도 즉시 멈춰 서지 않았다. 맞는 말 같다는 직관이 실제로 말했는지를 확인하는 절차를 건너뛰게 만든다.

전통적인 팩트체크는 두 가지를 분리해서 본다. 내용이 사실인가, 그리고 이 사람이 정말 이 내용을 이런 표현으로 말했는가. AI 시대의 검증은 두 번째 질문이 훨씬 까다로워졌다. 내용이 그럴듯할수록 두 번째 질문은 자연스럽게 생략된다. 결과적으로 모델이 잘 학습된 인물일수록, 잘 정리된 주제일수록, 가짜 인용이 살아남기 쉬운 역설이 생긴다.

신뢰의 비용은 누가 치르는가

이런 사고가 한 번 일어날 때마다 비용을 치르는 곳은 해당 매체만이 아니다. 보도된 당사자는 자신이 하지 않은 말을 한 사람으로 한동안 기록된다. 정정이 나가도 원래 기사를 인용한 다른 기사, SNS 캡처, 검색 결과 캐시는 천천히 따라온다. 정치인이라면 정치적 입장이 왜곡되고 기업인이라면 시장의 반응이 이미 끝난 뒤다.

독자가 치르는 비용은 더 광범위하다. 정정이 잦아질수록 사람들은 따옴표 자체를 의심하기 시작한다. 큰 매체의 보도조차 AI가 만든 것 아니냐는 의심에 노출되면, 진짜 인용과 가짜 인용을 구별하려는 노력 자체가 무의미해진다. 신뢰는 한 사건으로 무너지지 않지만 비슷한 사건이 누적되면 어떤 따옴표도 예전 같은 무게를 갖지 못한다. 공적 담론을 떠받치는 가장 기본적인 약속이 흔들린다.

리터러시는 의심하기에서 끝나지 않는다

AI 시대의 미디어 리터러시는 흔히 의심하라로 요약된다. 하지만 모든 것을 의심하는 태도는 아무것도 믿지 않는 태도로 미끄러진다. 더 실용적인 자세는 추적할 수 있는지를 묻는 데 있다. 인용된 발언이 있다면, 그 말이 언제 어디서 나왔는지 기사가 명시하는가. 명시하지 않았다면 검색해서 원자료까지 도달하는가. 도달했다면 맥락이 잘려나가지 않았는가.

이번 사고에서 정정의 단서가 된 것도 4월 연설이라는 시점과 장소였다. 발언에는 좌표가 있어야 한다. 누가, 언제, 어떤 자리에서, 어떤 맥락에서 말했는지가 명확하지 않은 인용은 그 자체로 한 번 더 들여다볼 신호다. 이 작업은 기자만의 몫이 아니라, 기사를 인용해 글을 쓰거나 발표 자료를 만드는 사람 모두에게 해당한다. 회의록에 누군가의 말을 그대로 옮길 때, 보고서에 전문가 발언을 따올 때, 출처를 같이 적어두는 습관 하나가 나중의 곤란을 막는다.

도구가 아니라 절차의 문제

이번 사건을 AI를 쓰지 말자로 결론 내리는 것은 지나치게 단순하다. 요약과 정리, 자료 탐색에서 AI는 이미 일상의 일부다. 문제는 도구가 아니라 도구를 둘러싼 절차다. AI가 만든 문장과 인간이 확인한 사실 사이에 경계선이 분명히 그어져 있는가. 메모 단계에서 이건 모델이 만든 요약이라는 표시가 끝까지 따라가는가. 인용을 확정하기 전에 원자료를 한 번이라도 직접 보는 절차가 작동하는가.

이 절차는 기자실에만 필요하지 않다. 보고서를 쓰는 직장인, 자료를 만드는 연구자, 발표를 준비하는 학생 모두 같은 과제를 안고 있다. AI가 정리해준 문장이 너무 매끄럽게 자신의 문서로 흘러들어 갈 때, 거기에 출처가 붙어 있는지를 한 번 더 묻는 습관. 글 하나를 읽고 바꿀 수 있는 것이 있다면 바로 이 습관이다. 따옴표를 찍는 손이 한 번 멈추는 짧은 순간이, 흔들리는 신뢰를 다시 붙드는 가장 작고 가장 확실한 장치다.