AI 정책은 누가 설계하는가

MIT AI Alignment 거버넌스 대회에서 학생들이 낸 제안은 추상적 선언이 아니었다. 데이터센터를 어떻게 규제할 것인가, AI 책임보험을 어떻게 설계할 것인가, 자율적으로 코드를 배포하는 시스템의 책임은 누구에게 둘 것인가. 질문은 하나로 모인다. AI를 다룰 사람은 코드를 잘 쓰는 사람인가, 아니면 기술과 법과 제도가 만나는 지점을 읽는 사람인가. 이 글은 기술정책을 직업 소개가 아니라 한국 사회가 곧 마주할 판단 방식의 문제로 본다.

코드 밖에서 일이 결정된다

AI를 둘러싼 논의는 자주 도구 사용법으로 좁아진다. 어떤 모델을 쓰는가, 어떤 프롬프트가 좋은가, 어떤 업무가 빨라지는가. 이 질문은 필요하다. 하지만 충분하지 않다. 도구가 강해질수록 남는 문제는 사용법보다 책임의 위치다. 누가 허용하고 누가 감시하고 누가 비용을 부담하고 사고가 났을 때 누가 설명하는가.

학생들이 데이터센터 규제, 책임보험, 자율 코드 배포 책임을 정책안으로 냈다는 사실은 그래서 작지 않다. 여기에는 한 가지 관찰이 있다. 기술은 더 이상 제품 안에서만 끝나지 않는다. 전력과 공간을 쓰는 인프라가 되고 손해를 나누는 보험의 대상이 되며 사람의 승인 없이 움직이는 코드의 행위가 된다. 이렇게 AI 논쟁의 중심은 성능이 아니라 경계로 옮겨간다.

한국 독자에게 이 장면이 중요한 이유도 같은 자리에서 나온다. 우리는 새 기술을 볼 때 대개 두 갈래로 반응한다. 빨리 배워야 한다는 압박, 아니면 위험하니 막아야 한다는 불안이다. 하지만 정책의 언어는 두 반응 사이를 가로지른다. 빨리 쓰되 어디까지 허용할지 정하고 막되 무엇을 기준으로 막을지 설명한다. 그래서 필요한 것은 찬반이 아니라 설계다.

책임을 제품처럼 설계하는 감각

이 글에서 세울 개념은 책임 설계다. 책임 설계는 윤리 구호가 아니다. 문제가 생긴 뒤 사과문을 쓰는 절차도 아니다. 처음부터 기술의 작동 조건 안에 책임의 흐름을 넣는 일이다. 데이터센터를 예로 들면, 단순히 서버가 많아진다는 문제가 아니다. 어떤 기준으로 허가하고 어떤 부담을 누구에게 배분하며 어떤 정보가 공개되어야 하는지 정한다. 그 순간 기술정책은 전산실의 문제가 아니라 사회적 계약의 문제가 된다.

AI 책임보험도 같은 구조다. 보험이라는 단어는 사고 이후의 보상처럼 들린다. 하지만 실제로는 사고 이전의 기준을 만든다. 어떤 위험을 예측 가능한 위험으로 볼 것인가, 어떤 행위를 보험이 감당할 수 없는 행위로 볼 것인가, 어느 정도의 관리 의무가 있어야 보장받을 수 있는가. 보험은 돈의 장치이면서 동시에 행동을 바꾸는 규칙이다.

자율 코드 배포 책임은 더 날카롭다. 사람이 한 줄씩 확인하지 않는 코드가 서비스나 시스템에 반영된다면, 책임은 개발자에게만 둘 수 있는가. 모델을 만든 쪽인가, 배포 권한을 준 조직인가, 최종 승인 체계를 설계한 관리자에게도 책임이 있는가. 여기서 중요한 것은 정답을 하나 고르는 일이 아니다. 책임이 흩어지지 않도록 사전에 연결선을 그어두는 일이다.

왜 학생들이 이런 문제를 다룰 수 있었는가. 단지 젊어서가 아니다. 기술을 사용자의 편의로만 보지 않고 제도의 문장으로 번역했기 때문이다. 코드를 이해하는 사람은 많아질 수 있다. 법 조항을 읽는 사람도 있다. 하지만 두 언어 사이에서 빠지는 책임을 발견하는 사람은 아직 드물다. 현대적 기술정책의 부족은 사람 수의 부족이 아니라 번역자의 부족이다.

한국에서는 빠른 도입이 기준을 앞선다

다만 이 관점에는 균열이 있다. 학생들이 이미 이해하고 있으니 곧바로 채용해 정책을 만들자는 말은 매력적이지만 그것만으로 충분하지 않다. 정책은 아이디어 경연이 아니라 권한과 예산과 책임이 붙는 결정이다. 좋은 제안은 출발점이 될 수 있지만 실제 제도는 이해관계와 집행 능력 속에서만 움직인다. 젊은 감각을 채용하는 일과 제도를 바꾸는 일은 같은 문장이 아니다.

한국 맥락에서는 이 차이가 더 크게 보인다. 새 기술을 빨리 적용하려는 압박은 강하지만 책임을 나누는 합의는 늦게 따라오는 경우가 많다. 조직 안에서는 실무자가 위험을 일찍 알아도 결정권자는 다른 언어로 보고받는다. 법무는 금지를 말하고 개발은 가능성을 말하고 경영은 속도를 말한다. 이 세 언어가 따로 움직이면 정책은 문서가 되고 현장은 관행으로 굴러간다.

또 하나의 제약은 전문성에 대한 좁은 이해다. 기술정책 인재를 말하면 한쪽에서는 개발자를 떠올리고 다른 한쪽에서는 법률가를 떠올린다. 둘 다 필요하다. 하지만 둘 중 하나만으로는 부족하다. 데이터센터 규제는 인프라의 언어를 알아야 하고 책임보험은 위험 배분의 언어를 알아야 하며 자율 코드 배포 책임은 시스템 운영의 언어를 알아야 한다. 결국 한 사람의 만능을 찾는 것이 아니라 서로 다른 전문성이 같은 테이블에서 충돌하도록 만드는 구조가 필요하다.

진로보다 의사결정의 문제다

이 이야기를 진로의 확장으로만 읽으면 절반만 본 것이다. 물론 AI와 관련된 길은 코딩이나 모델 사용에만 있지 않다. 정책, 윤리, 인프라, 책임 설계로 넓어진다. 하지만 더 큰 변화는 직업 목록이 늘어나는 데 있지 않다. 어떤 조직이든 이제 기술 결정을 내릴 때 법과 제도와 사회적 비용을 함께 읽어야 한다는 데 있다.

예전에는 기술팀이 만들고 법무팀이 검토하고 운영팀이 처리하는 순서가 자연스러워 보였다. 그러나 자율적으로 코드가 배포되고 데이터센터가 사회적 인프라가 되며 책임보험이 위험의 기준을 정하는 상황에서는 순서가 바뀐다. 만들기 전에 책임을 묻고, 출시 전에 피해의 경로를 생각하며, 성능을 말하기 전에 실패했을 때의 설명 가능성을 따져야 한다.

그래서 필요한 사람은 AI를 잘 아는 사람이라는 넓은 말로는 설명되지 않는다. 더 정확히는 기술이 현실에 닿는 순간 생기는 비용을 읽는 사람이다. 이 비용은 돈만이 아니다. 전력과 공간일 수 있고 신뢰일 수 있고 책임의 공백일 수 있다. 어떤 비용은 장부에 잡히지만 어떤 비용은 사고가 난 뒤에야 이름을 얻는다. 정책은 그 이름을 미리 붙이는 일이다.

뉴스를 읽는 한 줄이 달라진다

독자가 이 글 뒤에 바꿀 수 있는 것은 거창한 선택이 아니다. AI 관련 뉴스를 읽을 때 무엇을 하느냐 다음에 누가 책임지느냐라는 한 줄을 붙이는 일이다. 새 기능이 나왔다는 기사라면, 그 기능이 실패했을 때 누가 설명하는지 묻는 식이다. 데이터센터가 늘어난다는 소식이라면, 효율만이 아니라 규제와 부담의 기준을 함께 보는 식이다.

이 한 줄은 태도를 바꾼다. 기술을 무조건 두려워하지도, 무조건 환영하지도 않게 한다. 대신 결정의 빈칸을 보게 한다. 책임 주체가 보이지 않는 기술은 편리해 보여도 불안정하다. 반대로 책임의 경로가 선명한 기술은 속도가 조금 느려도 사회 안에 들어올 가능성이 커진다. 성숙한 기술 논의는 찬성표와 반대표 사이가 아니라, 책임의 문장을 얼마나 구체적으로 쓰는가에 달려 있다.

MIT의 한 거버넌스 대회에서 나온 정책안들은 완성된 답이 아니다. 하지만 질문의 위치를 옮겼다. AI를 누가 더 잘 쓰는가에서, AI가 사회 안에서 움직일 때 누가 무엇을 감당하는가로. 한국 사회가 이 질문을 피하지 않는다면 기술정책은 먼 행정 문서가 아니라 일상적 판단의 언어가 된다. 다음에 어떤 새 기술이 등장했을 때 우리는 성능을 먼저 물을까, 아니면 책임의 자리를 물을까?