DeepMind 연구자가 퇴사하며 던진 질문, 군사 AI 계약은 누가 통제하나

DeepMind 연구자가 퇴사하며 던진 질문, 군사 AI 계약은 누가 통제하나

군사 AI 계약과 거버넌스 썸네일

Google DeepMind 연구 과학자였던 Alexander Matt Turner가 회사를 떠난 이유를 공개했어요. Turner는 Google의 미 국방부 AI 계약에 자율 살상 무기와 대규모 AI 프로파일링을 막는 구속력 있는 제한이 없다고 봤어요. 개인의 선의보다 계약 문구와 독립적인 감독 장치가 먼저 필요하다는 주장도 함께 내놨어요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
퇴사 배경	Turner는 Google의 정부·군 협력과 AI 사용 제한 부족을 이유로 회사를 떠났어요	AI 연구자의 윤리적 책임이 실제 고용 결정으로 이어진 사례예요
계약 쟁점	자율 무기와 국내 대규모 감시를 피해야 한다는 문구가 법적 금지로 작동하지 않는다고 비판했어요	원칙 선언과 집행할 수 있는 계약 조건의 차이를 보여 줘요
내부 대응	약 250명의 서명을 모으고 25쪽 분량의 군사 AI 감독 체계를 제안했어요	반대 성명을 넘어 실제 계약·감사 구조를 설계하려 했어요
거버넌스 제안	인간의 무력 사용 통제, 비표적 프로파일링 금지, 독립 검토와 투명성 보고를 요구했어요	군사 AI를 공급할 때 필요한 최소 통제 장치를 구체적으로 논의할 수 있어요

1. 회사의 약속보다 계약에 남은 권한을 물었어요

Turner의 글은 퇴사 소감보다 긴 사건 기록에 가까워요. 그는 Google이 미국 국토안보부와 이민세관집행국에 클라우드 서비스를 제공하는 공급망을 조사했고, 미 국방부가 AI 기업에 요구한 이른바 “모든 합법적 용도” 조건에도 문제를 제기했어요. 정부가 적법성을 스스로 판단하는 구조에서는 자율 살상 무기나 대규모 프로파일링을 회사가 막기 어렵다고 봤어요. 2

Turner가 특히 문제 삼은 것은 최종 계약의 강제력이에요. 공개된 그의 설명에 따르면 Google과 미 국방부의 계약에는 적절한 인간 감독 없는 자율 무기와 국내 대규모 감시를 피해야 한다는 취지의 문구가 들어갔어요. 그러나 Google이 합법적인 정부 운용을 통제하거나 거부할 권리는 제한됐다고 해요. 안전 원칙이 적혀 있어도 공급자가 사용을 멈추거나 조사할 권한이 없다면 실제 통제 수단이 약하다는 판단이에요.

728x90

내부 반대는 청원에서 계약안 작성까지 이어졌어요

그는 Google DeepMind와 Research 직원 약 250명의 서명을 모아 Jeff Dean에게 전달했다고 밝혔어요. Anthropic이 미 국방부의 조치에 맞서 제기한 소송에서는 AI 전문가 법정 의견서 참여도 요청했어요. Jeff Dean을 포함한 Google 관계자들이 해당 의견서에 이름을 올렸지만, Google 법인은 별도 의견서를 내지 않았다고 적었어요.

Turner는 비판만 남기지 않고 25쪽 분량의 계약·감독 프레임워크를 작성했어요. 무력 사용의 각 단계에 인간 통제를 두고, 특정 조사 대상이 아닌 사람을 대량 데이터로 분류하는 AI 프로파일링을 막는 내용이에요. 중립 감사자가 배치 방식을 확인하고, 검토 기구의 권고를 무시한 사례를 직원에게 공개하는 절차도 제안했어요. 전체 제안은 별도 문서로 공개돼 있어요. 3

검토 지시가 있어도 결정 시한을 따라가지 못했어요

Turner는 Demis Hassabis에게 프레임워크를 직접 보냈고, Hassabis가 고위 정책 담당자들에게 검토를 지시했다고 썼어요. 하지만 담당자들의 평가를 받지 못한 채 시간이 흘렀다고 해요. 하위 담당자들은 긍정적인 반응을 보였지만, 답변에 수개월이 걸릴 수 있다고 전했어요. 미 국방부가 AI 계약업체에 조건 수락 시한을 둔 상황에서는 이런 속도로 계약 결정에 영향을 주기 어려웠다는 게 그의 설명이에요.

이 대목은 기업의 AI 윤리 절차를 볼 때 확인해야 할 질문을 남겨요. 검토 조직이 존재하는지보다 언제 개입하고 어떤 권한을 행사하는지가 중요해요. 계약 체결 전에 사용 범위와 거부권을 확인하지 못하면 사후 자문은 피해를 막는 장치가 되기 어려워요.

개인을 믿는 방식과 제도로 제한하는 방식이 충돌했어요

Turner는 경영진이 선의를 갖고 의사결정 과정에 참여하는 것만으로는 충분하지 않다고 주장해요. 정치적 압력과 매출, 정부 계약이 얽히면 개인의 약속도 흔들릴 수 있기 때문이에요. 그래서 사전 금지선, 독립 검토, 감사 가능성, 투명성 보고처럼 담당자가 바뀌어도 남는 장치를 요구했어요.

이 주장은 Google 내부의 다른 연구자가 쓴 “Trust is not Governance”와도 맞닿아 있어요. 신뢰는 협업에 필요하지만, 이해관계가 충돌할 때 책임을 묻는 절차를 대신할 수 없다는 내용이에요. 4

Turner의 글은 당사자 한 명의 시각을 담은 개인 기록이에요. 비공개 협상과 내부 검토의 전모를 외부에서 확인하기는 어려워요. 그는 알려지지 않은 정당한 사정이 있었을 가능성도 열어 뒀어요. 따라서 개별 인물의 의도를 단정하기보다 공개된 계약 조건과 제안된 통제 장치를 나눠 보는 편이 정확해요.

왜 중요한가요

AI 기업이 군과 정부에 모델을 공급하면 일반 기업 고객 계약보다 더 강한 통제가 필요해요. 기밀 환경에서는 공급자가 요청과 출력을 평소처럼 관찰하지 못할 수 있어요. 사용처를 확인할 수 없다면 안전 필터, 사고 과정 감시, 배치 후 감사가 실제로 작동하는지도 확인하기 어려워져요. Turner가 계약 단계의 제한과 독립 감독을 요구한 이유예요. 2

개발자와 AI 서비스 운영자도 비슷한 질문을 받을 수 있어요. 이용 정책에 금지 용도를 적는 것만으로는 부족해요. 위반을 탐지할 로그가 있는지, 공급을 중단할 권리가 계약에 있는지, 예외를 승인한 사람과 근거를 남기는지까지 연결돼야 해요. 고위험 고객에게 모델을 제공한다면 책임 주체와 중단 조건을 공급 전에 정해야 해요.

이번 사례의 가치는 특정 기업이 선한지 악한지 가르는 데 있지 않아요. 공개된 윤리 원칙이 실제 계약에서 어떤 권한으로 바뀌었는지 비교할 자료를 제공해요. 인간 통제, 비표적 프로파일링 금지, 독립 검토, 투명성 보고는 군사 AI 계약을 평가할 때 바로 확인할 수 있는 기준이에요. 3

참고 자료

1. 내가 Google DeepMind를 떠난 이유 — GeekNews
2. Why I Left Google DeepMind — Alexander Matt Turner
3. Military AI Governance Framework — Alexander Matt Turner
4. Trust is not Governance — Andreas Kirsch