초지능 경쟁을 2040년까지 늦추자는 Plan A의 설계

초지능 경쟁을 2040년까지 늦추자는 Plan A의 설계

AI 뉴스 썸네일

AI 기업의 경쟁을 그대로 둔 채 안전 기술이 따라오길 기다려도 될까요. AI Futures Project가 공개한 Plan A는 초지능 개발 속도를 2040년까지 늦추고, 연구 과정과 컴퓨트 사용을 국가 간에 검증하자는 정책 시나리오예요. 예측 보고서라기보다 실제 협상에서 부딪힐 문제를 드러내기 위한 제안에 가까워요. 1

핵심 요약

구분	핵심	왜 볼 만한가요
개발 일정	2035년에는 최고 인간 전문가 수준에서 멈추고 2040년에 초지능 단계로 넘어가요	안전장치와 국제 협상을 준비할 시간을 5년 확보하려는 구상이기 때문이에요
연구 투명성	최전선 AI 연구와 내부 사용 현황을 여러 국가가 확인해요	상대국의 비밀 개발을 의심해 경쟁 속도를 다시 높이는 악순환을 줄이려는 장치예요
컴퓨트 억제	대규모 연산 시설을 감시하고 공격 징후가 생기면 상대의 컴퓨트 역량을 무력화할 수 있게 설계해요	핵 억제와 비슷한 논리를 AI 칩과 데이터센터에 적용한 제안이라 논쟁거리가 커요
참여 구조	소수 기업이 독주하지 않고 여러 국가와 수십 개 기업이 최전선에 접근해요	초지능이 한 기업이나 한 국가에 집중될 때 생길 권력 문제를 직접 다뤄요

1. 초지능 경쟁에 제동을 거는 국제 합의

Plan A는 미국과 중국이 2029년에 합의한다는 가정에서 출발해요. 두 나라는 AI 연구 자동화가 경쟁을 급격히 앞당기지 않도록 개발 속도를 조절하고, 2035년에는 시스템 능력을 최고 수준의 인간 전문가 범위에 묶어요. 이후 검증 체계와 안전장치를 갖춘 뒤 2040년에 여러 국가와 기업이 함께 초지능 단계로 넘어가요. 2

이 시간표보다 더 중요한 부분은 상대를 믿게 만드는 방법이에요. 한 국가가 속도를 늦춰도 다른 국가가 비밀리에 모델을 키운다고 의심하면 합의는 오래가기 어려워요. Plan A는 AI 연구 내용과 내부 모델 사용을 공개하고, 각국이 안전장치 준수 여부를 확인하도록 해 이 문제를 줄이려 해요.

728x90

연구 공개와 컴퓨트 감시를 함께 묶어요

연구 투명성만으로는 몰래 진행하는 대규모 학습을 막기 어려워요. 그래서 첨단 칩의 공급망과 데이터센터 연산량을 추적하는 컴퓨트 거버넌스를 함께 제안해요. 합의 이전에는 수출 통제 집행, 검증 기술 투자, AI 연구용 연산 예산 제한, 정부의 AI 전문 인력 확보 같은 단계적 조치로 시간을 벌어요.

가장 강한 장치는 '상호 확증 컴퓨트 파괴'예요. 어느 한쪽이 합의를 깨고 초지능 개발을 서두르면 상대가 그 연산 기반을 무력화할 수 있다는 억제 구조예요. 핵 억제 전략과 닮았지만 데이터센터 위치, 민간 시설 피해, 오판 가능성까지 풀어야 해서 실제 적용 난도는 매우 높아요.

안전 문제와 권력 집중을 함께 다뤄요

초지능 논의는 모델이 인간의 의도를 따르는지에 집중하기 쉬워요. Plan A는 정렬에 성공해도 소수 경영진이나 한 국가가 가장 강한 AI를 독점하면 별도의 위험이 생긴다고 봐요. 여러 국가의 여러 기업이 비슷한 수준에 도달하도록 허용하는 이유도 한곳에 권력이 쏠리는 기간을 줄이기 위해서예요.

다만 참여 기업이 많아지면 공격 표면과 정보 유출 경로도 늘어요. 연구 공개가 안전 검증에는 도움이 되지만 위험한 능력이나 개발 기법의 확산을 앞당길 수도 있어요. 투명성과 확산 위험 사이에서 어느 정보를 누구에게 공개할지 구체적인 등급 설계가 필요해요.

왜 중요한가요

Plan A는 2040년을 맞히려는 전망이 아니에요. 정책을 실제 시간표와 이해관계자 안에 넣어 보고, 어디서 합의가 깨질지 확인하는 시나리오예요. 저자들도 구현을 권고안으로 제시할 뿐 이후 전개가 확정된 미래라고 말하지 않아요. 2

개발팀과 AI 서비스 운영자에게도 먼 외교 이야기만은 아니에요. 연구 투명성이 제도화되면 모델 명세, 내부 평가, 연산 사용량, 안전사고 기록을 외부에서 검증할 수 있는 형태로 남겨야 해요. 첨단 모델을 만드는 기업뿐 아니라 데이터센터, 반도체 공급사, 모델을 미세 조정해 배포하는 기업까지 보고 범위에 들어갈 수 있어요.

가장 큰 약점은 검증과 집행이에요. 미국과 중국이 어떤 기관을 신뢰할지, 민간 기업의 영업비밀을 어디까지 공개할지, 위반 징후를 누가 판정할지 정해져야 해요. 컴퓨트 시설을 무력화하는 위협이 오히려 선제 행동을 부를 가능성도 따져야 해요. Plan A는 이런 어려운 질문을 협상할 수 있는 항목으로 구체화했어요.

참고 자료

1. AI 2040: 플랜 A — GeekNews
2. AI 2040: Plan A — AI Futures Project