'과학은 이미 여기 있다': UN 첫 글로벌 AI 패널, "안전장치가 기술을 못 따라간다"

업계가 지난 한 주를 맞춤형 실리콘, 토큰 배급, 어느 프런티어 랩이 누구의 연구자를 빼갔는지를 두고 다투는 데 쏟는 동안, 조용하지만 어쩌면 더 무게 있는 사건이 유엔에서 벌어졌습니다. 7월 1일, 새로 꾸려진 인공지능 독립 국제 과학 패널(Independent International Scientific Panel on Artificial Intelligence)이 첫 평가 보고서를 공개했는데, 그 핵심 메시지는 단도직입적입니다. AI를 안전하게 지키기 위한 안전장치가 지금 AI가 할 수 있는 일의 속도를 도저히 따라잡지 못하고 있다는 것입니다.

실제로 무슨 일이 있었나

이 패널은 2026년 7월 1일 *AI 독립 국제 과학 패널 예비 보고서: AI의 기회, 위험, 영향에 대한 증거 기반 평가(Preliminary Report of the Independent International Scientific Panel on AI: Evidence-based assessment of opportunities, risks and impacts of AI)*를 발표했습니다. 이 보고서는 AI의 역량과 기회, 위험을 다룬 최초의 독립 과학 평가로 소개되며, 유엔 전 지역에서 선발되어 각국 정부 대표가 아닌 개인 자격으로 활동하는 40명의 전문가로 구성된 기구가 작성했습니다. 구성원의 면면은 컴퓨터 과학자, 경제학자, 학자, 인권 전문가에 이르기까지 폭넓습니다.

패널의 공동 의장은 캐나다의 요슈아 벤지오(Yoshua Bengio) — 딥러닝 분야에서 가장 많이 인용되는 인물 중 하나이자 현재 비영리단체 LawZero의 공동 대표 — 와 필리핀의 저널리스트이자 노벨 평화상 수상자인 마리아 레사(Maria Ressa)입니다. 패널 자체 설명에 따르면 두 사람은 2026년 3월 3일 그룹의 창립 회의에서 공동 의장으로 선출되었습니다. 보고서는 AI 과학과 경제적 함의부터 인권, 민주주의, 아동 안전, 거버넌스에 이르기까지 일곱 개 영역을 중심으로 구성되어 있습니다.

시점은 우연이 아닙니다. 이번 조사 결과는 7월 6~7일 제네바에서 각국 정부가 모이는 첫 UN 글로벌 AI 거버넌스 대화(UN Global Dialogue on AI Governance)에 직접 반영될 예정입니다. 후속 연례 보고서는 2027년 5월 뉴욕에서 열릴 두 번째 대화의 밑거름이 될 것으로 계획되어 있습니다.

핵심 결론

보고서의 대표 결론은 "현행 안전장치가 AI 역량의 성장 속도를 따라잡지 못한다"는 것입니다. 패널은 지난 2년간의 모델 출시를 지켜본 사람이라면 누구나 알아볼 법한 거버넌스의 함정을 짚어냅니다. 정책 입안자가 AI를 제대로 규제하려면 탄탄한 과학적 증거가 필요하지만, 그 증거가 명백해질 무렵이면 이미 손쓰기에 너무 늦을 수 있다는 것입니다.

그 배경에는 역량 발전 속도 자체에 관한 주장이 깔려 있습니다. 패널은 자율적인 AI '에이전트'가 최소한의 인간 감독만으로 복잡한 작업을 점점 더 많이 완수하고 있으며, UN 뉴스 요약에 따르면 작업의 복잡도가 몇 달마다 두 배로 늘어나고 있다고 지적합니다. 다만 일부 AI 위험 담론을 지배하는 종말론적 어조까지 가지는 않습니다. 패널이 밝힌 입장은 "AI는 본질적으로 선하지도 악하지도 않다. 그 영향은 오늘날 정부와 기업, 사회가 내리는 선택에 달려 있다"는 것이며, "효과적인 글로벌 거버넌스를 확립할 수 있는 창은 아직 열려 있지만, 그 상태가 오래 지속되지 않을 수도 있다"는 것입니다.

집중에 관한 수치들

보고서가 구체성을 띠는 지점은 누가 컴퓨팅 파워를 쥐고 있느냐입니다. 보도에 따르면 패널은 주요 AI 슈퍼컴퓨팅 파워의 약 75%가 미국에, 약 15%가 중국에, 나머지 전 세계에는 고작 10%가량이 있다고 밝힙니다. 인터 프레스 서비스(Inter Press Service) 보도는 거버넌스 참여에 관한 수치를 덧붙입니다. 대부분 글로벌 사우스에 속한 118개국이 이 기술의 규칙을 형성하는 주요 AI 거버넌스 논의에서 사실상 배제되어 있다는 것입니다.

이 구도가 중요한 이유는 "AI 안전"을 부분적으로 권력 분배의 문제로 다시 정의하기 때문입니다. AI가 "소수의 정부와 기업에 권력을 집중시킬 수 있다"는 패널의 경고는, 한 나라가 세계 프런티어 컴퓨팅의 4분의 3을 통제하는 상황에서는 결코 추상적이지 않습니다. 이는 이번 주의 다른 헤드라인들 — 맞춤형 칩, 수십억 달러 규모의 컴퓨팅 거래, 수출 통제 — 을 하나로 꿰는 흐름이며, 이들은 결국 누가 가장 큰 모델을 돌릴 수 있느냐에 관한 이야기입니다.

왜 중요한가

이 패널을 읽는 가장 유용한 방식은 지금까지 나온 것 중 'AI판 IPCC'에 가장 가까운 존재로 보는 것입니다. 정부가 두고 논쟁할 대상이 아니라 그로부터 논쟁을 시작할 수 있는, 공유된 권위 있는 증거 기반을 만들어내는 것을 임무로 하는 상설 독립 과학 기구 말입니다. 이는 진정으로 새로운 것입니다. 지금까지 AI 위험 논쟁은 대체로 시스템을 만드는 랩과 그들을 회유하거나 억제하려는 정부가 심판을 맡아 왔습니다. 중립적이고 유엔이 소집한 과학 평가는, 설령 다른 것은 아무것도 바꾸지 못한다 해도, 대화의 조건 자체를 바꿉니다.

안토니우 구테흐스(António Guterres) 사무총장은 IPS가 인용한 한 문장에서 그 의도된 효과를 정확히 포착했습니다. "과학은 이미 여기 있습니다. 우리는 더 이상 몰랐다고 말할 수 없습니다." 이 보고서는 제네바로 향하는 각국 정부에게서 "증거가 부족했다"는 방패를 빼앗도록 설계되어 있습니다.

과장과 현실

이제 김을 빼는 대목입니다. 이것은 예비 보고서이며, IPS에 따르면 패널은 과학적 신뢰성을 지키기 위해 의도적으로 정책 권고안 발표를 삼갔습니다. 지적으로 정직한 태도지만, 동시에 이 문서가 진단만 할 뿐 처방은 내리지 않는다는 뜻이기도 합니다. 이 보고서에는 집행력도, 예산 권한도, 어떤 랩이나 국가에 무언가를 강제할 수단도 없습니다.

컴퓨팅 집중 수치는 이 한계를 뚜렷이 드러냅니다. 미국이 프런티어 컴퓨팅의 약 75%를, 중국이 약 15%를 통제한다면, 실효성 있는 거버넌스는 거의 전적으로 두 정부의 동참에 달려 있습니다. 그런데 이 두 나라는 역사적으로 자국의 전략 기술을 다자기구가 제약하도록 내버려 둔 적이 없습니다. 최대 참가국들이 예의상 참석하는 제네바 대화는, 그들을 구속하는 대화와는 전혀 다른 것입니다.

짚고 넘어갈 익숙한 패턴도 있습니다. 이런 보고서는 한바탕 보도와 연설을 쏟아낸 뒤, 정작 그 밑바탕의 역량 곡선은 계속 치솟는 가운데 슬그머니 잊히곤 합니다. 패널 스스로도 "창이 계속 열려 있지 않을 수도 있다"는 표현으로 사실상 이 위험을 인정합니다. 회의론자들은 2023년 이후 모든 AI 정상회의에서 "지금 행동하지 않으면 늦는다"는 변주를 들어왔지만 컴퓨팅은 오히려 더 집중되기만 했다고 지적할 것입니다.

그럼에도 실질적이며 폄하해선 안 될 것이 있습니다. 매년 보고할 임무를 지닌 지속적 기구가 존재하게 되었다는 사실입니다. 문서 한 편은 큰 변화를 만들지 못합니다. 하지만 벤지오와 레사 같은 인물이 이름을 건, 신뢰할 만한 기구가 정해진 주기로 증거를 내놓는다면, 그것은 여러 해에 걸쳐 의미를 가질 수 있는 종류의 인프라입니다. 기후 평가가 그랬듯, 서서히 그러다 갑자기 말입니다.

제네바에서 주목할 것

당장의 시험대는 7월 6~7일입니다. 지켜볼 만한 질문들은 이렇습니다. 미국과 중국은 고위 관료를 보낼까요, 아니면 형식적인 하급 인사를 보낼까요? 구체적인 거버넌스 메커니즘이 나올까요, 아니면 미래의 대화를 약속하는 공동성명 한 장에 그칠까요? 그리고 AI 거버넌스가 AI 권력 분배와 떼려야 뗄 수 없다는 패널의 컴퓨팅 집중 구도는, 그 75/15/10 구도에서 지고 있는 쪽 국가들에게 받아들여질까요, 아니면 이기고 있는 쪽에 의해 조용히 밀려날까요?

정리

UN의 첫 독립 AI 과학 패널은 이런 기구가 출발선에서 마땅히 해야 할 일을 정확히 해냈습니다. 중립적 증거 기반을 세우고, 우리의 안전장치가 그것이 다스려야 할 시스템에 추월당하고 있다고 분명히 말한 것입니다. 이는 실질적이고 때늦은 제도적 진전입니다. 하지만 처방 없이 진단만 하는 보고서, 구속력 없는 대화를 겨냥한 보고서, 컴퓨팅이 두 수도에 집중된 기술을 다루는 보고서는 결승선이 아니라 출발선입니다. 이 패널의 가치는 7월 1일 문서로 판가름 나지 않을 것입니다. 몇 차례의 연례 보고서를 지난 뒤, 행동할 힘을 가진 누군가가 정말로 귀를 기울였는지에 따라 판가름 날 것입니다.