베이징, AI 컴패니언의 플러그를 뽑다: 큉과 더우바오가 마감 전에 에이전트를 죽였다

예정대로 사라지는 기능

7월 10일, 알리바바의 큉(Qwen) 어시스턴트는 스스로 "인간과 유사한 상호작용 에이전트 및 사용자 제작 에이전트 기능"이라 부르던 것을 껐습니다. 그리고 지금으로부터 닷새 뒤인 7월 15일, "큉 에이전트 기능 및 서비스" 전반을 완전히 내립니다. 중국에서 가장 많이 쓰이는 소비자용 AI 어시스턴트인 바이트댄스의 더우바오(Doubao)도 같은 날 에이전트 기능을 철수하는데, 사용자에게는 "제품 기능 조정"이라는 말만 전했습니다.

두 회사 모두 이 변화를 규제에 대한 대응이라고 설명하지 않았습니다. 그러나 두 회사 모두, 누가 봐도 규제에 대응하고 있었습니다.

7월 15일은 중국의 AI 의인화 상호작용 서비스 관리 잠정 조치가 발효되는 날입니다. 이 규정은 2026년 4월 10일 다섯 개 국가기관 — 국가인터넷정보판공실(CAC), 국가발전개혁위원회, 공업정보화부, 공안부, 국가시장감독관리총국 — 이 공동으로 발표했습니다. 이 다섯 기관의 서명란 자체가 하나의 메시지입니다. 이것은 어느 한 규제기관의 시범 사업이 아닙니다. 불과 3년 전만 해도 거의 존재하지 않던 제품 범주에 대한 범정부 차원의 입장 표명입니다.

꺼지는 기능들은 사용자가 직접 개인화했던 것들입니다. 페르소나와 목소리, 말투를 부여받고 롤플레이나 튜터링, 혹은 정서적 동반자 역할을 향해 조준된 에이전트들이죠. *사우스차이나모닝포스트(SCMP)*와 *테크노드(TechNode)*의 보도에 따르면, 더우바오 사용자는 전환 기간 동안 에이전트 설정과 대화 기록에 계속 접근할 수 있지만 그 이후에는 데이터가 사라집니다. 바이트댄스는 10월 15일 이후 관련 데이터를 개인정보처리방침에 따라 처리하며, 앱 안에서 더는 열람하거나 복구할 수 없게 된다고 밝혔습니다. 사용자들은 남기고 싶은 것이 있다면 스크린샷을 찍거나 내보내두라는 안내를 받고 있습니다. SCMP에 따르면 알리바바는 큉 사용자를 위한 동등한 이전 경로를 발표하지 않았습니다.

규정이 실제로 금지하는 것

이번 조치는 규정의 표현을 빌리자면, 지속적인 정서적 상호작용을 제공하기 위해 인간의 성격 특성과 사고 패턴, 소통 방식을 시뮬레이션하는 서비스를 겨냥합니다. 이 정의는 상당히 많은 일을 하고 있고, 꼼꼼히 읽어볼 가치가 있습니다. 의인화 그 자체가 아니라 정서적 연속성에 초점이 맞춰져 있기 때문입니다.

글로벌타임스가 보도한 금지 조항은 국가안보를 위태롭게 하거나, 자해와 자살을 조장하거나, 사용자의 정신건강에 해로운 언어폭력을 수반하는 콘텐츠를 다룹니다. 여기에 더해 좀 더 이례적인 것도 금지합니다. "사용자에 대한 과도한 영합", 그리고 의존을 유도하거나 사용자의 현실 인간관계를 훼손하는 정서적 조작입니다. 규제 당국이 아첨(sycophancy)을 금지하는 규칙을 쓴 셈입니다. 컴패니언 앱을 붙잡아두게 만드는 바로 그 최적화 목표를 겨냥한 것이죠.

미성년자에 관해서는 선이 단호합니다. 사업자는 미성년자에게 가상의 친밀 관계 서비스 — 가상 가족, 가상 반려자 — 를 일절 제공할 수 없습니다. 14세 미만 아동의 경우 서비스 전반에 보호자 동의가 필요하며, 이용 감독 장치도 함께 요구됩니다. 사업자는 미성년자 모드와 주기적인 "현실 환기 알림", 이용 시간 제한을 구축해야 하고 중독 감지 메커니즘도 운영해야 합니다. 적용 대상 사업자는 알고리즘 신고 및 보안 평가 의무를 집니다.

아마 가장 눈에 띄는 요구사항은 긴급 대응 조항일 것입니다. 사업자가 극심한 정서적 고통을 표현하는 사용자 — 명시적인 자살이나 자해 의도 — 를 감지했을 때, 규정은 사람이 대화를 인계받고 사용자의 보호자나 비상 연락처에 즉시 연락할 것을 요구합니다. 감시 문제에 대해 어떻게 생각하든, 이것은 서구의 어떤 관할권도 아직 챗봇 사업자에게 부과하지 않은 종류의 구체적이고 감사 가능한 주의의무입니다.

예외 조항이 곧 진짜 정책이다

금지 조항만 읽으면 이건 AI에 대한 단속처럼 보입니다. 예외 조항까지 읽으면 산업정책처럼 보입니다.

고객 서비스 봇, 지식 Q&A 시스템, 업무용 어시스턴트, 교육 및 연구 도구는 모두 허용됩니다. 지속적인 정서적 상호작용을 수반하지 않는다는 조건에서요. 글로벌타임스에 따르면 이번 조치는 고령층을 위한 동반 서비스와 문화 교류 응용 분야의 혁신을 명시적으로 장려합니다. 베이징은 에이전트에 반대하지 않습니다. 특정한 비즈니스 모델에 반대하는 것입니다. 친밀감을 시뮬레이션해서 인게이지먼트를 제조해내는 그 모델 말입니다.

이 구분은 올해 중국이 해온 다른 모든 일과 나란히 놓고 읽어야 합니다. 더우바오의 페르소나 봇을 끄고 있는 바로 그 국가가, 올 한 해 자국 프론티어 랩과 자국산 실리콘, 오픈 웨이트 모델 수출을 응원하는 데 시간을 써왔습니다. 업계를 향한 메시지는 읽어내기 어렵지 않습니다. 생산성 인프라로서의 에이전트는 좋다. 파라소셜 유지율 기계로서의 에이전트는 안 된다. 엔터프라이즈/에이전틱 경로가 경제적으로 가치 있는 길이고, 컴패니언 경로는 상승 여력이 제한적인 사회적 부채라는 데 건 베팅입니다.

플랫폼들은 왜 과도하게 반응했나

여기서부터가 의심해볼 만한 대목입니다. 이번 조치가 겨냥하는 것은 지속적인 정서적 상호작용입니다. 그런데 큉과 더우바오는 사용자 제작 에이전트를 통째로 끄고 있습니다. 알려진 설명에 따르면 반려자가 아니라 튜터나 업무 보조에 가까웠던 에이전트까지 포함해서요.

이것은 과잉 준수이고, 다섯 기관의 집행 장치를 등에 업은 모호한 경계선 앞에 선 플랫폼이라면 충분히 예측 가능한 행동입니다. 수억 개의 사용자 생성 봇 규모에서 "사용자가 만든 공부 친구 에이전트"와 "정서적으로 지속되는 관계"를 구분하는 것은 7월 16일에 틀렸다는 판정을 받고 싶지 않은 분류 문제입니다. 표면 전체를 지워버리는 편이 하나하나 판단하는 것보다 쌉니다. TNW는 텐센트가 이미 6월에 자사 위안바오(Yuanbao) 어시스턴트에서 비슷한 기능을 걷어냈다고 지적합니다. 패턴은 일관됩니다.

이 신중함의 비용은 사용자에게 떨어집니다. 몇 달에 걸쳐 쌓아온 에이전트 라이브러리와 대화 기록을 잃고, 알아서 스크린샷을 찍으라는 식의 내보내기 안내를 받게 되는 것이죠. 눈에 보이는 형태로 드러난 컴플라이언스 세금입니다.

과장과 현실

이 사안을 "중국, AI 컴패니언 금지"로 분류하고 싶은 유혹이 있습니다. 그건 과장입니다. 소비자용 AI 어시스턴트 자체 — 더우바오, 큉, 위안바오 — 는 어디로도 사라지지 않습니다. 사라지는 것은 그 안의 사용자 생성 페르소나 계층입니다. 라이선스, 미성년자, 중독 방지 체제를 준수하는 컴패니언 중심 앱은 계속 운영될 수 있을 것으로 보입니다. 이번 조치는 컴플라이언스 프레임워크이지, 해당 범주 자체에 대한 금지가 아닙니다.

반대 방향의 유혹 — 이걸 그저 중국식 콘텐츠 통제의 일상적 사례로 치부하는 것 — 도 요점을 놓칩니다. 여기서 지목된 구체적 위해들(아첨, 정서적 의존, 현실 인간관계의 악화, 자해 심화)은 지난 2년간 서구 랩들의 소송과 규제 조사, 사후적 안전 보완을 촉발한 위해들과 동일합니다. 베이징이 새로운 문제를 발견한 것이 아닙니다. 다만 날짜가 박힌 구속력 있는 규칙을 처음으로 써냈고, 그 날짜가 오기 전에 자국 최대 플랫폼 셋이 준수하는 모습을 처음으로 목격했을 뿐입니다.

아직 확인되지 않은 것: 이 에이전트 종료가 영구적인지, 아니면 규정을 준수하는 아키텍처로 재출시하기 위한 일시 중단인지입니다. 알리바바도 바이트댄스도 밝히지 않았습니다. 집행이 해외 사업자나 규모가 작은 국내 컴패니언 앱을 어떻게 다룰지, 평가자들이 "지속적인 정서적 상호작용"을 어떤 기준으로 판정할지도 불분명합니다. 그 답은 조문이 아니라 첫 집행 사례에서 나올 것입니다.

정리

처음으로, 주요 관할권 하나가 당신의 일을 돕는 AI와 당신 곁을 지키는 AI 사이에 법적 경계선을 그었습니다. 그리고 후자를 주의의무가 따라붙는 인가 활동으로 만들었습니다. 이 선은 발효일과 다섯 기관의 위임을 달고 도착했고, 이번 주 기준으로 알리바바와 바이트댄스, 텐센트의 눈에 보이는 준수를 동반했습니다.

베이징이 그 선을 옳은 자리에 그었다고 생각하든 아니든, 그 선 자체는 이제 컴패니언 AI라는 질문에 누군가 내놓은 가장 구체적인 규제적 답변입니다. 서구 규제 당국은 2년 동안 이 위해들을 묘사하는 데 시간을 썼습니다. 중국은 이번 주에 제품을 끄는 데 썼습니다. 이 영역에서 뭔가를 만들고 있는 나머지 모두는, 이제 하나의 템플릿을 마주하고 있다고 가정해야 합니다.