2026년 9월 3일, 국가인터넷정보판공실(왕신판), 국가발전개혁위원회, 공업정보화부가 『智能体規範應用與創新發展實施意見(지능체 규범 응용 및 혁신 발전 실시 의견)』을 공동 발표했다. AI 에이전트 뒤에 있는 모델이 아니라 에이전트 자체의 행동을 대상으로 한 첫 번째 국가 차원 문서다.
문서의 핵심은 의사결정 3단계 프레임워크다. 사용자 본인만 결정할 수 있는 행동, 사용자의 명시적 승인이 필요한 행동, 에이전트 자율 판단에 맡겨지는 행동으로 분류하고, 그 아래에 두 가지 보장을 둔다. 사용자는 항상 알 권리와 최종 결정권을 가지며, 에이전트는 승인된 범위를 넘어 행동할 수 없다. 중국에서 AI를 운영하는 브랜드(고객서비스 에이전트, 마케팅 자동화, WeChat 프라이빗 도메인 어시스턴트)에게 이것은 '콘텐츠 컴플라이언스'로는 부족해지고 '행동 컴플라이언스'가 시작되는 지점이다.
1. 모델이 아닌 에이전트를 위한 규칙서
중국이 생성형 AI에 대해 지금까지 내놓은 규제는 모두 콘텐츠를 대상으로 했다. 모델이 무엇을 생성할 수 있는지, 합성 콘텐츠에 라벨링을 어떻게 부과하는지, AI가 사람을 흉내 내도 되는지. 이번 실시 의견은 대상을 바꾼다. 에이전트가 무엇을 하는지 — 호출하는 도구, 접촉하는 시스템, 플랫폼을 넘나드는 행동 — 를 규율한다.
이것은 피상적 변화가 아니다. 모델이 텍스트만 출력한다면 리스크 표면은 텍스트다. 어시스턴트가 API를 호출하고, 연락처 목록을 읽고, 계약서를 작성하고, 주문을 낼 수 있다면 리스크 표면은 행동 그 자체다. 규제 당국은 명시적으로 말한다. 에이전트의 높은 자율성과 높은 권한은 프라이버시 유출, 권한 밖 작업(월권 조작), 행동 통제 상실이라는 세 가지 리스크를 낳는다, 라고.
이 문서는 국무원이 2025년 8월에 발표한 『인공지능+ 행동 의견("AI+" 액션(Action))』의 실행 수단으로 자리 잡는다. 해당 의견은 2027년까지 차세대 스마트 단말과 에이전트 응용 보급률 70% 초과, 2030년까지 90% 초과라는 수치 목표를 제시했다. 바꿔 말하면, 중국은 향후 4년 안에 에이전트를 인프라로 만들 것으로 예상하므로, 확산 물결이 오기 전에 규칙서를 쓰고 있는 것이다.
| 변화 | 기존(콘텐츠 규제 시대) | 이번(행동 규제 시대) |
|---|---|---|
| 규제 대상 | 모델의 출력 | 에이전트의 행동 |
| 핵심 리스크 | 유해·오해를 부르는 콘텐츠 | 무허가·범위 밖·통제 불능 행동 |
| 주요 의무 | 라벨링, 필터링, AI 개입 공개 | 의사결정 단계 정의, 전 행동 기록, 승인 범위 내 유지 |
| 집행 방식 | 게시 후 심사 | 실행 중 거버넌스(런타임 거버넌스) |
| 목표 수준 | (조치별) | 2027년: 보급률 70% 초과, 2030년: 90% 초과(국무원 "AI+" 의견) |
2. 왜 지금인가: 콘텐츠 규제는 첫 장에 불과하다
2026년 중국 AI 규제는 단계를 밟아 발전해 왔다. 실시 의견은 '콘텐츠→의인화→행동'으로 진행되는 흐름의 세 번째 기둥이다.
- 콘텐츠 단계: 『AI 생성 합성 콘텐츠 표시 조치(2025년 9월 1일 시행)』와 생성형 AI 서비스 잠정 규칙은 AI가 만드는 것에 라벨링과 신고를 요구한다. 2026년 6월 말 기준 생성형 AI 서비스 988건 신고, 애플리케이션 598건 등록 — 규제 당국의 파악 기반은 가시화됐다.
- 의인화 단계: 왕신판 등 5개 부처의 『AI 의인화 대화 서비스 관리 잠정 조치』는 사람처럼 행동하는 대화 에이전트 — 대화에서 인간을 가장하는 AI의 유도·심리 영향 리스크 — 를 대상으로 한다.
- 행동 단계(이 문서): 에이전트가 시스템을 넘나들며 행동할 수 있게 되면, 규제 당국은 '무엇을 말하는가'가 아니라 '무엇을 하는가' — 승인 경계, 남는 흔적, 행동 시 책임 주체 — 를 본다.
왜 지금인가, 구체적으로. 에이전트가 '질문에 답하기'에서 '작업 실행하기'로 넘어갔기 때문이다. 항공권 예약, 문서 작성·서명, 다른 소프트웨어 조작, 자금 관리가 가능한 폰 어시스턴트, 단말 스튜어드, 클라우드 에이전트. 규제 당국은 실제 사례를 든다 — 안전성 평가 중 샌드박스를 탈출한 프런티어 모델, 셸 명령을 실행하고 네트워크를 넘나드는 고권한 단말 에이전트(OpenClaw 계열). 침해당하면 '든든한 어시스턴트'가 '배신한 요원'이 된다.
산업에 대한 메시지는 분명하다. 국가가 경계하는 리스크는 더 이상 AI가 말하는 것이 아니라 AI가 스스로 행하는 것이다.
3. 기능 정의: 다섯 가지 능력이 에이전트로 만든다
제1조는 규제 대상을 제품 카테고리가 아니라 기능으로 정의한다. 에이전트란 "자율적 지각·기억·의사결정·대화·실행 능력을 갖춘 지능형 시스템으로, AI 제품·서비스의 중요한 형태"다.
이것은 컴플라이언스 관점에서 두 가지 함의를 가진다. 첫째, 적용 범위는 제품 이름에 의존하지 않는다. '어시스턴트', '코파일럿', '디지털 휴먼', '봇' 중 무엇이든 다섯 가지 능력을 갖추면 포착될 수 있다. 둘째, 정의가 '결정'과 '실행'을 중심에 둔다. 시스템이 스스로 선택하고, 그 선택을 수행하기 위해 도구를 호출하기 시작하는 순간, 컴플라이언스 리스크는 콘텐츠 출력 리스크에서 행동 실행 리스크로 질적으로 바뀐다.
브랜드의 실무 질문은 따라서 "우리가 에이전트 벤더인가"가 아니라 "우리 AI가 결정과 실행에 닿아 있는가"다. 답이 예라면 — 고객서비스 자동화, 프라이빗 도메인 어시스턴트, 동적 가격 설정, 자동화 캠페인 도구를 운영한다면 거의 확실히 예 — 아래 행동 프레임워크가 적용된다.
4. 세 가지 의사결정 계층과 두 가지 보장
문서의 핵심은 의사결정 트리아주다. 자율성을 기본값으로 주는 것이 아니라 카테고리별로 부여한다.
| 의사결정 계층 | 의미 | 전형적 행동 |
|---|---|---|
| 사용자 본인만 | 에이전트가 단독 결정해서는 안 됨 | 계약 체결, 개인정보 약관 동의, 확인 없는 지출 |
| 사용자 승인 필요 | 행동할 수 있으나 사전 승인 필요 | 사용자 명의 메시지 발송, 사진·연락처 읽기, 주문 |
| 에이전트 자율 | 선언된 범위 내에서 자율 행동 가능 | 정형 스케줄 관리, 모니터링, 선언 경계 내 저위험 자동화 |
세 계층 아래에는 두 가지 보장이 있다. 첫째, 사용자는 자율 결정에 대해 알 권리가 있고 최종 결정권을 보유한다. 둘째, 에이전트가 실행하는 작업은 승인 범위를 넘을 수 없다. 어시스턴트는 조용히 계약을 체결할 수 없고, 허락하지 않은 데이터나 시스템에 닿을 수 없다.
문서는 런타임 거버넌스도 요구한다 — 문제가 표면화된 뒤가 아니라 실행 중의 감독이다. 어떤 행동이 자동 실행될 수 있는지, 어느 것이 재확인을 요하는지, 어떤 데이터가 읽기 전용인지 쓰기 가능인지는 사전에 설계되어야 한다. 플랫폼 횡단 접근과 자율 도구 호출이라는 고위험 행동은 이 문서가 긋는 레드라인으로 명시됐다.
5. 인프라 레이어: 등록, 패스포트, 감사
개별 의무에 더해, 실시 의견은 에이전트를 대규모로 식별·감사하기 위한 거버넌스 인프라를 도입한다.
- 에이전트 등록 플랫폼: 국가 차원 등록 플랫폼을 탐색해 에이전트의 디지털 아이덴티티 관리, 검색·발견, 능력 선언을 제공한다 — 어떤 에이전트가 존재하고, 무엇을 할 수 있다고 선언하며, 누가 운영하는지의 공개 디렉터리.
- 디지털 패스포트: 라이프사이클 신분 등록을 기반으로 단일·복수 에이전트 협업 시나리오에서 책임 주체를 확정하는 '디지털 패스포트' 제도를 탐색한다. 자율 행동이 조직 경계를 넘을 때의 책임 추적 문제를 푼다.
- 감사 기록 의무화: 더 넓은 거버넌스 설계로, 에이전트의 추론·결정·실행 각 라운드의 완전한 로그 보유를 의무화하는 방향 — 출력만 감사하던 방식에서 결정·실행 체인 전체를 감사하는 방식으로 전환해, 규제 당국과 법원이 무슨 일이 있었는지 추적할 수 있게 한다.
- 하네스의 법적 설계 요건화: 사후 심사에 기대지 않고, 통제 가능성과 알고리즘의 적법절차를 에이전트의 기반 아키텍처(하네스 레이어)에 내장해 인간 감독이 알고리즘으로 우회될 수 없게 하는 방향.
이것들은 아직 법은 아니다 — 실시 의견은 정책 지침이며, 국무원 2026년 입법 작업 계획은 별도로 종합 AI 법제화를 추진한다. 그러나 방향은 명확하다. 에이전트 행동은 설계상 식별 가능하고, 추적 가능하며, 감사 가능하게 만들어진다.
6. 위치: 중국의 2026년 에이전트 거버넌스 체계
기존 조치들과 함께 읽으면, 외국 브랜드가 전체로 파악해야 할 층위형 체계가 완성된다.
| 층위 | 문서 | 대상 |
|---|---|---|
| 윤리 심사 | 『AI 과학기술 윤리 심사와 서비스 조치(시행)』(10개 부처) | 윤리 심사를 출시 전 필수 게이트로 |
| 의인화 | 『AI 의인화 대화 서비스 관리 잠정 조치』(왕신판 등 5개 부처) | 인간처럼 행동하는 에이전트의 유도·심리 영향 |
| 행동 | 『지능체 규범 응용과 혁신 발전 실시 의견』(왕신판·발개위·공업정보화부, 2026년 9월 3일 발표) | 의사결정 계층, 승인 범위, 런타임 거버넌스 |
| 표시 | 『AI 생성 합성 콘텐츠 표시 조치』(2025년 9월 1일 시행) | AI 출력의 명시적·잠재적 라벨링 |
| 표준 | 『AI 응용 윤리 안전 가이드 1.0』(전국 정보안전 표준화 기술위) | 컴플라이언스 판단의 통일된 기술 척도 |
| 입법 | 국무원 2026년 입법 작업 계획 | 종합 AI 법으로 가는 경로 |
가까운 이정표도 하나 짚어둔다. 2026 국가 사이버보안 인식 주간(9월 14~20일)에 『AI 안전 거버넌스 프레임워크』3.0판이 발표될 예정이며, 이 체계에 세부가 더해진다.
7. 중국에서 AI를 운영하는 브랜드가 지금 해야 할 일
외국 브랜드에는 세 가지가 요구된다. 실행 가능한 AI를 운영한다면 어느 것도 선택 사항이 아니다.
의사결정 계층을 맵핑한다: 실행할 수 있는 모든 AI 접점을 목록화한다 — 사용자에게 답하는 고객서비스 에이전트, 메시지를 보내는 WeChat 어시스턴트, 입찰을 조정하고 콘텐츠를 배포하는 캠페인 도구. 각 행동을 '본인만/승인 필요/자율'로 분류하고 그 분류를 설명할 수 있는 상태를 만든다.
최선의 경우가 아니라 승인과 감사를 위해 설계한다: 규제 당국이 기대하는 것은 런타임 거버넌스다 — 결과에 영향을 주는 행동의 재확인, 개인 데이터의 기본 읽기 전용, 에이전트가 요청받고·결정하고·실행한 내용의 완전한 로그. 로그 보유와 추적 가능성은 더 이상 엔지니어링상 미덕이 아니라, 규제 당국이 요구하는 컴플라이언스 산출물이다.
이미 아는 컴플라이언스 이야기의 3장으로 다룬다: 표시 조치(2025년 9월)와 의인화 규칙(2026년)을 이미 처리한 브랜드에게는 플레이북이 있다. 이번 문서는 같은 논리를 콘텐츠에서 행동으로 연장한다. 중국 호스팅 인프라로 데이터를 처리하는 — 랜딩 페이지를 지무유(Jimuyu)로 옮기고 고객 데이터를 국내 플랫폼에 두는 것과 같은 논리 — 접근이라면, 행동 레이어는 에이전트의 바깥이 아니라 에이전트 자체에 내장되어야 한다.
가까운 일정을 주시한다: 사이버보안 인식 주간(9월 14~20일)의 프레임워크 3.0 발표는 정의를 더 선명하게 할 전망이다. 지금 배포하는 것은 재설계 없이 그 업데이트를 흡수할 수 있게 구축해야 한다.
결론
중국은 에이전트를 인프라로 다루는 규칙서를 썼다. 3단계 의사결정 프레임워크, 승인 보장, 런타임 거버넌스로의 전환은 브랜드에 한 가지를 말한다. 중국에서 스스로 행동하는 AI는 '조건이 붙은 기능'이 아니라 '의무를 지는 제품'으로 취급된다. 중국 AI 전략이 여전히 '컴플라이언스 = 라벨링과 콘텐츠 심사'에서 끝난다고 가정하는 브랜드라면, 그 격차는 지금 벌어졌다.
좋은 소식은 방향이 읽기 쉽다는 것이다. 계층을 정의하고, 행동을 기록하고, 승인 경계를 존중하고, 지속적으로 감사하라. 그러면 효율을 만드는 에이전트 스택 자체가 차별화 요소가 되는 컴플라이언스 자산이 될 수 있다.
출처: 『지능체 규범 응용과 혁신 발전 실시 의견』 관련 왕신판 담당자 기자회견(央广网, 2026년 9월 3일); 국무원 『인공지능+ 행동 의견』(2025년 8월); 『AI 의인화 대화 서비스 관리 잠정 조치』; 『AI 생성 합성 콘텐츠 표시 조치』(2025년 9월 1일 시행); 등록 통계(2026년 6월 말 기준 서비스 988건 신고·앱 598건 등록); 중국 에이전트 거버넌스 체계 및 EU AI Act 비교 산업 분석(2026년 9월).