互联网信息服务深度合成管理规定 인터넷정보서비스 딥페이크 관리 규정
2022年11月25日 2022년 11월 25일
国家互联网信息办公室、中华人民共和国工业 和信息化部、中华人民共和国公安部令 （第12号） 국가 인터넷 정보 판공실, 중화인민공화국 공업정보화부, 중화인민공화국 공안부령 (제12호) 《互联网信息服务深度合成管理规定》已经20 22年11月3日国家互联网信息办公室2022年第 21次室务会议审议通过，并经工业和信息化 部、公安部同意，现予公布，自2023年1月10 日起施行。 2022년 11월 3일 국가 인터넷 정보 판공실 2022년 제21차 사무회의에서 심의·채택된 「인터넷정보서비스 딥페이크 관리 규정」을 공업정보화부와 공안부의 승인을 받아 공포 하는 바이며 2023년 1월 10일부터 시행한 다. 国家互联网信息办公室主任 庄荣文 국가 인터넷 정보 판공실 주임 좡룽원 工业和信息化部部长 金壮龙 공업정보화부 부장 진좡룽 公安部部长 王小洪 공안부 부장 왕샤오훙 2022年11月25日 2022년 11월 25일 互联网信息服务深度合成管理规定 인터넷정보서비스 딥페이크 관리 규정
为了加强互联网信息服务深度合成管理，弘扬 社会主义核心价值观，维护国家安全和社会公 共利益，保护公民、法人和其他组织的合法权 益，根据《中华人民共和国网络安全法》、 《中华人民共和国数据安全法》、《中华人民 共和国个人信息保护法》、《互联网信息服务 管理办法》等法律、行政法规，制定本规定。
在中华人民共和国境内应用深度合成技术提供 互联网信息服务（以下简称深度合成服务）， 适用本规定。法律、行政法规另有规定的，依 照其规定。
国家网信部门负责统筹协调全国深度合成服务 的治理和相关监督管理工作。国务院电信主管 部门、公安部门依据各自职责负责深度合成服 务的监督管理工作。 地方网信部门负责统筹协调本行政区域内的深 度合成服务的治理和相关监督管理工作。地方 电信主管部门、公安部门依据各自职责负责本 行政区域内的深度合成服务的监督管理工作。
提供深度合成服务，应当遵守法律法规，尊重 社会公德和伦理道德，坚持正确政治方向、舆 论导向、价值取向，促进深度合成服务向上向 善。
鼓励相关行业组织加强行业自律，建立健全行 业标准、行业准则和自律管理制度，督促指导 深度合成服务提供者和技术支持者制定完善业 务规范、依法开展业务和接受社会监督。
任何组织和个人不得利用深度合成服务制作、 复制、发布、传播法律、行政法规禁止的信 息，不得利用深度合成服务从事危害国家安全 和利益、损害国家形象、侵害社会公共利益、 扰乱经济和社会秩序、侵犯他人合法权益等法 律、行政法规禁止的活动。 深度合成服务提供者和使用者不得利用深度合 成服务制作、复制、发布、传播虚假新闻信 息。转载基于深度合成服务制作发布的新闻信 息的，应当依法转载互联网新闻信息稿源单位 发布的新闻信息。
深度合成服务提供者应当落实信息安全主体责 任，建立健全用户注册、算法机制机理审核、 科技伦理审查、信息发布审核、数据安全、个 人信息保护、反电信网络诈骗、应急处置等管 理制度，具有安全可控的技术保障措施。
深度合成服务提供者应当制定和公开管理规 则、平台公约，完善服务协议，依法依约履行 管理责任，以显著方式提示深度合成服务技术 支持者和使用者承担信息安全义务。
深度合成服务提供者应当基于移动电话号码、 身份证件号码、统一社会信用代码或者国家网 络身份认证公共服务等方式，依法对深度合成 服务使用者进行真实身份信息认证，不得向未 进行真实身份信息认证的深度合成服务使用者 提供信息发布服务。
深度合成服务提供者应当加强深度合成内容管 理，采取技术或者人工方式对深度合成服务使 用者的输入数据和合成结果进行审核。 深度合成服务提供者应当建立健全用于识别违 法和不良信息的特征库，完善入库标准、规则 和程序，记录并留存相关网络日志。 深度合成服务提供者发现违法和不良信息的， 应当依法采取处置措施，保存有关记录，及时 向网信部门和有关主管部门报告；对相关深度 合成服务使用者依法依约采取警示、限制功 能、暂停服务、关闭账号等处置措施。
深度合成服务提供者应当建立健全辟谣机制， 发现利用深度合成服务制作、复制、发布、传 播虚假信息的，应当及时采取辟谣措施，保存 有关记录，并向网信部门和有关主管部门报 告。
深度合成服务提供者应当设置便捷的用户申诉 和公众投诉、举报入口，公布处理流程和反馈 时限，及时受理、处理和反馈处理结果。
互联网应用商店等应用程序分发平台应当落实 上架审核、日常管理、应急处置等安全管理责 任，核验深度合成类应用程序的安全评估、备 案等情况；对违反国家有关规定的，应当及时 采取不予上架、警示、暂停服务或者下架等处 置措施。
深度合成服务提供者和技术支持者应当加强训 练数据管理，采取必要措施保障训练数据安 全；训练数据包含个人信息的，应当遵守个人 信息保护的有关规定。 深度合成服务提供者和技术支持者提供人脸、 人声等生物识别信息编辑功能的，应当提示深 度合成服务使用者依法告知被编辑的个人，并 取得其单独同意。
深度合成服务提供者和技术支持者应当加强技 术管理，定期审核、评估、验证生成合成类算 法机制机理。 深度合成服务提供者和技术支持者提供具有以 下功能的模型、模板等工具的，应当依法自行 或者委托专业机构开展安全评估：
深度合成服务提供者对使用其服务生成或者编 辑的信息内容，应当采取技术措施添加不影响 用户使用的标识，并依照法律、行政法规和国 家有关规定保存日志信息。
深度合成服务提供者提供以下深度合成服务， 可能导致公众混淆或者误认的，应当在生成或 者编辑的信息内容的合理位置、区域进行显著 标识，向公众提示深度合成情况：
深度合成服务提供者提供前款规定之外的深度 合成服务的，应当提供显著标识功能，并提示 深度合成服务使用者可以进行显著标识。
任何组织和个人不得采用技术手段删除、篡 改、隐匿本规定第十六条和第十七条规定的深 度合成标识。
具有舆论属性或者社会动员能力的深度合成服 务提供者，应当按照《互联网信息服务算法推 荐管理规定》履行备案和变更、注销备案手 续。 深度合成服务技术支持者应当参照前款规定履 行备案和变更、注销备案手续。 完成备案的深度合成服务提供者和技术支持者 应当在其对外提供服务的网站、应用程序等的 显著位置标明其备案编号并提供公示信息链 接。
深度合成服务提供者开发上线具有舆论属性或 者社会动员能力的新产品、新应用、新功能 的，应当按照国家有关规定开展安全评估。
网信部门和电信主管部门、公安部门依据职责 对深度合成服务开展监督检查。深度合成服务 提供者和技术支持者应当依法予以配合，并提 供必要的技术、数据等支持和协助。 网信部门和有关主管部门发现深度合成服务存 在较大信息安全风险的，可以按照职责依法要 求深度合成服务提供者和技术支持者采取暂停 信息更新、用户账号注册或者其他相关服务等 措施。深度合成服务提供者和技术支持者应当 按照要求采取措施，进行整改，消除隐患。
深度合成服务提供者和技术支持者违反本规定 的，依照有关法律、行政法规的规定处罚；造 成严重后果的，依法从重处罚。 构成违反治安管理行为的，由公安机关依法给 予治安管理处罚；构成犯罪的，依法追究刑事 责任。
本规定中下列用语的含义： 深度合成技术，是指利用深度学习、虚拟现实 等生成合成类算法制作文本、图像、音频、视 频、虚拟场景等网络信息的技术，包括但不限 于：
深度合成服务提供者和技术支持者从事网络出 版服务、网络文化活动和网络视听节目服务 的，应当同时符合新闻出版、文化和旅游、广 播电视主管部门的规定。
本规定自2023年1月10日起施行。
互联网信息服务深度合成管理规定 인터넷정보서비스 딥페이크 관리 규정
2022年11月25日 2022년 11월 25일
国家互联网信息办公室、中华人民共和国工业 和信息化部、中华人民共和国公安部令 （第12号） 국가 인터넷 정보 판공실, 중화인민공화국 공업정보화부, 중화인민공화국 공안부령 (제12호) 《互联网信息服务深度合成管理规定》已经20 22年11月3日国家互联网信息办公室2022年第 21次室务会议审议通过，并经工业和信息化 部、公安部同意，现予公布，自2023年1月10 日起施行。 2022년 11월 3일 국가 인터넷 정보 판공실 2022년 제21차 사무회의에서 심의·채택된 「인터넷정보서비스 딥페이크 관리 규정」을 공업정보화부와 공안부의 승인을 받아 공포 하는 바이며 2023년 1월 10일부터 시행한 다. 国家互联网信息办公室主任 庄荣文 국가 인터넷 정보 판공실 주임 좡룽원 工业和信息化部部长 金壮龙 공업정보화부 부장 진좡룽 公安部部长 王小洪 공안부 부장 왕샤오훙 2022年11月25日 2022년 11월 25일 互联网信息服务深度合成管理规定 인터넷정보서비스 딥페이크 관리 규정
인터넷정보서비스 딥페이크 관리를 강화하고 사회주의 핵심 가치관을 고취하며 국가안보 및 사회 공익을 수호하고 공민과 법인 및 그 밖의 조직의 합법적 권리를 보호하기 위하여 「중화인민공화국 인터넷 보안법」, 「중화 인민공화국 데이터 보안법」, 「중화인민공 화국 개인정보 보호법」, 「인터넷정보서비 스 관리방법」 등 법률 및 행정법규에 따라 이 규정을 제정한다.
이 규정은 중화인민공화국 내에서 딥페이크 기술을 응용해 인터넷정보서비스(이하 "딥페 이크서비스")를 제공하는 데 적용된다. 법률 및 행정법규에서 달리 정하고 있는 경우 해 당 규정을 따른다.
국가 인터넷 통신부서는 국가 딥페이크서비 스의 경영 및 관련 감독·관리 업무를 총괄하 고 조정한다. 국무원 통신 주관 부서, 공안 부서는 각자의 직책에 따라 딥페이크서비스 의 감독·관리를 책임진다. 지역 인터넷 통신부서는 자체 행정구역 내 딥페이크서비스의 경영 및 관련 감독·관리 업무를 총괄하고 조정한다. 지역 통신 주관 부서, 공안 부서는 각자의 직책에 따라 자체 행정구역 내 딥페이크서비스의 감독·관리를 책임진다.
딥페이크서비스의 제공은 법률 및 법규를 준 수하고 사회 공중도덕과 윤리를 존중하며 올 바른 정치 방향, 여론의 방향, 가치관을 견 지하고 딥페이크서비스의 발전을 촉진하여야 한다.
관련 산업 조직이 산업 자율을 강화하고 산 업 표준, 산업 준칙 및 자율 관리제도를 구 축 및 개선하도록 장려하며 딥페이크서비스 의 제공자 및 기술 지원자가 실무규범을 제 정·개선하고 법에 따라 실무를 진행하며 사 회적 감독을 수용하도록 지도한다
어떤 조직이나 개인도 딥페이크서비스를 이 용하여 법률 및 행정법규에서 금지하는 정보 를 제작·복제·배포·전파해서는 아니 되고, 국 가안보 및 이익을 해치고 국가 이미지를 훼 손하며 사회 공익을 침해하고 경제 및 사회 질서를 어지럽히고 다른 사람의 합법적인 권 리를 침해하는 등 법률 및 행정법규에서 금 지하는 활동에 딥페이크서비스를 이용해서는 아니 된다. 딥페이크서비스 제공자 및 고용주는 딥페이 크서비스를 이용하여 허위 뉴스 정보를 제작 ·복제·배포·전파해서는 아니 된다. 딥페이크 서비스를 기반으로 제작·배포된 뉴스 정보를 옮겨 싣는 경우, 법률에 따라 인터넷 뉴스 정보 원고를 쓴 기관에서 배포한 뉴스 정보 를 옮겨 실어야 한다.
딥페이크서비스 제공자는 정보 보안 주체의 책임을 이행하고 고용주 등록, 알고리즘·메 커니즘 검토, 과학 기술 윤리 심사, 정보 공 개 검토, 개인정보 보호, 통신 인터넷 사기 방지, 응급처치 등 관리제도를 구축 및 개선 하며 안전하고 통제 가능한 기술 보장 대책 을 보유하고 있어야 한다.
딥페이크서비스 제공자는 관리 규칙, 플랫폼 규정을 제정 및 공개하고 서비스계약을 완비 하며 법에 따라 관리 책임을 수행하고 딥페 이크서비스 기술 지원자와 고용주가 정보 보 안 의무를 다하도록 명시하여야 한다.
딥페이크서비스 제공자는 휴대전화번호, 주 민등록번호, 통일사회 신용코드 또는 국가 인터넷 신원인증 공공서비스 등의 방식을 기 반으로 법에 따라 딥페이크서비스 고용주에 대한 신원 정보 인증을 실시하여야 하며 실 제로 신원 정보 인증을 하지 않은 딥페이크 서비스 고용주에게는 정보 공개 서비스를 해 서는 아니 된다.
딥페이크서비스 제공자는 딥페이크 내용 관 리를 강화하고 기술 또는 인위적인 방법을 취하여 딥페이크서비스 고용주의 입력 데이 터 및 종합 결과를 검토하여야 한다. 딥페이크서비스 제공자는 불법 및 불량 정보 식별을 위한 특정 데이터베이스를 구축·개선 하고 보관 기준, 규칙 및 절차를 완비하며 관련 네트워크 로그를 기록 및 보관하여야 한다. 딥페이크서비스 제공자는 불법 및 불량 정보 를 발견한 경우 법에 따라 조치하고 관련 기 록을 보관하며 제때에 인터넷 통신 부서 및 관련 주관 부서에 보고하여야 하고 관련 딥 페이크서비스 고용주에 대해 법에 따라 경 고, 기능 제한, 서비스 중단, 계정 폐쇄 등의 조치를 하여야 한다.
딥페이크서비스 제공자는 루머방지시스템을 구축하여야 하며 딥페이크서비스를 이용해 허위 정보를 생산·복제·배포·전파하는 것을 발견한 경우, 즉시 루머 방지 조치를 하여 관련 기록을 보관하고 인터넷 통신 부서와 관련 주관 부서에 보고하여야 한다.
딥페이크서비스 제공자는 고용주 이의 및 대 중 이의 신고 등 편리한 신고 포털을 설치해 처리 절차 및 응답의견 기한을 게시, 제때에 접수·처리하고 처리 결과에 대해 응답의견을 제공하여야 한다.
인터넷 앱스토어 등 응용프로그램 배포 플랫 폼은 업로드 심사, 일상적 관리, 응급처치 등 보안 관리 책임을 이행하고 딥페이크와 같은 응용프로그램의 보안성 평가, 등록 등 상황을 확인하여 관련 국가 규정을 위반하는 경우 즉시 업로드 취소, 경고, 서비스 중단 또는 제거 등의 조치를 하여야 한다.
딥페이크서비스 제공자와 기술 지원자는 훈 련 데이터 관리를 강화하고 훈련 데이터의 보안을 보장하는 데 필요한 조치를 하여야 하며 훈련 데이터에 개인정보가 포함된 경우 개인정보 보호 관련 규정을 준수하여야 한 다. 딥페이크서비스 제공자 및 기술 지원자는 얼 굴, 음성 등 생체 인식 정보의 편집 기능을 제공하는 경우, 딥페이크서비스 고용주가 법 에 따라 편집되는 개인에게 고지하고 별도의 동의를 받도록 안내하여야 한다.
딥페이크서비스 제공자 및 기술 지원자는 기 술 관리를 강화하고 합성류의 알고리즘 생성 메커니즘을 정기적으로 검토, 평가 및 검증 하여야 한다. 深度合成服务提供者和技术支持者提供具有以 下功能的模型、模板等工具的，应当依法自行 或者委托专业机构开展安全评估： 딥페이크서비스 제공자 및 기술 지원자가 다 음과 같은 기능을 가진 모델, 템플릿 등의 툴을 제공하는 경우, 법에 따라 자체적으로 또는 전문 기관에 위탁하여 보안 평가를 진 행하여야 한다.
딥페이크서비스 제공자는 해당 서비스를 사 용해 생성하거나 편집한 정보 내용에 대해 기술적 조치를 하여 고용주의 사용에 영향을 미치지 않는 표시를 추가하고 법률, 행정법 규 및 관련 국가 규정에 따라 로그 정보를 보관하여야 한다.
딥페이크서비스 제공자가 다음과 같은 딥페 이크서비스를 제공하여 대중의 혼동 또는 착 각을 유발할 수 있는 경우, 생성 또는 편집 된 정보 내용의 합리적인 위치나 영역에 명 시하여 대중에게 딥페이크 상황임을 알려야 한다.
딥페이크서비스 제공자가 위 문단의 규정 이 외의 딥페이크서비스를 제공하는 경우, 눈에 띄는 식별 기능을 제공하고 딥페이크서비스 고용주가 눈에 띄는 표시를 할 수 있음을 안 내하여야 한다.
어떤 조직이나 개인도 기술적인 수단을 이용 하여 이 규정 제16조 및 제17조에서 정한 딥페이크 표시를 삭제, 변조 또는 숨길 수 없다.
여론적 속성 또는 사회적 동원력을 지닌 딥 페이크서비스 제공자는 「 인터넷정보서비스 알고리즘 추천 관리 규정」에 따라 등록, 등 록 수속 변경 및 취소를 이행하여야 한다. 딥페이크서비스 기술 지원자는 위 문단의 규 정에 따라 등록, 등록 수속 변경 및 취소를 이행하여야 한다 등록을 완료한 딥페이크서비스 제공자 및 기 술 지원자는 외부로 서비스를 제공하는 웹사 이트, 응용프로그램 등의 눈에 잘 띄는 위치 에 등록번호를 표시하고 정보 공시 링크를 제공하여야 한다.
딥페이크서비스 제공자가 여론적 속성 또는 사회적 동원력을 지닌 새 제품, 새 애플리케 이션, 새 기능을 개발·출시하는 경우, 관련 국가 규정에 따라 보안 평가를 진행하여야 한다.
인터넷 정보 부서 및 통신 주관 부서와 공안 부서는 직책에 따라 딥페이크서비스를 감독 하고 검열하여야 한다. 딥페이크서비스 제공 자 및 기술 지원자는 법에 따라 협조하고 필 요한 기술 및 데이터를 제공하는 등 지원·협 조하여야 한다. 인터넷 통신 부서 및 관련 주관 부서는 딥페 이크서비스에 비교적 큰 정보 보안 위험이 있음을 발견한 경우, 직책과 법률에 따라 딥 페이크서비스 제공자 및 기술 지원자에게 정 보 업데이트, 고용주 계정 등록 또는 그 밖 의 관련 서비스를 중단하도록 요구할 수 있 다. 딥페이크서비스 제공자 및 기술 지원자 는 요구에 따라 조치를 하고 잠재적인 위험 을 시정·제거하여야 한다.
딥페이크서비스 제공자 및 기술 지원자가 이 규정을 위반한 경우 관련 법률, 행정법규의 규정에 따라 처벌하고 심각한 결과를 초래한 경우 법에 따라 엄중히 처벌한다. 공안 기관은 치안 관리를 위반한 행위에 대 하여 법에 따라 치안 관리 처벌을 내리고 범 죄가 성립될 경우 법에 따라 형사책임을 묻 는다.
이 규정에서 사용하는 용어의 뜻은 다음과 같다. 딥페이크 기술은 딥 러닝, 가상현실과 같은 합성류의 알고리즘 생성을 이용해 텍스트, 이미지, 오디오, 비디오, VR 등 인터넷 정보 를 제작하는 기술을 말하며 다음을 포함하되 이에 국한되지 아니한다.
딥페이크서비스 제공자 및 기술 지원자가 온 라인 출판 서비스, 온라인 문화 활동 및 온 라인 시청 프로그램 서비스에 종사하는 경 우, 뉴스 출판, 문화 및 관광, 라디오 텔레비 전 주관 부서의 규정을 준수하여야 한다.
이 규정은 2023년 1월 10일부터 시행한다.