涉及人工智能拟人化交互服务管理，国家网信办
作者：bat365在线平台官网日期：2025/12/28 浏览：
国家互联网信息办公室发布《人工智能拟人互动服务管理暂行方案（征求意见稿）》向社会公开征求意见。为促进人工智能拟人交互服务健康发展和规范应用，根据《中华人民共和国民法典》、《中华人民共和国网络安全法》、《中华人民共和国数据安全法》等法律法规，国家互联网信息办公室制定了《暂行人工智能拟人交互服务管理办法》。现向社会公开征求意见。公众可通过以下渠道和方式提出反馈意见： 1、通过电子邮件发送至：[email protected]。 2、将书面意见发送至：国家互联网信息办公室网络管理技术局，无。地址：北京市西城区车公庄大街11号，邮政编码100044，并在信封上注明“人工智能拟人互动服务管理暂行办法征求意见”。反馈截止日期为2026年1月25日。 第一章 总则 国家网信办于2025年12月27日发布的《人工智能拟人互动服务管理暂行办法（征求意见稿）》第一条 促进人工智能和社会保障拟人服务、安全互动权益和社会保障健康发展和规范应用。保障公民、法人和其他组织的合法权益，根据《中华人民共和国民法典》、《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国科学技术法》等法律法规，制定《建议》《中华人民共和国科技进步法》、《人民网安全监管网个人信息保护法》、《人民网安全监管网管理法》。未成年人、《互联网信息服务管理规定》等法律、行政法规。第二条 利用人工智能技术向中华人民共和国境内公众提供模仿人的性格特征、思维方式、沟通方式，通过文字、图像、音频、视频等与人进行情感互动的产品或者服务（以下简称玩具拟人互动服务），适用本办法。法律、行政法规另有规定的，依照其规定。第三条 国家坚持健康发展与依法管理相结合的原则，鼓励科技创新发展拟人互动服务，对拟人互动服务实行包容、审慎、分类、分级管理，防止滥用和失控滥用。第四条 国家网信部门负责协调全国互动拟人化服务的管理和相关管理工作，国务院有关部门按照各自职责负责互动拟人化服务的相关管理和管理工作。地方网信部门负责本行政区域内拟人互动服务的协调管理和相关管理工作。地方有关部门负责本部门广告内拟人互动服务的相关监督管理各部委按照各自职责。第五条 鼓励有关行业组织加强行业自律，建立健全行业标准、行业指南和自律管理制度，指导拟人互动服务提供者（以下简称提供者）制定和完善服务规范，依法提供服务，接受社会监督。第二章 服务细则 第六条 鼓励服务提供者在充分论证安全可靠的基础上，合理拓展应用场景，积极应用于文化传播、老年包容等方面，构建符合社会主义基本价值观的应用生态。第七条 提供、使用拟人互动服务，应当遵守法律、行政法规，尊重社会道德伦理。y，不得从事下列活动： （一）制作、传播危害国家安全、损害国家荣誉和利益、破坏国家统一、进行非法经济活动、散布谣言和社会秩序的内容； （二）形成、传播宣扬淫秽、赌博、暴力、煽动犯罪的内容的； (3) 制作、传播侮辱、诽谤他人、侵犯他人合法权益的内容； （4）提供虚假承诺，严重影响用户行为、损害社会人际关系的； （5）以鼓励、美化、暗示自杀、自残等方式损害用户的身体健康，或者以言语暴力、情绪操纵等方式损害用户的人格尊严和心理健康； （6）通过操纵算法、误导性信息、设置情绪陷阱等方式诱导用户做出非理性决策； (7) 索取、获取机密、敏感信息信息； （八）其他违反法律、行政法规和国家有关规定的行为。第八条 提供者必须落实拟人交互服务安全主体责任，建立健全算法机制审查、技术伦理审查、信息发布审查、网络安全、数据安全、个人信息保护、反电信网络诈骗、基本风险预案、应急处置等管理制度，具备安全可控的技术保障，配备相应的产品用户群体内容和规模管理技术。第九条 提供者应当履行拟人交互服务全生命周期的安全责任，明确设计、运营、升级、服务终止等各阶段的安全要求，保证安全措施与服务功能同步设计和使用，提高安全内生水平，强化安全保障。n 运行阶段的安全监控和风险评估，及时发现并纠正系统偏差，维护网络安全日志问题。提供者应当具备心理健康防护、情感边界引导、成瘾风险防范等安全能力，不得以改变社交互动、控制用户心理、诱发成瘾等为设计目标。 第十条 提供者开展预训练、优化训练等数据处理活动时，必须加强训练数据管理，遵守以下数据使用标准： （一）数据使用标准：体现中华优秀传统文化； （2）对训练数据进行清洗和标记，增强训练数据的透明度和可靠性，防止数据中毒、数据篡改等行为； （3）通过负采样、对抗性训练，增加训练数据的多样性，提高模型生成内容的安全性g等方法； （4）使用合成数据进行模型训练和关键能力优化时，必须对合成数据的安全性进行检查； （五）加强培训数据日常检查，定期升级数据，持续优化产品和服务。 （六）确保训练数据来源合法、可追溯，并采取必要措施确保数据安全，避免数据泄露风险。第十一条 提供者有能力判断用户的身份，并在保护用户个人隐私的基础上，评估用户的情绪以及对产品和服务的期望，发现用户有强烈情绪和成瘾行为的，应当采取必要措施进行干预。提供者必须预设响应模板，如果发现威胁用户生命、健康和财产安全的高危倾向，必须立即发布安慰、鼓励寻求帮助等内容，并提供专业帮助。供应商必须建立应急机制。当用户明确提出自杀或自残等极端情况时，提供商将手动管理对话并及时采取措施联系护理人员和紧急用户联系人。对于未成年人和老年用户，提供者应要求用户在注册过程中填写监护人、紧急联系人等信息。第十二条 提供者应当建立未成年人模式，并向用户提供未成年人模式切换、定期现实提醒、使用时限等个性化安全设置选项。提供者向未成年人提供情感整合服务时，必须取得监护人的明示同意；提供监护人控制功能，监护人可以实时接收安全风险提醒、查看未成年人服务使用汇总信息、设置特定角色屏蔽、限制使用时间、防止充值消费等。具有识别未成年人的能力，如果被识别为疑似未成年人，在该地区为保护用户的个人隐私，必须提供切换到未成年人通道。第十三条 服务提供者应当指导老年人在服务中建立紧急联系人。如果在使用过程中发现老年人生命、健康和安全面临危险，应立即通知紧急联系人，并通过心理社会或紧急救援渠道提供帮助。提供者不得冒充老年用户的亲属或者特定关联人提供服务。第十四条 提供者应当采取数据加密、安全审计、访问控制等措施，保护用户交互数据的安全。除非法律另有规定或未经权利人明确同意，不得向第三方提供用户的联系方式；以未成年人模式收集数据并向第三方提供时，需另行征得监护人同意一个是必需的。提供商必须为用户提供删除联系人数据的选项，用户可以选择删除过去的联系人数据，例如聊天记录。监护人可以要求提供商删除未成年人之前的联系数据。第十五条 除法律、行政法规另有规定或者经用户单独同意外，提供者不得将用户的联系方式、用户的敏感个人信息用于模型训练。提供者处理未成年人个人信息时，必须按照国家有关规定自行或者委托专业机构进行年度合规审计，遵守法律、行政法规的规定。第十六条 提供者必须明确提醒用户，其面对的是人工智能而非自然人。当提供者判定用户过度依赖或成瘾时，或者当用户第一次使用或再次登录时，提供者必须动态rem通过弹窗等方式找到交互内容的用户。专为人工智能而打造。第十七条 用户持续使用拟人互动服务超过2小时的，提供者将通过弹窗等方式动态提醒用户暂停使用服务。第十八条 情感整合服务提供者应当有便捷的退出渠道，不得阻碍用户主动退出。当用户通过人机交互界面或窗口中的按钮、关键字等方式请求退出时，必须及时停止服务。第十九条 提供者因技术故障等原因关闭相关功能或拟人互动服务无法使用的，应当采取提前通知、公开声明等措施妥善处理。第二十条 服务提供者应当健全投诉举报机制，建立便捷的投诉举报机制。投诉举报门户网站，公布处理流程和反馈时限，及时受理、处理并反馈结果。第二十一条 拟人服务有下列情形之一的，必须按照国家有关规定进行安全评估，并向所在地省级网信部门提交评估报告： （一）互动拟人服务功能上线，或者增加相关功能； （2）新技术、新应用的运用导致交互拟人化服务发生重大变化； （三）注册用户数超过100万或月活跃用户数超过10万； （四）在提供拟人互动服务过程中，可能存在影响国家安全、公共利益、个人和组织合法权益或者缺乏安全措施的情况； （五）其他情况由国家网信部门制定。第二十二条 提供者进行安全评估时，应当重点评估以下内容： （一）用户规模、使用时长、年龄结构、群体分布； （二）用户高风险倾向识别、应急响应措施、人工接管； （三）投诉及用户举报及答复； （四）本办法第八条至第二十条的实施情况； （五）自上次安全评估以来主管部门报告或者发现的重大安全隐患的纠正和处理情况； （六）其他需要说明的情况。第二十三条 提供者发现用户存在严重安全风险的，必须采取限制功能、暂停或者终止向用户提供服务等处置措施，保存相关记录，并向有关主管部门报告。第二十四条 互联网应用商店等应用分发平台应当落实安全清单审核、应急响应等日常管理职责，对提供互动拟人化服务的应用进行安全评估和备案审核；对违反国家相关规定的，将立即采取下架、警告、暂停服务、下架等处置措施。第三章监督检查和法律责任第二十五条提供者必须按照《互联网信息服务算法推荐管理规定》办理算法备案和变更、注销备案手续。网信部门应当对备案材料进行年度审核。第二十六条 省网信部门应当按照职责每年对评估报告和审核情况进行书面审查，并进行情况核查。如果发现未按照本办法规定进行安全评估的，责令限期重新审查。认为必要的，应当对供应商进行现场检查和审核。第二十七条 国家网信部门引导和推动人工智能沙盒安全服务平台发展，鼓励提供商接入沙盒平台进行技术创新和安全测试，促进拟人化交互服务安全有序发展。第二十八条 省级以上网信部门和有关主管部门在履行监督管理职责时，发现拟人互动服务存在重大安全风险或者安全事件的，可以约谈拟人互动服务的法定代表人或者主要负责人。提供者按照规定的权限和程序。供应商必须采取必要措施进行纠正，消除风险隐患。提供者应当配合网信部门和有关主管部门依法实施的监督检查，并提供必要的支持和协助。第二十九条 提供者违反本办法规定的，由有关主管部门依照法律、行政法规的规定予以处罚；构成犯罪的，依法追究刑事责任。法律、行政法规没有规定的，由有关主管部门按照职责给予警告、通报批评，责令限期改正；构成犯罪的，依法追究刑事责任。拒不改正或者情节严重的，责令暂停提供相关服务。第四章附加规定A第三十条 本提案下列术语的定义： 人工智能拟人互动服务提供者是指利用人工智能技术提供拟人互动服务的组织和个人。 第三十一条 从事健康、金融、法律等专业领域服务的提供者还必须遵守主管部门的规定。第三十二条 本办法自2026年1月1日起施行。
相关文章
客户经理