对生成式人工智能服务分类分级监管

　　近日，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》（简称《办法》），在促进生成式人工智能发展的同时，对传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题作出回应。近年来生成式人工智能技术快速发展，为经济社会发展带来新的机遇，也产生了诸多问题。《办法》对提供和使用生成式人工智能服务作出规范，鼓励其创新发展，同时实行包容审慎和分类分级监管。《办法》自2023年8月15日起施行。

　　1 使用生成式AI服务不得侵害他人肖像权

　　《办法》将利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等内容的服务，纳入规定范围，统称为生成式人工智能服务，并提出五点总体要求。

　　其中提到，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。

　　此外还包括，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

　　《办法》提出对生成式人工智能服务实行包容审慎和分类分级监管。要求国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

　　2 应对未成年人用户采取措施“防沉迷”

　　在生成式人工智能服务的两端，分别是服务的提供者和使用者。《办法》要求，提供者应当与使用者签订服务协议，明确双方权利义务。

　　比如提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

　　提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。同时，对违法内容应当及时采取停止生成、停止传输、消除等处置措施。

　　3 提供者不得收集非必要个人信息

　　《办法》多处提及个人信息保护问题。如规定提供者在开展预训练、优化训练等训练数据处理活动时，涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。

　　提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

　　此外，提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

　　在监督检查环节，《办法》还规定，参与安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当保密，不得泄露或者非法向他人提供。

　　4 鼓励平等互利开展国际交流与合作

　　在促进发展具体措施上，《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

　　同时鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。

　　此外，《办法》提出推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

　　新京报记者 姜慧梓