logo

热点关注!七部门联合发文促进生成式人工智能健康发展和规范应用

来源:淘丁集团

近日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下简称《办法》),自今年8月15日起施行。

国家网信办有关负责人表示,出台《办法》,旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

采取有效措施鼓励生成式人工智能创新发展

作为关键通用技术,生成式人工智能对人民福祉、经济发展、国家安全和战略竞争均具有重要意义。国家网信办有关负责人说,《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展。

《办法》第一条开宗明义将“促进生成式人工智能健康发展和规范应用”作为目标,第三条进一步阐明:“国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管”。

“《办法》立足于促进生成式人工智能健康发展和规范应用,除了在总则中明确了国家坚持发展和安全并重、促进创新和依法治理相结合的原则外,在‘技术发展与治理’一章中专门提出了一系列鼓励措施。”中国信息通信研究院政策与经济研究所所长辛勇飞说。

第五条规定,鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

第六条规定,鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新,平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享,提升算力资源利用效能。

热点关注!七部门联合发文促进生成式人工智能健康发展和规范应用插图

划定底线,推动生成式人工智能向上向善

生成式人工智能技术的快速发展,为经济社会发展带来新机遇的同时,也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。对此,国家网信办有关负责人说:“《办法》坚持目标导向和问题导向,明确了促进生成式人工智能技术发展的具体措施,规定生成式人工智能服务的基本规范。”

《办法》对生成式人工智能服务提供者和使用者提出了要求:

——应当遵守法律、行政法规,尊重社会公德和伦理道德。

《办法》在总则中就将该内容置于重要地位,明确规定,坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容。

——尊重知识产权和他人合法权益。

生成式人工智能在个人信息的处理过程中,可能存在违法收集、使用个人信息等风险;生成式人工智能的训练数据中如包括他人已发表并享有著作权的作品,也可能给知识产权造成侵害。

为防止侵权的发生,《办法》第四条规定,尊重知识产权、商业道德,保守商业秘密,不得利用算法、数据、平台等优势,实施垄断和不正当竞争行为;尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。第七条规定“涉及知识产权的,不得侵害他人依法享有的知识产权”等内容。

——提高生成内容准确性和可靠性。

如何保障生成内容的真实性,既是产业界为进一步扩大生成式人工智能商用范围需要克服的技术难题,也是监管部门需要重点考虑的问题。对此,《办法》规定:“基于服务类型特点,采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。”

——完善处置措施。

除了规定相关实体义务,还需要使生成式人工智能服务提供者完善处置措施,这样才能让“纸上”的规定落到实处。对此,《办法》明确:“提供者发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施,采取模型优化训练等措施进行整改,并向有关主管部门报告。”“提供者应当建立健全投诉、举报机制,设置便捷的投诉、举报入口,公布处理流程和反馈时限,及时受理、处理公众投诉举报并反馈处理结果。”

采取更精细化监管举措

生成式人工智能具有此前技术不具有的诸多特征。针对其技术特点,《办法》完善了与创新发展相适应的科学监管方式,促使监管部门采取更精细化的管理措施,实现技术创新与监管创新的同步演化、协同共振。

辛勇飞介绍,人工智能算法具有“黑箱”特性,表现为行为不可控、决策机制难以解释,给人工智能监管带来了一定困难。为此,《办法》与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等现有规范一脉相承,延续了此前监管手段,同时明确了分类分级监管的原则,健全了我国人工智能治理体系。一是明确了安全评估与算法备案要求。为有效应对算法“黑箱”问题,《办法》明确,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。二是明确了信息披露要求。《办法》明确规定,有关主管部门依据职责对生成式人工智能服务开展监督检查,提供者应当依法予以配合,按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明,并提供必要的技术、数据等支持和协助。

针对生成式人工智能的其他技术特点,《办法》也作出了规定。例如,第七条即充分考虑到训练数据的海量性和异质性,规定生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动……采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性。

此外,《办法》还针对相关产业特点,鼓励其发展。《办法》规定:“鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系”,“鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新,平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定”等。

来源:中国文明网