《互联网信息服务深度合成管理规定》明年一月十日起施行 “深度合成”非“法外之地”

  2023-01-03 11:51:44


(相关资料图)

近年来,深度合成作为一种人工智能内容合成技术,风头正劲,不少虚拟数字人频频走红网络,但由此产生的“双刃剑”之惑也引发各方关注。“由于‘换脸’等深度合成内容过于‘逼真’,使交互变得虚实难辨,耳听或眼见未必为实,容易滋生安全隐患。”全国政协委员、北京金台律师事务所主任皮剑龙在接受记者采访时表示。

2022年11月25日,国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》)。其中提出,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。《规定》自2023年1月10日起施行。

据了解,深度合成技术是人工智能发展到一定阶段的产物。随着技术的发展,深度合成衍生出包括图像合成、视频合成、声音合成和文本生成等多种技术,广泛应用于新闻传媒、影视制作、娱乐、教育和电子商务等领域。不过,由于操作便捷,成本低廉,深度合成服务容易被不法人员利用,用于制作、复制、传播违法信息,甚至仿用他人身份实施诈骗。

“《规定》在此背景下出台,为划定深度合成服务的‘底线’和‘红线’,维护网络空间良好生态发挥了重要作用。”皮剑龙介绍,对于深度合成技术的监管,此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法规中均有提及,而《规定》则对深度合成内容更有针对性地进行规制,标志着监管部门针对互联网信息内容监管版图进一步细化。

为防止深度合成技术被用于犯罪活动,《规定》对深度合成服务提供者、技术支持者等各方责任义务进行了系统性制度设计,包括算法机制机理审核、信息内容管理、安全评估、从业人员教育培训等。皮剑龙认为,“可以预见,《规定》出台后,对深度合成技术服务提供者将进行更严格的管理和规范,也给普通网民起到了‘防火墙’的作用,让大家的权益免于侵害。”

在皮剑龙看来,法律的生命力在于实施,法律法规只有得到严格执行,才能彰显其权威和价值。“各地网信等部门应强化常态化监管,发现存在较大信息安全风险的,应按照职责依法要求其暂停信息更新、账号注册或其他服务,进一步明确违反《规定》的法律责任,同时加大处罚力度。”

皮剑龙进一步认为,还应强化智能监管平台支撑,加大科技攻关力度,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设。进一步强化科普宣贯工作支撑,配合国家人工智能算法综合治理工作部署,面向互联网企业、重点行业企业和相关管理部门等进行《规定》的宣贯培训。

“治理深度合成服务乱象,除了相关部门提升监管能力外,还需要社会总动员。”皮剑龙表示,企业、社会、网民等多方主体应共同参与,特别是广大网民要主动举报,共同推动深度合成技术的依法、合理、有效使用,促进深度合成服务向上向善,助力营造清朗网络空间,让技术成为方便生活、快乐生活的工具,而不是成为损害人民群众利益的“黑技术”。

(融媒体记者 李敏杰)