(相关资料图)

近年来，深度合成作为一种人工智能内容合成技术，风头正劲，不少虚拟数字人频频走红网络，但由此产生的“双刃剑”之惑也引发各方关注。“由于‘换脸’等深度合成内容过于‘逼真’，使交互变得虚实难辨，耳听或眼见未必为实，容易滋生安全隐患。”全国政协委员、北京金台律师事务所主任皮剑龙在接受记者采访时表示。

2022年11月25日，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。其中提出，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。《规定》自2023年1月10日起施行。

据了解，深度合成技术是人工智能发展到一定阶段的产物。随着技术的发展，深度合成衍生出包括图像合成、视频合成、声音合成和文本生成等多种技术，广泛应用于新闻传媒、影视制作、娱乐、教育和电子商务等领域。不过，由于操作便捷，成本低廉，深度合成服务容易被不法人员利用，用于制作、复制、传播违法信息，甚至仿用他人身份实施诈骗。

“《规定》在此背景下出台，为划定深度合成服务的‘底线’和‘红线’，维护网络空间良好生态发挥了重要作用。”皮剑龙介绍，对于深度合成技术的监管，此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法规中均有提及，而《规定》则对深度合成内容更有针对性地进行规制，标志着监管部门针对互联网信息内容监管版图进一步细化。

为防止深度合成技术被用于犯罪活动，《规定》对深度合成服务提供者、技术支持者等各方责任义务进行了系统性制度设计，包括算法机制机理审核、信息内容管理、安全评估、从业人员教育培训等。皮剑龙认为，“可以预见，《规定》出台后，对深度合成技术服务提供者将进行更严格的管理和规范，也给普通网民起到了‘防火墙’的作用，让大家的权益免于侵害。”

在皮剑龙看来，法律的生命力在于实施，法律法规只有得到严格执行，才能彰显其权威和价值。“各地网信等部门应强化常态化监管，发现存在较大信息安全风险的，应按照职责依法要求其暂停信息更新、账号注册或其他服务，进一步明确违反《规定》的法律责任，同时加大处罚力度。”

皮剑龙进一步认为，还应强化智能监管平台支撑，加大科技攻关力度，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设。进一步强化科普宣贯工作支撑，配合国家人工智能算法综合治理工作部署，面向互联网企业、重点行业企业和相关管理部门等进行《规定》的宣贯培训。

“治理深度合成服务乱象，除了相关部门提升监管能力外，还需要社会总动员。”皮剑龙表示，企业、社会、网民等多方主体应共同参与，特别是广大网民要主动举报，共同推动深度合成技术的依法、合理、有效使用，促进深度合成服务向上向善，助力营造清朗网络空间，让技术成为方便生活、快乐生活的工具，而不是成为损害人民群众利益的“黑技术”。

（融媒体记者 李敏杰）