“深度合成”有了新规 人脸识别、元宇宙等领域影响大

近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(简称《规定》)，自2023年1月10日起施行。其中，《规定》明确了提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。
 
　　何为深度合成技术？
 
　　深度合成技术，主要是指利用深度学习、内容合成、虚拟现实、人脸合成、语音合成等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不仅限于文本风格转换、问答对话、文本转语音、语音转换、场景声编辑、人脸操控、人脸替换、人脸操控、图像生成、数字仿真、编辑数字人物和虚拟场景等等。
 
　　换句话来说，对于从事元宇宙、人脸合成、虚拟场景等相关深度合成服务的创业公司来说影响较大，如深度合成服务提供者应当落实信息安全主体责任，建立算法机制机理审核、信息发布审核、数据安全、个人信息保护、反电信网络诈骗等管理制度，具有安全可控的技术保障措施；深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核等。
 
　　规定明确哪些内容？
 
　　《规定》总共有“五章二十五条”，主要明确在中华人民共和国境内应用深度合成技术提供互联网信息服务(简称深度合成服务)，适用本规定。法律、行政法规另有规定的，依照其规定。提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。
 
　　另外，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。
 
　　在第三章数据和技术管理规范中，《规定》明确深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。与此同时，深度合成服务提供者和技术支持者还应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。
 
　　深度合成服务提供者提供“五大”深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况，如智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；沉浸式拟真场景等生成或者编辑服务以及其他具有生成或者显著改变信息内容功能的服务。
 
　　显而易见，新规明显提高了合规要求和合规成本，因此，对于提供深度合成服务的创业公司来说影响可能较大。有行业人士称，《规定》虽然目前只做了相对宽泛的限制，但是至少未来有不法分子利用人工智能(AI)从事不法行为时可以有法可依、有据可依。
 
　　强化个人“隐私保护”
 
　　随着人工智能(AI)技术的深入发展与融合应用，为人们带来智能、便捷、新场景体验的同时，也给一些不法分子提供了可乘之机。例如基于深度合成技术的“AI换脸”广泛出现在应用软件、短视频平台及社交媒体平台。仅需上传照片，就能在线体验百变换装、性别转换，乃至预测和伴侣未来孩子的长相。如不加以合规使用，可能会侵害社会交往的基础信任，损害公众的名誉权、荣誉权等，进而影响到传播秩序和社会秩序。
 
　　《规定》出台之后，未经他人同意情况下，人工智能模型的训练不能随意使用未经同意的人脸、声音等带有生物特征的数据，使用他人照片进行AI换脸内容制作将是违规行为。《规定》中对于人脸、声音等生物特征信息的使用提出明确的前提条件，一定程度上可以解决这个问题。
文章链接：智慧城市网 https://www.afzhan.com/news/detail/90697.html