娱法游理Vol.12

• 数据安全风险

• 著作权侵权风险

• 深度伪造风险

• 商业秘密泄露风险

• 违法信息传播风险

• 遵循数据安全及个人信息保护相关法律法规

• 加强企业版权管理

• 加强内容审查及内容过滤

• 模型研发训练过程中收集、存储和使用数据，
• 深度合成服务技术/算法，以及
• 人工干预和内容生成。

• 密切关注人工智能合规方面的监管动态，及时与监管进行沟通并依照相关规定履行经营许可/备案、算法备案、安全评估等手续，确保运营合规；
• 建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置、人工干预、用户自主选择等管理制度，具备安全可控的技术保障措施；
• 及时建立规范、有效的网络安全管理制度和数据隐私保护政策，并指定专人负责相关制度的内部执行及监督，有条件的情况下，应聘请数据法律专业人员进行自查自检；
• 在产品发布前，聘请专业人士协助制定周密的产品政策、用户协议；
• 在合法合规的前提下，谨慎使用境外模型、技术和软件。

• 公司的外资属性。考虑到AIGC天然具有舆论属性和社会动员能力以及其在军事领域的潜在应用价值，我们预计未来AIGC或者其某些细分领域可能会面临外商投资的限制；
• 公司的关键技术是否依赖境外的技术输入。考虑到未来可能出现的境外相关技术的出口限制和投资限制，如果公司在剥离境外技术后无法独立运营，将严重影响公司的估值和投资人的权益；
• 公司与算力供应商之间的商业安排，特别是模型层的从业公司。比如，应重点关注SLA（即Service Level Agreement）中关于公司持续稳定地使用算力资源、知识产权归属、网络和数据安全等相关约定，以及该等约定对公司业务的潜在影响；
• 公司核心知识产权以及know how的权属和保护措施；
• 核心员工的国籍和劳动合同；以及
• 公司业务模式的潜在刑事风险。

• 高度技术化：高质量、高仿真的深度合成技术需要大量的专业技术人员和专业工具参与；
• 应用领域广：高度仿真能力的深度合成技术已经广泛应用在影视、娱乐、教育、医疗、社交、电商、内容营销、艺术创作、科研等诸多领域中；
• 发展潜力大：随着深度合成技术工具的不断发展，深度合成内容的应用规模和使用范围也变得更大，内容的说服力也更强。

• 《恶意深度伪造禁止法案（Malicious Deep Fake Prohibition Act of 2018）》，该法案规定，为引发联邦法、各州法或地方法所规定的犯罪和侵权行为而制作深度伪造内容者，以及在明知有关视听记录内容为深度伪造的前提下，为引发联邦法、各州法或地方法所规定的犯罪和侵权行为而分发该视听记录内容者，将面临罚款及高达2年监禁的刑事责任；如果前述行为导致联邦、各州或地方，包括选举、外交关系处理在内的任何行政、司法及立法程序遭受影响的，或者出现煽动暴力的情况的，违法者还面临罚款及高达10年监禁的刑事责任。

• 《深度伪造报告法案（Deepfake Report Act of 2019）》，该法案要求国土安全部以深度合成技术、种类及其演变情况，深度学习技术成果的应用场景、风险及益处，美国非政府组织将如何使用深度伪造技术，外国政府利用深度伪造技术对美国国家安全及个人权益所可能造成损害，以及应对深度伪造技术的策略等内容为主题，在本法案生效后一年内出具报告，并在此后以5年为频率再度提供报告。
• 《深度伪造责任法案 （Deep Fakes Accountability Act）》，该法案要求任何创建深度伪造视频媒体文件的人，必须用“不可删除的数字水印以及文本描述”，对相关媒体文件属于篡改或生成的这一情况进行披露，违反者将面临罚款、最高五年监禁或两者并用的刑事责任。
• 《识别生成对抗网络法案（Identifying Outputs of Generative Adversarial Networks Act））》指示美国国家科学基金会和美国国家标准与技术研究院，为可对生成对抗网络或其他合成操纵技术所输出的内容和信息的真实性进行检查、验证的技术工具的相关研究进行支持。
• 《2018-2020财年情报授权法 （Intelligence Authorization Act for Fiscal Years 2018, 2019, and 2020）》指示国家情报总局通过举办相关竞赛计划并颁发奖项的方式，刺激与鼓励那些用于检测机器学习技术所创建的虚假音视频的技术的研究、开发及商业化进程。
• 《2020财年国防授权法案（National Defense Authorization Act For Fiscal Year 2020）》则要求国家情报局负责人在该法案生效后的180日内，就潜在的影响国家安全的深度伪造技术、以及为外国用以实施传播虚假信息等恶意行为的深度伪造技术的潜在与实际影响，向国会情报委员会进行汇报；此外，该法令还指示以实施技术竞赛并提供奖励的方式，刺激深度伪造技术监测工具的进一步开发与商业化。

• 《人工智能法案（Artificial Intelligence Act）》，该法案规定，对于生成的或操作的、与真实内容明显相似的图像、音频或视频内容，提供者应有义务披露该内容是通过自动方式生成的。
• 《应对线上虚假信息：欧洲方案（Tackling online disinformation: a European Approach）》，该意见总体上提出改进信息来源及提供信息传播透明性的目标，并强调了假新闻和虚假信息对各级政府构成共同威胁，总体上鼓励政府开展媒体素养运动，以防止假新闻和虚假信息的传播。
• 《欧盟通用数据保护条例（General Data Protection Regulation）》，从原则上禁止处理可以识别自然人的生物数据，除非是获得个人关于在特定处理目的下的明确同意等其他法定基础。[27]并且，数据主体有权获得关于自动化决策所得出决定的解释性说明。

• 标识不应当影响用户使用：深度合成服务提供者对使用其服务所制作的深度合成信息内容，应当通过有效技术措施在信息内容中添加不影响用户使用的标识，依法保存日志信息，使发布、传播的深度合成信息内容可被自身识别、追溯。
• 使用显著方式进行标识或提供进行标识的功能：首先，对生成或者显著改变信息内容的深度合成信息内容，如智能对话、智能写作、合成人声、仿声、人脸生成、人脸替换、人脸操控、姿态操控等虚拟人物图像、视频、沉浸式拟真场景应当使用显著方式进行标识，向社会公众有效提示信息内容的合成情况；其次，对其他深度合成信息内容，应当提供进行显著标识的功能，并提示使用者可以自行标识。
• 停止传输未标识的信息内容：深度合成服务提供者发现深度合成信息内容未进行显著标识的，应当立即停止传输该信息，按照规定作出显著标识后，方可继续传输。

• 深度合成信息内容审核，即采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。
• 建立违法内容特征库，即建立健全用于识别违法和不良深度合成信息内容的特征库，并完善入库标准、规则和程序。
• 采取违规处置措施，即对违法和不良信息依法采取相应处置措施，并对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。

• 提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、社会公共利益的模型、模板等工具的；
• 开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的。

• 对于备有法团印章的公司，使用法团印章程序必须按照公司章程规定办理。（例如：部分香港公司的章程会要求须至少两位董事签署或一位董事及公司秘书共同签署或出具董事会决议后，方可加盖法团印章）。如果对方公司采用法定范本[ 香港以立法形式提供了一份标准章程范本——新公司条例第622H章《公司（章程细则范本）公告》。]，使用法团印章时，除盖章行为外，还需两名董事签字，或者一名董事及一名公司秘书[ 公司秘书指的是一个公司的高管职位，如果由个人担任，则必须经常居住在香港；如果由法人担任，则必须是一家香港公司。]签字，或者一名董事及一名董事授权的人签字。法团印章的使用应记录在册。
• 对于没有法团印章的公司或有法团印章但未加盖的，则由两名董事签字或一名董事加公司秘书签字（如果公司有两名或以上董事），或一名董事代表公司签字（如果公司只有一名董事），然后在文件中说明是由有关公司签立的文件具有效力，这样做就如同已加盖法团印章一样。

• 通过公司的“周年申报表（annual return）”核查签字人是否公司董事，或
• 核查公司是否有授权该人签字的董事会决议或授权书。