联邦贸易委员会打击人工智能冒充骗子

周四，联邦贸易委员会(Federal Trade Commission)最终确定了一项新规定，将保护范围扩大到政府和商业模仿，以帮助遏制骗局，并就一项涵盖人工智能产生的针对个人的骗局的拟议规则征求公众意见，

在该机构采取行动之前，越来越多的人抱怨生成式机器学习软件创造了模仿个人的合成内容。这些范围从图像和视频的深度伪造到人工音频和语音克隆，以及其他形式的内容。

联邦贸易委员会正在就如何评估那些提供创建和部署此类内容的工具的公司的责任征求反馈意见。

“欺诈者正在使用人工智能工具以惊人的精度和更大的规模冒充个人。随着语音克隆和其他人工智能驱动的骗局的增加，保护美国人免受假冒欺诈比以往任何时候都更加重要，”联邦贸易委员会主席莉娜·汗说。“我们提议扩大最终的冒充规则，就能做到这一点，加强联邦贸易委员会的工具包，以解决利用人工智能冒充个人的骗局。”

根据一项将在未来几周生效的规定，联邦贸易委员会禁止冒充企业和政府机构。根据美国联邦贸易委员会周四发表的一篇博客文章，该规定“禁止了一些欺诈者最喜欢的冒充手段”，包括使用政府印章、商业标志、电子邮件地址欺骗等等。

与此同时，公平交易委员会希望将其权限扩大到包括人工智能和机器学习软件制作的内容。

值得注意的是，这条额外的规则不仅适用于骗子本身;它还针对那些提供“手段和工具”来实施假冒骗局的演员。在公开评论中，一些科技行业协会对在不更明确的情况下强加第三方责任持怀疑态度，但评论人士普遍支持，应该有一些权力追究用于生成欺诈内容的技术工具的供应商。

该委员会投票决定对“那些明知或有理由知道这些商品或服务将被用于仿冒的人”施加责任，而这些仿冒行为本身根据该规则是非法的。

联邦贸易委员会官员在一份声明中写道:“鉴于人工智能欺诈的扩散，这种额外的保护似乎尤为重要。”“确保上游行为者处于阻止非法使用其工具的最佳位置，而不是免于承担责任，将有助于使责任与能力和控制相一致。”