人工智能造假涉及美国总统大选？
据美国媒体近日披露，很多人在上周接到了拜登的“深度造假”电话，电话中使用的是一家人工智能创业公司的技术。“假拜登通话”迅速成为许多美国媒体的热门话题。这再次引发了美国社会对人工智能“深度造假”影响大选可能性的讨论。
模仿拜登的机器人电话录音：在11月保存你的选票很重要。周二（23日）的投票只会让共和党获胜，并让特朗普再次当选为共和党候选人。
上周大选共和党在新罕布什尔州举行初选前，一些选民就接到了这样的电话。白宫新闻秘书卡琳娜·让—皮埃尔22日证实，这通电话是“伪造的，并没有被总统录音”。特朗普竞选团队的发言人也否认与这些电话有任何接触，他说，“这和我们无关。”。
美国媒体近日援引消息人士的话报道称，美国人工智能初创公司Eleven Labs暂时关闭了一名用户的账户。美国语音欺诈检测公司Silence表示，经分析发现，Eleven Labs的技术被用于创建模仿拜登的机器人语音通话录音。“十一验室”发表声明称，将严肃对待人工智能技术的滥用问题，但并未对近日备受关注的“假拜登电话”事件发表评论。
新罕布什尔州总检察长表示，正在对这一事件进行调查，并呼吁选民不要理会这种虚假消息。
OpenAI停用总统候选人模拟聊天机器人账户。
事实上，人工智能已经渗透到了竞选活动中。
不久前，硅谷科技开发人员为民主党总统候选人迪恩·菲利普斯（Dean Phillips，如上图）打造了一款模拟聊天机器人，称用户可以与模仿菲利普斯的人工智能产品对话。本月20日，美国人工智能公司OpenAI表示，已停用该开发商的账户，称这种做法违反了公司禁止在竞选活动中滥用人工智能技术的政策。
“深度伪造”模仿竞选者来欺骗选民。
此前，人工智能产生的虚假信息已经多次干扰美国的政治活动。
去年2月芝加哥市长选举首轮投票前夕，一段候选人保罗·瓦拉斯的视频出现在社交媒体上，他模仿瓦拉斯的声音发表声明，声称“警察可以直接射杀嫌疑人”，并呼吁削减警察经费。
模仿瓦拉斯的机器人录音：人们对这些情况视而不见。
瓦拉斯向社交媒体平台投诉后，社交媒体删除了这段视频，但在被撤下之前，视频已经被观看了数千次。
关于“深度造假”的立法正在慢慢引起人们的关注。
当前，人工智能的兴起推动了各行业的变革与创新，但也引发了人们的诸多担忧。其中，基于人工智能技术的“深度造假”现象受到了广泛关注。“deepfake”指的是对一个人的声音或图像进行的数字化篡改，其目的是造成伤害。这种行为目前不仅出现在美国政坛，还影响到美国娱乐业乃至人们生活的方方面面，引发美国舆论的关注和批评。
美国媒体“微软—NBC”在一份报告中问道，2024年是否会是“深度伪造”的选举年。
去年11月公布的一项民调显示，参与2023年10月调查的美国成年人中，58%认为“人工智能将对2024年美国大选产生影响。”这一数字高于2022年8月增加了5个百分点。
美国网络安全专家克里斯·克雷布斯表示，生成这类内容非常容易。这就是所谓的20秒定律。只需要20秒的一个人的声纹就可以产生这样的内容。我认为执法部门、联邦调查局和司法部长办公室将面临一些挑战。不幸的是，我认为这只是我们将要看到的选举季的冰山一角。
罗伯特·韦斯曼，美国政府监督组织负责人捍卫公共利益》批评说，政治“深度造假”的时刻已经到来，决策者必须尽快采取保护措施，否则将面临选举混乱。“深度伪造”会制造混乱，使欺诈行为永久化。
近日，美国流行歌手泰勒·斯威夫特成为“深度伪造”技术的又一受害者。虚假合成的不雅照片在社交网络上疯狂传播，引发了美国媒体对滥用人工智能技术的质疑。
当被记者问及白宫对这种技术的滥用有多担心时，白宫发言人卡琳娜·让—皮埃尔表示，虽然社交媒体公司在内容管理方面有独立的决策权，我们认为，他们应该在严格执行监管制度，以防止未经个人许可的错误信息和亲密图像的传播中发挥重要作用。可悲的是，我们都知道执法不严对妇女和女孩造成了不成比例的影响。
人工智能技术发展迅速，但美国的相关监管政策和立法却迟迟没有跟进。业内人士指出，技术发展这把“双刃剑”单靠企业自律是无法驾驭的，人工智能技术的滥用迫切需要政府监管。
美国消费者技术协会CEO夏皮罗：政府需要在人工智能领域发挥重要作用，确保设置安全屏障和护栏，让业内人士知道什么可以做，什么不可以做。
2023年10月，拜登签署行政命令，为该国的人工智能安全制定新标准，要求美国人工智能系统的开发者与政府共享其安全测试结果等关键信息，并完善相关标准和测试工具。然而，行政命令缺乏执行效力。
密尔沃基工程学院计算机科学项目主任德里克·赖利指出，政府的行动速度不够快，跟不上正在发生的变化。所以我认为我们不太可能看到有效的监管。
模仿拜登的机器人电话录音：在11月保存你的选票很重要。周二（23日）的投票只会让共和党获胜，并让特朗普再次当选为共和党候选人。
上周大选共和党在新罕布什尔州举行初选前，一些选民就接到了这样的电话。白宫新闻秘书卡琳娜·让—皮埃尔22日证实，这通电话是“伪造的，并没有被总统录音”。特朗普竞选团队的发言人也否认与这些电话有任何接触，他说，“这和我们无关。”。
美国媒体近日援引消息人士的话报道称，美国人工智能初创公司Eleven Labs暂时关闭了一名用户的账户。美国语音欺诈检测公司Silence表示，经分析发现，Eleven Labs的技术被用于创建模仿拜登的机器人语音通话录音。“十一验室”发表声明称，将严肃对待人工智能技术的滥用问题，但并未对近日备受关注的“假拜登电话”事件发表评论。
新罕布什尔州总检察长表示，正在对这一事件进行调查，并呼吁选民不要理会这种虚假消息。
OpenAI停用总统候选人模拟聊天机器人账户。
事实上，人工智能已经渗透到了竞选活动中。
不久前，硅谷科技开发人员为民主党总统候选人迪恩·菲利普斯（Dean Phillips，如上图）打造了一款模拟聊天机器人，称用户可以与模仿菲利普斯的人工智能产品对话。本月20日，美国人工智能公司OpenAI表示，已停用该开发商的账户，称这种做法违反了公司禁止在竞选活动中滥用人工智能技术的政策。
“深度伪造”模仿竞选者来欺骗选民。
此前，人工智能产生的虚假信息已经多次干扰美国的政治活动。
去年2月芝加哥市长选举首轮投票前夕，一段候选人保罗·瓦拉斯的视频出现在社交媒体上，他模仿瓦拉斯的声音发表声明，声称“警察可以直接射杀嫌疑人”，并呼吁削减警察经费。
模仿瓦拉斯的机器人录音：人们对这些情况视而不见。
瓦拉斯向社交媒体平台投诉后，社交媒体删除了这段视频，但在被撤下之前，视频已经被观看了数千次。
关于“深度造假”的立法正在慢慢引起人们的关注。
当前，人工智能的兴起推动了各行业的变革与创新，但也引发了人们的诸多担忧。其中，基于人工智能技术的“深度造假”现象受到了广泛关注。“deepfake”指的是对一个人的声音或图像进行的数字化篡改，其目的是造成伤害。这种行为目前不仅出现在美国政坛，还影响到美国娱乐业乃至人们生活的方方面面，引发美国舆论的关注和批评。
美国媒体“微软—NBC”在一份报告中问道，2024年是否会是“深度伪造”的选举年。
去年11月公布的一项民调显示，参与2023年10月调查的美国成年人中，58%认为“人工智能将对2024年美国大选产生影响。”这一数字高于2022年8月增加了5个百分点。
美国网络安全专家克里斯·克雷布斯表示，生成这类内容非常容易。这就是所谓的20秒定律。只需要20秒的一个人的声纹就可以产生这样的内容。我认为执法部门、联邦调查局和司法部长办公室将面临一些挑战。不幸的是，我认为这只是我们将要看到的选举季的冰山一角。
罗伯特·韦斯曼，美国政府监督组织负责人捍卫公共利益》批评说，政治“深度造假”的时刻已经到来，决策者必须尽快采取保护措施，否则将面临选举混乱。“深度伪造”会制造混乱，使欺诈行为永久化。
近日，美国流行歌手泰勒·斯威夫特成为“深度伪造”技术的又一受害者。虚假合成的不雅照片在社交网络上疯狂传播，引发了美国媒体对滥用人工智能技术的质疑。
当被记者问及白宫对这种技术的滥用有多担心时，白宫发言人卡琳娜·让—皮埃尔表示，虽然社交媒体公司在内容管理方面有独立的决策权，我们认为，他们应该在严格执行监管制度，以防止未经个人许可的错误信息和亲密图像的传播中发挥重要作用。可悲的是，我们都知道执法不严对妇女和女孩造成了不成比例的影响。
人工智能技术发展迅速，但美国的相关监管政策和立法却迟迟没有跟进。业内人士指出，技术发展这把“双刃剑”单靠企业自律是无法驾驭的，人工智能技术的滥用迫切需要政府监管。
美国消费者技术协会CEO夏皮罗：政府需要在人工智能领域发挥重要作用，确保设置安全屏障和护栏，让业内人士知道什么可以做，什么不可以做。
2023年10月，拜登签署行政命令，为该国的人工智能安全制定新标准，要求美国人工智能系统的开发者与政府共享其安全测试结果等关键信息，并完善相关标准和测试工具。然而，行政命令缺乏执行效力。
密尔沃基工程学院计算机科学项目主任德里克·赖利指出，政府的行动速度不够快，跟不上正在发生的变化。所以我认为我们不太可能看到有效的监管。