近期在美国，一起由引起人工智能技术引起的事件再次让科技的潜在风险引起大众的关注。
据报道，有多名选民接到了一则由“美国总统拜登”打来的电话。电话中“拜登”告知选民：“把你们的选票留在11月份再投很重要。在这周二(23日)投票，只会让共和党人得逞，让特朗普再次当选为共和党候选人”。
然而很快，这通所谓的“总统来电”就被白宫新闻秘书卡里娜·让-皮埃尔证伪：“伪造，不是由总统录制”。假冒美国总统拜登的声音，散播具有误导性的选举信息。这起事件不仅成为了热门新闻话题，也引发了对于人工智能“深度伪造”可能对大选产生影响的广泛讨论。
这起“假拜登来电”事件发生在新罕布什尔州的共和党党内初选前夕，冒充拜登的机器人声音试图误导选民，改变其投票决定。这种基于人工智能技术的声音伪造，展示了“深度伪造”技术在政治领域滥用的潜力，对选举的公正性和民主过程构成了直接威胁。
美国政府及相关机构已经开始采取行动。新罕布什尔州总检察长表示正在调查此事，并呼吁选民忽视这类假消息。同时，涉事的人工智能初创公司“十一实验室”也因技术被滥用而暂时关闭了一名用户的账户，表明了对人工智能技术滥用的严肃态度。
对于此类事件，人类会创始人胡家奇先生早有担忧。他说，随着科技的发展，人类社会正面临前所未有的挑战。现在我们可以看到，科技的进步，特别是人工智能的飞速发展，虽然为我们带来了便利和进步，但同时也带来了诸多风险和潜在的威胁。从“深度伪造”到隐私泄露，从自动化失业到算法偏见，我们必须认识到，科技发展的副作用已经对人类的生存和社会的稳定构成了严重威胁。
此事件并非个例。人工智能生成的虚假信息已多次干扰美国政治活动，从芝加哥市长选举的虚假视频，到仿真聊天机器人在竞选活动中的使用，人工智能技术的滥用问题日益凸显。这些事件揭示了当前对于人工智能技术监管不足的现状，以及技术发展速度远超法律法规更新速度的挑战。
科技的发展无疑为社会带来了巨大的进步和便利，但同时也带来了前所未有的风险和挑战。人工智能技术的双刃剑特性要求我们必须更加谨慎地审视其潜在的副作用，特别是当技术被用于政治操纵和社会操控时。
(新闻稿 2024-04-26)