2024年，科技界再次被搅动，我们将被带往哪个方向令人不安
【金色港湾资讯网为您推荐阅读】
界面新闻编辑| 刘海川
人工智能正在改变世界，但它将把我们带向何方却令人不安。 2024年2月16日，科技界再次因这项技术的新发展而震动。 继引领人工智能技术新浪潮的聊天机器人推出后，第一个文本生成视频模型Sora也随之发布。 目前，它可以直接输出基于文字的60秒视频，这足以模糊现实与虚构的界限，再次引发全球热议。
同日，在德国举行的慕尼黑安全会议（MSC）上，人工智能相关行业的20家公司签署了一份自愿协议，承诺打击这一新技术产生欺骗性信息、扰乱全球选举的行为。
联合声明称，签署方包括该领域的主要参与者，如人工智能模型公司、谷歌等，以及可能有助于其传播的社交媒体平台，如X、Meta的母公司和。
值得注意的是另一家流行的人工智能图像生成公司缺席。 截至发稿时，这家总部位于旧金山的初创公司尚未立即回应置评请求。
迄今为止已签署协议的相关公司名单。
2024年是史无前例的选举年，40多个国家超过40亿人将投票。 一家咨询公司的数据显示，今年全球预计将至少举行83场大选，这将成为至少未来24年来规模最大的选举年。
近几周，孟加拉国、巴基斯坦、印度尼西亚等地民众参与投票，美国、俄罗斯、乌克兰、欧洲议会、印度等地也将举行大选。
为防止人工智能新技术产生的虚假信息被用于政治目的，上述20家公司做出了八项具体承诺，包括：合作开发相关开源工具，减少与人工智能相关的欺骗性人工智能生成内容。选举； 寻求检测此类内容的在线传播； 推动教育活动，提高公众防范意识和媒体素养等，培养跨行业抵制此类内容的能力等。
然而，批评人士批评该协议承诺模糊且缺乏强制性约束力。
两党政策中心选举项目高级副主任奥雷认为，协议的措辞“并不像人们想象的那么有力”。
非政府组织公共公民执行副总裁丽莎·吉尔伯特表示，该协议“还不够”。 她认为，为了避免潜在的问题，人工智能公司应该“抑制技术的速度”发展，直到实质性、充分的保障措施到位。 新发布的文森特视频模型让她特别担心。
不过，合作伙伴微软认为，在技术进步问题上，“我们面临的最基本的挑战不是技术本身，而是人性”。 微软总裁布拉德·史密斯在一份声明中表示：“总体而言，最新协议的承诺提高了行业的检测和响应能力，并使不良行为者更难利用法律工具创建误导性内容。”
前数据科学家杰夫艾伦告诉美联社，该协议是“积极的一步”，但他仍然希望社交媒体公司采取其他行动来打击错误信息，例如创建不优先考虑用户参与的内容推荐。 系统。
欧盟委员会副主席维拉·尤罗娃在慕尼黑安全会议上指出，该协议虽然并不全面，但包含“非常有影响力和积极的元素”。 她还敦促政客承担起责任，不要以欺骗性的方式使用人工智能工具。
人工智能干预选举的现象已经出现。
在美国，上个月新罕布什尔州初选投票期间，一些选民报告称收到了模仿美国总统乔·拜登声音的人工智能机器人电话，劝阻他们投票。 这引发了监管和法律方面的阻力，美国一些州立法者起草了法案来监管人工智能生成的政治内容。
在欧洲，斯洛伐克 2023 年 11 月选举前几天，一段人工智能生成的录音冒充了一名候选人，讨论提高啤酒价格和操纵选举的计划。 这段录音在社交媒体上流传后，引发了当局的审查。
政客们也开始使用这项技术与选民沟通。 上周，巴基斯坦举行国民议会选举，该国两位前总理伊姆兰·汗和纳瓦兹·谢里夫双双宣布获胜。 身陷狱中的伊姆兰·汗还用人工智能制作的“真人演讲”视频宣布胜利，引发外界关注。 自入狱以来，伊姆兰·汗一直在使用人工智能合成信息来与选民沟通。
对于这项不断推出的新技术的进展，华夏运通最大的竞争对手表示，新的人工智能技术的应用充满了惊喜和意想不到的影响，“我们预计人工智能系统将在2024年有令人惊讶的用途。这些用途将是开发商没有预料到的。”
股市回暖，先开户抄底买股票！ 智能定投、条件委托、个股雷达……给你>>
海量信息、精准解读，尽在新浪财经APP
