微软和 OpenAI 宣布成立一个 200 万美元的基金，以应对人工智能和深度伪造被用于"欺骗选民和破坏民主"的日益增长的风险。今年将有创纪录的 20 亿人参加 50 多个国家的选举，因此人们担心人工智能会对选民产生影响，尤其是那些"认知弱势群体"，他们可能更容易相信自己看到的表面现象。
生成式人工智能（包括 ChatGPT 等大受欢迎的聊天机器人）的兴起导致了一种新的重大威胁，其中涉及人工智能生成的"深度伪造"，其目的是使虚假信息永久化。这些新工具可以广泛使用，任何人都可以制作假视频、照片或高知名度政治实体的音频，但这并没有什么帮助。
就在本周一，印度选举委员会敦促各政党在围绕选举开展的网络宣传活动中避免使用深度伪造和类似的虚假信息。
正是在这一背景下，包括微软和 OpenAI 在内的所有主要科技公司都签署了应对此类风险的自愿承诺，并计划建立一个共同框架，以应对专门为误导选民而制造的深度伪造。
在其他地方，主要的人工智能公司已经开始通过在其软件中引入限制来应对这些风险。例如，Google表示不允许其 Gemini 人工智能聊天机器人回答有关选举的问题，而 Facebook 的母公司 Meta也限制通过其人工智能聊天机器人回答与选举有关的问题。
今天早些时候，OpenAI 为虚假信息研究人员推出了一款新的深度虚假检测工具，旨在帮助识别由其自己的 DALL-E 图像生成器生成的虚假内容，同时它还加入了行业机构内容出处和真实性联盟（C2PA）的指导委员会，该联盟的成员包括 Adobe、微软、Google和英特尔。
新的"社会复原力基金"是这一更广泛的"负责任"人工智能推动力的一部分，微软和 OpenAI 目前正致力于"在选民和弱势群体中进一步开展人工智能教育和扫盲活动"。这将涉及向一些组织发放补助金，其中包括老年人技术服务组织（OATS）、内容真实性联盟（C2PA）、国际民主与选举援助研究所（International IDEA）和人工智能合作伙伴关系（PAI）。
根据微软的说法，这些资助旨在让全社会更好地了解人工智能及其能力。例如，OATS 显然将把赠款用于针对美国 50 岁及以上人群的培训项目，内容涵盖"人工智能的基础方面"。
社会复原力基金的启动只是微软和 OpenAI 致力于应对人工智能扫盲和教育领域的挑战和需求的其中一步，"微软负责技术和企业责任的公司副总裁 Teresa Hutson 在博文中表示。"微软和 OpenAI 将一如既往地致力于这项工作，我们将继续与拥有共同目标和价值观的组织和倡议合作。"