人工智能语音生成器正被用于助长一种古老的骗局，现在又骗走了一名居住在加利福尼亚州的老人 25000 美元的积蓄。 这位被称为安东尼（Anthony）的老人拒绝透露自己的姓氏，他说自己接到了儿子打来的电话，儿子声称自己出了车祸，急需资金，因为他撞到了一名孕妇。 由于使用的语音伪造技术发展迅速，安东尼确信电话那头是自己的儿子。
整个事件的起因是，安东尼被告知他的儿子似乎出了车祸，而上述那位女士不得不被紧急送往医院。 在第一个电话之后，第二个电话是安东尼儿子的律师迈克尔-罗伯茨打来的，他说他儿子的保释金需要 9200 美元。 如果不支付这笔钱，他儿子将被关押 45 天。 为了核实儿子是否真的出了车祸，安东尼试着给他打电话，但电话一直转到语音信箱。
由于担心情况不妙，安东尼匆忙赶到银行，告诉金融机构这笔钱是安装太阳能电池板所需的，以避免引起怀疑。 到家后，据 ABC7 新闻报道，有人让他的女儿给迈克尔·罗伯茨打电话。 电话那头的人说会有人通过 Uber 过来取钱。 这笔钱被装在一个信封里，交给了 Uber 司机。
不久后，安东尼又接到一个名叫马克-科恩的人打来的电话，他是另一名律师，说被安东尼儿子撞倒的孕妇因伤势过重不治身亡，导致保释金从 1.58 万美元上升到 2.5 万美元。 整个过程反复进行，结束后，他们一家都意识到自己被骗了。
他们上当的最大原因是安东尼告诉当局，电话中的人听起来和他儿子一模一样。 洛杉矶警察局警探切尔西-赛格（Chelsea Saeger）说，这类骗局并不新鲜，人工智能语音生成器的加入让家庭成员很容易上当。 发送给这些人的电话和通知也显得异常逼真。
"骗子们变得越来越聪明和老练。 他们利用社交媒体和技术来编造这些非常可信和令人信服的故事，人们真的会相信他们是在和孙子或政府官员通话。"
安东尼说，他为这个故事感到难堪，但他强烈希望成千上万的人能够得到这个信息，不要成为这些正在发生的骗局的受害者。 作为提醒，人们应该提高对这些邪恶活动的认识，因为人工智能语音生成器只会随着时间的推移而不断改进，从而模糊假冒与真实之间的界限。 可以理解的是，安东尼是迫于压力才上当受骗的，因为他的儿子在接到电话后没有回应，这就要求其他家庭成员对此类事件保持警惕。