美国证券交易委员会(SEC)主席加里·根斯勒(Gary Gensler)周三警告称,太多的券商和基金经理过度使用同类人工智能(AI)系统,可能会为未来的动荡埋下伏笔。他在接受采访时表示,如果市场参与者“都依赖同样的模型、同样的算法、同样的数据”,未来可能会发生金融危机。
他此前就曾警告过,金融公司和投资者都使用相同的AI工具是存在风险的,这可能会在市场上产生“羊群效应”,当群体或机构都做同样的事情或依赖同样的工具,而不是独立行动时,就会出现这种情况。
“如果你让大部分市场依赖于一个数据集,那么你可能会出现金融不稳定……羊群效应可能会让我们无意中掉下悬崖。”他当时说。
根斯勒是一名电影迷,他在最新采访中把这种风险比作电影《她》(Her)中出现的人工智能机器人。在这部电影中,斯嘉丽·约翰逊(Scarlett Johansson)饰演的人工智能系统OS1“化身”萨曼莎的离去,令其数千名恋人心碎。
根斯勒说,“我不希望这种情况发生在金融领域。”
他说,这项技术确实有创新的希望,也有更多进入金融市场的机会,但仍需要确保算法的多样性,并防范欺诈。
今年7月,他也曾表示,与历史上的诸多变革时期一样,AI也会对社会总体带来宏观挑战。其中一个或者少数几个AI平台可能成为市场主导的可能性,带来了潜在的金融稳定风险。
“由于单个市场参与者更有可能从基础模型中得到相同的信号,这有可能促进群体行为,并增加了金融的脆弱性。”他说。
美国证监会在2023年提出了一项提案,要求经纪商和投资顾问在使用人工智能工具时减少利益冲突,因为人工智能工具可能把他们的利益置于客户之上。根斯勒此前曾表示,在首轮评估之后,SEC的工作人员仍在努力重写该规则。
根斯勒此前表示,SEC对于技术持有中立的态度——关注的是结果,而不是工具本身。SEC将在职权范围内,致力于防止前面所讨论的微观和宏观挑战,也有可能因此修改《证券法》。
不过整体而言,他相信人工智能是这个时代最具变革性的技术,与互联网和汽车大规模生产可以相提并论。