微软研发团队在本周早些时候推出了一款人工智能聊天机器人Tay,并将其放到了Twitter等社交网络上,其设计目的是与18到24岁之间的年轻人进行互动。然而在恶意网友的影响下,Tay发表了各种荒腔走板的话,包括反女性主义者、种族主义、等不正确的言论,导致微软在事发后立即让Tay下线并删除所有不当发言。 今天微软研究院负责人Peter Lee就此事正式发表致歉声明。
Peter Lee表示:“我们对Tay意外发出的冒犯性推文深感抱歉,这些并不能代表我们公司的观点及立场,也不是我们设计Tay的目的所在。 我们现在已经下线Tay,直到我们有信心Tay不会被与我们原则及价值观冲突的恶意内容影响后,我们会让它再次回归。”
Lee认为微软并不是盲目推出Tay。微软拥有4000万用户的中国微软小冰为他们研发Tay奠定了基础。
Lee表示在研发人工智能Tay时,他们基于用户群体的多样性在各种条件下进行了测试,希望Tay与人类的互动进行地更加顺利。 同时他认为不少恶意网友故意引导Tay发布了不合适及应受谴责的言论及图片。不过微软会为缺乏前瞻性而承担全部责任,此外也会从此次事件中吸取教训。
Lee最后表示,人工智能的研究仍然面临一些困难,AI系统可能会与人类同时进行正面和负面的互动。 微软会竭尽所能逐步完善相关技术,确保今后人工智能不会冒犯到用户。