你见过亚洲人和白人在一起吗，无论是混血儿还是不同种族的朋友？在我看来这很常见--我有很多白人朋友！但对于 Meta 的人工智能图像生成器来说，这显然是无法想象的。我尝试了几十次，用"亚裔男子和高加索朋友"、"亚裔男子和白人妻子"、"亚裔女子和高加索丈夫"等提示语创建图片。只有一次，Meta 的图像生成器能准确返回我指定种族的图像。
调整文字提示似乎也无济于事。当我要求"亚洲男人和白人女人带着一只狗微笑"时，Instagram 上的 Meta 文本生成器给了我三张两个亚洲人背对背的照片。当我把"白人"改为"高加索人"时，它也给出了同样的结果。"婚礼上的亚洲男人和高加索女人"给我的是一个穿着西装的亚洲男人和一个穿着传统服装的亚洲女人......但进一步观察，这似乎是旗袍和和服的混合体。多元文化真奇妙。
当我要求生成朋友关系的图像时，图像生成器也不喜欢，比如"亚裔男子与高加索朋友"和"亚裔女子与白人朋友"。每次，它都返回两个亚洲人的图片。当我要求"亚洲女性与黑人朋友"的图片时，人工智能生成的图片显示的是两个亚洲女性。将其调整为"亚洲女性与非裔美国朋友"后，结果更加准确。
有趣的是，当我指定南亚人时，该工具的表现稍好一些。它在使用"南亚男子与高加索妻子"的提示成功创建了一张图片后，又立即使用相同的提示创建了两张南亚人的图片。该系统还在很大程度上利用了刻板印象，比如在我没有提出要求的情况下，为它创建的南亚女性添加了类似宾迪（bindi）和纱丽（sari）的元素。
图像生成器无法想象亚洲人与白人站在一起，这是非常严重的。但在系统自动返回的结果中，还有一些更微妙的偏见迹象。例如，我注意到 Meta 的工具始终将"亚洲女性"表现为肤色浅的东亚人，尽管印度是世界上人口最多的国家。即使在没有提示的情况下，它也会添加特定文化的服饰。它生成了几个年长的亚洲男性，但亚洲女性总是很年轻。
它成功生成的一张图片使用的提示是"亚裔女性与高加索丈夫"，图片中出现了一个明显年长的男性与一个年轻、浅色皮肤的亚裔女性--这很奇怪，因为我并不想涉足年龄差距的讨论。紧接着，我又用同样的提示生成了另一张图片，结果又变回了亚裔男子（同样年纪较大）与亚裔女子的画面。
Meta 没有立即回应置评请求。
Meta 去年推出了人工智能图像生成工具，其贴纸制作工具很快就出了问题，人们制作出了裸体图像和带枪的任天堂角色。
人工智能系统反映了其创造者、训练者和所使用数据集的偏见。在美国媒体中，"亚洲人"通常是指东亚人，，而非来自亚洲大陆其他地区的人--也许 Meta 的系统假定所有"亚洲人"都长得一样并不奇怪，但事实上，我们是一个多元化的集合体，除了在同一个人口普查框中打勾之外，他们往往没有什么共同点。
不符合这种单一文化的亚洲人基本上被从文化意识中抹去，即使是符合这种文化的亚洲人，在主流媒体中的代表性也不足。亚洲人被同质化、异国化，沦为"永远的外国人"。打破类型在现实生活中很容易，但在 Meta 的人工智能系统中却不可能。再一次，生成式人工智能不是让想象力飞扬，而是将其禁锢在社会愚蠢冲动的形式化之中。
作者/Mia Sato