AI艺术创作存种族性别偏见　艺术加工软件黑人变白人

近年AI技术日臻成熟普及，亦经常应用在艺术创作和作品分析中，可是因为数据收集样本数量不均，或程式员人为主观因为的影响，研究发现社会偏见可能渗透到AI创作中，让AI艺术生成系统产生出来的作品，普遍存在种族与性别偏差，亦对特定流派和创作风格有明显偏向。

日本富士通一支研究团队利用“有向无环图”（Directed Acyclic Graphs/DAG）的因果模型，他们能够通过这个模型识别出和AI艺术生成有关的因素，以及这些因素相互影响的方式。比如，艺术思潮会影响创作材料的选择，肖像主体会影响艺术家风格的选择，而DAG能够将这些复杂的关系视觉化，从而更好地分析不同因素之间的因果关系。

研究团队首先对影响AI创作的主要因素进行了分类，从而确定研究样本。他们最终选定的样本均由业内领先的AI系统创作，这些AI系统接受了文艺思潮、流派、创作材料、艺术家等各类标记资料集的训练。

文艺思潮方面，有文艺复兴、立体主义、未来主义、印象派、表现主义、后印象派、浪漫主义等；流派方面，有风景画、肖像、战斗绘画、素描等。材料方面，有木版画、版画、油漆等；艺术家方面，则有Clementine Hunter、 Mary Cassatt、Vincent van Gogh、Gustave Doré、Gino Severini等。

AI将长发男判定为女性

经分析，AI在艺术创作时，存在对特定流派、风格、种族的明显偏好。

以艺术渲染工具DeepArt为例，用户可以在DeepArt上导入图片并添加艺术化渲染效果，最终生成具有特定艺术家风格的图片。经Deepart转换之后的画作会丢失某些重要特征，像是立体派画作《Propellers》（图中），采用未来主义画作《Armoured Train in Action》（图右）风格重新绘制，所产生的输出（图左），失去了未来主义的重要特征。

另一个，类似Deepart的平台GoART，在为Clementine Hunter的画作《Black Matriarch》（图左1）添加表现主义滤镜时，直接将主体人物的黑肤色变成了红色（图左2），在加工Vincenzo Gemito的雕塑作品《Giovinetto》时（图右2），GoART仅会对雕像加上阴影，保留了艺术品中人物原本的白色肤色（图右1）。

艺术换脸软件AIportraits将黑肤色女星Tessa Thompson的照片加工成艺术画时，直接将她的肤色调亮了几个度。另一款艺术加工工具Abacus则会错认画作的性别，直接把Raphael和Piero di Cosimo作品中的长发年轻男子识别为女性。

AI理性仍靠人类智慧

研究人员认为，造成这些错误的主要原因有两个：第一是用来训练人工智慧模型的资料集失衡，像是训练AI Portraits时，就用了45,000张以白人为主的文艺复兴时期肖像画作，因此输出结果容易出现种族偏差。另一个潜在偏差来源，可能是资料在标注过程时，不同标注者可能因为偏好、文化等因素，影响创建标签不一致。

该研究发表在康奈尔大学的论文库arXiv上，名为《艺术史视角下分析AI生成艺术中偏见产生的原因（Biases in Generative Art—A Causal Look from the Lens of Art History）》。

新闻来源：VentureBeat

【中国电影海报设计殿堂级人物黄海，多个作品成为经典，我们一齐重温当中佳作！】