人工智能生成的图像是否有能力进一步疏远——如果不是彻底疏远——我们与世界的关系？

这篇文章最初是在麻省理工学院新闻阅读器上发表的。

如果一个图像可以被描述为有害的，特雷弗·帕格伦的《彩虹》就符合这个要求。除了看起来有毒的“天空”之外，它的一部分似乎已经变异成了弹药的炽热痕迹，或者更神秘的是，一系列故障。作品的全名“彩虹（语料库：预兆和预兆）”暗示了自然元素和一具物理的、可能死去的尸体（语料库/尸体）的整理，进一步增强了疏远和恐惧的整体印象。

除了帕格伦的对抗进化幻觉系列（2017年至今）中的其他作品，包括可怕的《吸血鬼（语料库：资本主义的怪物）》和《人类的眼睛（语料库：人类）》——后者以看似看不见的眼睛的幻影完成——《彩虹》是由生成对抗网络（GAN）制作的，这是一种人工智能模型，训练神经网络识别、分类，最重要的是生成新图像。鉴于人工智能图像处理模型不像我们那样体验世界，而是复制一个曾经被移除和歪曲的版本，它们产生的图像揭示了人工智能在计算上生成令人不安的世界寓言的程度。像《彩虹》这样的图像诞生于自动化图像制作的萌芽阶段，揭示了那些通常被隐藏或以其他方式模糊的东西——一个幽灵或一场噩梦，这要归功于为人工智能提供动力的算法的幻觉、通常是错误的逻辑。这种逻辑通常被视为故障或故障，但它仍然是人工智能的一个基本方面，而不仅仅是副作用。所有这些都让我们想到一个首要问题：人工智能驱动的图像制作的这些幻觉模型有能力进一步疏远——如果不是深刻疏远的话——我们与世界的关系吗？

特雷弗·帕格伦是一位广受赞誉的艺术家，也是麦克阿瑟奖学金的获得者，他一直致力于我们世界中看不见和被封闭的事物，用他的话来说，包括人眼无法辨认的机器制造图像的“看不见的视觉文化”。

例如，在他2019年的展览“从‘苹果’到‘异常’”中，他强调了算法——作为编码指令集——是如何习惯性地产生有偏见的人工智能模型的。在整个项目中，他为观众和研究人员提供了一个机会，让他们了解当代主题在多大程度上是通过反复不透明的机器学习模型的偏见（种族和其他方面）被预先定义和建立的，尽管它们的假设和设计存在问题。在他的对抗性进化幻觉系列中，同样关注潜在和秘密元素，帕格伦参与了一种诊断逆向工程的方法：从“彩虹”等图像的明显、最终迭代中向后工作，他探索了如何——通过编译数据集——对GAN进行系统训练，以产生新的、尚未见过的图像。在这样做的过程中，该系列演示了这些过程是如何受到数据集中偏差（某些图像表示过多或不足）、整体训练过程中的差异以及在将算法权重迭代应用于输入数据期间进行的通常不透明的调整的影响。

尽管机器学习存在局限性和固有的偏见（更不用说产生幻觉的倾向了），但我们越来越依赖这些技术来预测和影响我们的生活。通过对过去模式的统计分析（为了计算和识别未来模式而进行），对人们身份、购物偏好、信用评级、职业前景、日常行为、健康状况、政治派别和所谓的激进倾向的机械预测成为常态而不是例外。在这方面，人工智能技术的这种预测倾向有可能在时间上变得既自我实现又不可问责，如果不是深不可测的话。

机器驱动计算的影响是深远的，特别是当它们不仅试图预测日常行为，而且更令人不安的是，试图预测那些超出常规的行为——抵制预定义模式的行为、活动和身份。通过揭示人工智能图像生成模型背后的确定性推理——这是彩虹；这是苹果；这是一张脸；这是一种威胁——以及它们如何将意义强加给世界时，看似抽象的（错误）分类行为或幻觉对我们的生活方式有着非常真实的影响。