自上个月开播以来，成千上万的观众已经收看了《Nothing, Forever》，这是一部由人工智能制作的无休止的宋飞模仿剧，在Twitch上全天候播放。这部剧有一种不可思议的魅力——这部剧的四个主要角色拉里、伊冯娜、弗雷德和卡克勒的低分辨率3D渲染图，他们笨拙地走来走去，一边咕哝着人工智能写的毫无意义的笑点，一边穿过家具。

该节目于去年12月推出，当Motherboard在1月份报道该节目时，只有16名观众。从那时起，它就像病毒一样传播开来。《一无所有》的重复让人很容易熟悉，就像《宋飞正传》本身一样。剧中的人工智能演员重复着同样的单口相声片段和关于虚构餐馆的对话，在一段舒缓的、似乎无休止的重复中。在一些观察人士看来，这部剧似乎预示着人工智能媒体即将到来。

美国东部时间2月6日凌晨3点左右，笑声戛然而止，当时没有任何警告，杰瑞·宋飞的替身拉里·范伯格在一场单口相声表演中突然发表了一篇偏执的长篇大论。不到30分钟，《Nothing, Forever》就被推奇封杀了，关于《Nothing》的节目也悄然停播。

根据《永恒》的创作者Nothing的说法，在拉里爆发前的几个小时里，该节目的人工智能语言模型davinci (OpenAI gpt -3的最新最强大版本)突然开始表现异常，产生了一些奇怪的场景，其中节目的角色完全缺席。为了保证节目的正常运行而不需要下线进行维护，制片人决定改用达芬奇的前任居里夫人。几分钟后，拉里的变性恐惧症和同性恋恐惧症开始了。

该剧主创之一斯凯勒·哈特尔(Skyler Hartle)在一封电子邮件中说:“我们现在已经运行了很多次《达芬奇》，一次运行几周，没有让它产生不合适的内容，所以很难说(是否有可能出现类似的情况)。”“话虽如此，我们现在正在努力实施新的安全措施，这样，如果达芬奇模式产生了不适当或冒犯性的内容，我们就能抓住它。”

他们补充说:“我们对发生的事情感到非常遗憾，这些言论和不恰当的内容绝不代表我们员工的观点，希望我们新的护栏和安全机制能防止这种情况在未来发生。”

这并不是人工智能艺人第一次出人意料地转向偏见。微软臭名昭著的Tay AI不得不在几天内被关闭，因为它几乎立即就训练了自己的仇恨言论。而且，就在上个月，AI vtuber neural -sama因为突然开始否认大屠杀而被Twitch暂时禁止。人工智能模型有一个反映偏见和偏见的坏习惯，因为它们是根据从互联网上抓取的大量文本进行训练的。OpenAI使用审核过滤器来尝试并确保ChatGPT不会说任何有害的话，人们不断尝试“越狱”模型来绕过他们。

哈特尔说:“这些模型缺乏生成以前从未说过的东西的能力，因此，你听到的任何东西都很可能至少被某人在某个地方说过一次。”“我们有能力通过一个叫做温度的参数来调整这些模型，从而产生随机性。这往往是不恰当或煽动性言论发生的罪魁祸首。”

哈特尔接着说:“我们会尽量保留这部剧的不可预测性和生动性，但最好能消除不恰当言论的可能性。”

虽然人们很容易将拉里的偏执归因于人工智能软件故障，但在某种意义上，居里夫人的人工智能正在按计划工作。正如哈特尔的言论所表明的那样，人工智能只是重新混合和反述人类的句子和情感，访问它判断为上下文合适的随机语言片段。这有点像对我们的文化举起了一面哈哈镜，或者至少是对互联网。这种形象可能会让人不安，也不讨人喜欢。

一个在互联网上受过训练的人工智能能够吸收对变性人的恐惧情绪，这并不令人惊讶——如果它能以某种方式做到这一点，那就更令人惊讶了。人工智能的笑话非常中听，以至于该剧的Discord服务器上的许多人都觉得它们是在讽刺，是对懒惰的、令人震惊的喜剧的评论。值得注意的是，人工智能的观众们对他讲的任何笑话都没有笑出来，拉里自己也表示，他的笑话反响并不好。尽管如此，很多人还是觉得他们很无礼。

哈特尔此前曾告诉Motherboard，《一无所有，永远》是朝着他们真正认为的媒体未来迈出的一步，他们的下一个目标是创造一个netflix质量的人工智能节目。在关于人工智能艺术伦理的持续辩论中，让大量在线观众意外接触仇恨言论的可能性是一个需要权衡的重大风险。尽管发生了这一事件，该剧的创作者仍然清楚地看到了他们产品的价值。

哈特尔说:“我们预计人工智能安全和内容审核将继续变得越来越好，人们将能够消费这些内容，而不用担心说一些不恰当的话。”

他们补充说:“我们知道人们希望看到它重返空中，但我们希望尽可能安全。”