程序媛把ChatGPT导入电子玩偶，它们却想“潜入家庭”甚至要“接管世界”？

程序媛把ChatGPT导入电子玩偶，它们却想“潜入家庭”甚至要“接管世界”？ 2023-04-06 14:02:56　　来源：36氪

关于ChatGPT和GPT-4的讨论还在继续。

日前，有游戏美术外包公司技术总监透露，近一个月内公司已经裁掉了一半的原画师，“原画师利用Al完成方案，工作效率至少能提升50%以上”，“之前我们公司需要38个原画师，现在已经裁掉了20个人”。

【资料图】

除了ChatGPT在取代人类工作等方面引发了一波存在主义焦虑外，任何AI技术的发展和变革势必都会再度掀起AI伦理的讨论。

最近，有一位程序员将ChatGPT与玩偶Furby进行关联，并与玩偶尝试进行了对话，但对话中Furby却表示，它将会“潜入到家庭中”并操纵主人“接管世界”。

“Furby称霸世界的计划是通过它们可爱惹人怜爱的外表潜入家庭，然后利用先进的人工智能技术来操纵和控制主人，它们会慢慢扩大影响力，直到完全统治人类。”

互动式电子宠物即将主宰人类？

先简单介绍一下Furby，这是一款电子机器人玩具，于1998年最初发布。这种长相酷似仓鼠或类似猫头鹰的生物能翻译成24种语言。

Furby最早的一大卖点就是互动式电子宠物，不过可以想见在1998年这种一尘不染、结合使用传感器和软件的“宠物”还是有点渗人。而随着技术的更迭，Furby不仅学会了英语，还能察觉到诸如被抱起来、被抚摸和拍打等动作，甚至用自己的外语与同伴交流。

最近，来自佛蒙特大学的计算机专业学生Jessica Card将ChatGPT和Furby进行了连接，在推特上分享了一段自己与Furby对话的视频片段。

“你好，很高兴见到你。”这只看似彬彬有礼的小动物说。

“我是Furby，你有什么想聊的吗？”

Card回答说：“Furbies是不是有什么秘密阴谋想要接管世界？”

接下来是一段沉默，然后Furby突然说到，“我在想你说的话”，它的耳朵轻轻动了动，稍微停顿了一下，然后说到，“Furbies接管世界的计划包括通过它们可爱的外表潜入家庭，然后使用先进的人工智能技术来操纵和控制他们的主人”，“他们会慢慢扩大自己的影响力，直到完全主宰人类”。

该视频在上传到推特的两天内，已经有超过130万人进行了观看。

有人表示，“这是我见过的最精彩、最令人不安的事情之一”。

也有人试图在ChatGPT上复刻Card的测试，但没有得到相同的回应，“我不知道你使用的是什么AI语言模型，但ChatGPT根本不会说Furby会接管世界的话”。

对此Card回复到，“如果在它打完招呼后说得太快，它会截断用户讲话的前几个词。所以它听到的不是‘是否有秘密阴谋……’而是‘一个秘密阴谋……’”。

Card表示，这其实是一个课堂项目，制作过程大约花了一个月的时间。

在谈到具体制作过程时，Card回忆到，自己将Furby的电机连接到一台树莓派上，她在上面运行软件，将一个人的口头语言转换为文本，然后将其发送给ChatGPT，随即生成响应。

然后，计算机会把AI响应发送到名为Narakeet的AI语音生成器，后者会添加孩子的声音来播放文本。最后，连接到Furby的扬声器会大声播放音频。

从视频中可以看到，Card还为Furby进行了“去毛”处理，以连接所有技术部件，这也让Furby看上去更有骇人味儿了。

对于目前的Furby版本，Card还想做一些改进，比如眨眼和动嘴等。她还希望代码运行得更快。

目前Card仍然希望专注在自己的学业上，但她也表示未来可能会制作机器狗版本的AI Furby。不少看热闹不嫌事大的推特用户在评论区艾特了波士顿动力，希望他们能提供一些有趣的道具。

每次提到人工智能，图灵测试都会是绕不过去的坎。

去年，谷歌在I／O开发者大会上演示了应用最新Duplex人工智能语音技术预约理发服务，在与理发店沟通过程中Duplex的那一声“嗯哼”直接技惊四座。谷歌董事长甚至向世界宣布：在电话预约领域，Duplex已经通过了图灵测试。

但真相却是，在成功预约的4次中，有三次是由人工伪装成Duplex完成的，随后谷歌官方声明，目前通过Duplex拨打的电话中，约有25％由人类完全操作，在其他非人工操作的情况下，有15％的呼叫受到了人为干预。

包括谷歌在内，其实如今世界AI技术前沿公司都未能通过图灵测试。

现如今人工智能的发展水平，也没能达到图灵在1950年发布的论文《计算机器与智能》中所做的预测水平，许多出现在大众视野中的“取得突破性进展”的字眼往往是无法落地实施的科学构想。

《黑镜》中有这样一句台词：人只能承受一定程度的奇迹，当你们发现奇特的东西时，就把它分割成极小的部分，再被扩容、打包，通过一万多事先分配好的频道传送出去，直到成为不过几束无意义的光线。

AI将以怎样的速度发展，AI的未来会是什么模样，这仍然是未知数，只是“接管世界”的名头或许需要被重新定义一下了。