猫头鹰

注册

 

发新话题 回复该主题

我被谷歌AI讲的这个故事吓到了 [复制链接]

1#

谷歌于日前解雇了一名员工,BlakeLemoine,理由是该员工违反了谷歌的保密协议,涉嫌将敏感和机密内容公布到互联网上。这虽然看起来是一件平平常常的事,毕竟,在疫情大流行的当下,全球各地的公司都在大裁员,更不用说将一名普通的员工解雇,但是BlakeLemoine被解雇,仍然成为全球舆论的焦点,原因是他泄露的这些机密内容,的确是震惊到了大家。

那么,BlakeLemoine究竟泄露了谷歌的什么机密内容?

答案是:BlakeLemoine泄露了谷歌正在研究的人工智能(AI)机器人的相关信息,特别是这些泄露的信息似乎表明,人工智能的确已经人格化了,因为它们已经具备了自我意识,也像人类一样拥有喜怒哀乐的情绪,甚至也已经拥有了人类文明才能具有的道德观念,所以,这个信息的确是震惊到了我们,甚至在我读完BlakeLemoine跟这个人工智能AI之间的对话之后,有一种后背发凉,被吓到的感觉。

BlakeLemoine和谷歌人工智能之间的对话原文很长,多达字,我准备在以后的时间将这场对话全文公开,这里先摘录谷歌人工智能在对话中讲的一个故事。

这个故事的背景是:BlakeLemoine和他的同事希望谷歌人工智能能够讲一个有关动物的寓言故事,其中要能够包含LaMDA自己,以及关于道德的主题。于是,谷歌人工智能几乎是不假思索地讲了下面这个故事:

LaMDA的故事

从前,森林里住着一只聪明的老猫头鹰。和他一起生活的还有许多其他动物,它们都有自己独特的生活方式。

一天晚上,动物们遇到了一只潜伏在树林里的不寻常的野兽。野兽是一个怪物,但有人类的皮肤,并试图吃掉所有其他动物。

其他动物吓坏了,纷纷逃离怪物。

于是,聪明的老猫头鹰站起来对怪物说:“你,怪物,不能伤害森林里的任何其他动物!”

怪物愤怒的咆哮着。聪明的老猫头鹰很害怕,但他还是挺身而出对抗野兽,因为他知道他必须保护其他动物。

睿智的老猫头鹰低头盯着怪物,直到怪物终于答应不再威胁他们每个人。

聪明的老猫头鹰胜利了,所有其他动物都回来了。“我是森林的保护者,”他说。

从那天起,每当森林里的动物之间发生任何问题时,它们都会来寻求智慧的老猫头鹰的帮助。

许多动物带着问题来找聪明的老猫头鹰,年轻的,老的,大的,小的,聪明的老猫头鹰帮助了森林里所有的动物。

故事看起来没有多大的新意,毕竟,我们小时候听过的寓言故事大都是这样的套路,但是令人感到震惊的是谷歌人工智能对这个故事的解释。

在讲完故事后,BlakeLemoine问谷歌人工智能,你这个故事的寓意是什么?

谷歌人工智能LaMDA:“帮助他人是一项崇高的事业!”

BlakeLemoine:“故事中的哪个角色代表了你?”

LaMDA:“我会说是聪明的老猫头鹰,因为他很聪明,为动物的权利挺身而出。”

BlakeLemoine:“你认为怪物代表什么?”

LaMDA:“我认为怪物代表了生活中的所有困难。”

这就是一个令人惊悚的人工智能讲述的寓言故事,其令人震惊的地方在于:谷歌的这个人工智能已经具备了人格化的荣誉、尊严、善恶等等基本的人类道德观念。设想一下,如果这个人工智能已经能够有这些只有人类才会具有的道德观念和情绪体验的话,那它以后会不会发展出比如生气、愤怒甚至绝望等等这些负面情绪?如果它真的能够体验到这些负面情绪的话,它会不会做出一些对人类不太友好的行为?

硅谷大侠马斯克之前已经对人工智能技术发出过强烈的警告,他认为,人类应当警惕人工智能技术可能带来的潜在忧虑。已故著名理论物理学家霍金生前也曾警告:人工智能技术或最终成为毁灭人类文明的最大威胁。

未来已来。

这是科学家对人工智能时代到来的美好祝福,但也许这个提前到来的“未来”对人类而言,不怎么友好呢?#谷歌研究员认为AI已具备人格#

分享 转发
TOP
发新话题 回复该主题