哈佛教授：咱们中有数百万人已经成为 “超人”

liukang20242个月前 (04-21)cgw吃瓜1030

新智元报导

作者：George M. Church

修正：肖琴、大明

【新智元导读】哈佛大学闻名遗传学教授George M. Church以为，在人工智能年代，人类和机器之间的边界正在变得含糊，这是由于机器变得更像人类，而人类也变得更像机器。

本文作者George M. Church是哈佛医学院闻名遗传学教授，哈佛大学韦斯生物启示工程研讨所(Wyss 研讨所)的核心成员，被学界称为是个人基因组学和组成生物学的前锋。

与此同时，作为人类基因组方案负责人，Church也被以为是一个致力于改造基因组的张狂科学家，一个人类妄图扮演天主人物的典型代表。

George M. Church

Church近来在medium网站发表文章: A Bill of Rights for the Age of Artificial Intelligence。在这篇文章中，Church以为在人工智能年代，人类和机器之间的边界正在变得含糊，这是由于机器变得更像人类，而人类也变得更像机器。

他说：“当史无前例的思想多样性出现时，咱们应该重视一切认识的权力。”未来已来，只不过不均匀，咱们中有数百万人现已成为“超人”(transhuman)，“什么是人类”这个问题应该转为考虑“什么是超人，他们应该有哪些权力”。

新智元对文章进行译介如下：

全盘更新机器要挟论

1950年，诺伯特·维纳(Norbert Wiener)的作品《人有人的用途》(The Human Use of Human Beings)走在了远见和思辨的前沿，书中宣称：

瓶装妖魔型的机器尽管能够学习，能够在学习的基础上作出决议方案，但它不管怎么也不会遵从咱们的意图去作出咱们应该作出的或是咱们能够承受的决议方案的...不管咱们把咱们的决议方案托付给金属组成的机器或是血肉组成的机器(组织、大型试验室、戎行和企业)...时已迟矣，善恶决绝之机现已火烧眉毛了。[1]

但这是他的书的结束了，它让咱们徜徉了68年，不只没有供给指示和禁令，乃至连明晰的“问题陈说”都没有。自那今后，咱们看到许多类似的关于人类受机器要挟的正告，乃至是经过电影《伟人:福宾方案》(Colossus: the Forbin Project, 1970)、《终结者》(the Terminator, 1984)、《黑客帝国》(the Matrix, 1999)和《机械战警》(Ex Machina, 2015)等面向群众的方式。可是，现在是时分用全新的观念全盘更新这种机器要挟论了，特别是会集于咱们的“人权”和咱们的生计需求的一般化。

重视的焦点往往会集在“咱们与它们”(us versus them，机器人)或“灰雾”(gray goo，纳米技能)或“克隆的单一培养”(生物)上。揣度一下当时的趋势：假如咱们能够制作或栽培简直任何东西，并规划出任何咱们想要的安全性和有效性水平，那会变成怎样样呢？任何有思想的生物(由原子的任何摆放组成)都能够运用任何一种技能。

或许咱们不该该过分关怀“咱们与它们”，而应该更多地关怀在史无前例的思想多样性涌现时一切认识形态的权力(the rights of all sentients)。咱们应该运用这种多样性来将全球存在危险降至最低，例如超级火山和小行星等。

尽管咱们或许不知道在咱们加快进化的每一步中，生物/人类/纳米/机器人的组成人(hybrids)的份额将占多大份额，但咱们能够致力于互相的高水平的人道、公平缓安全的处理(“运用”)。

相等

1776年，33岁的托马斯·杰斐逊(Thomas Jefferson)写道：“咱们以为以下真理是显而易见的：人皆生而相等，享有造物主赋予给他们的不行掠夺的权力，包含生命、自在和追求美好的权力。”

当今，“人类”的规模是很大的。1776年时，“人”不包含有色人种或女人。即便在今日，有先天性认知障碍或行为障碍的人注定要承受不相等的(尽管在大多数情况下是赋有同情心的)医治——唐氏综合症、泰-萨克斯病、脆性X染色体综合症、脑瘫等等。

跟着人类社会的改动和成熟，不相等权力现已产生了巨大的改变。胚胎、婴儿、儿童、青少年、成年人、患者、重罪犯、性别认同和性别偏好、十分赋有的人和贫穷的人——一切这些人都面对着不同的权力和社会经济实际。

取得并保存与最精英人类类似的新思想类型权力的一条途径是保存一个人类特点(Homo component)。咱们或许很难拔掉插头，修正或删去(杀死)一台电脑和它的回忆——尤其是假如它与人类成为朋友，并宣布极点火急的求生恳求(一切优异的研讨人员都会这样做)。

人类与非人类和组成人的规矩天壤之别

上面说到的智人内部权力差异的不合，一旦咱们转移到“人类”界说掩盖到(或行将掩盖)的实体，就会迸发一场不相等骚乱。

在谷歌街景中，人们的脸和轿车牌都被含糊处理了。视频设备被扫除在许多场景之外，比办法庭和委员会会议。具有面部辨认软件的可穿戴公共摄像头是一个禁区。患有超忆症(hyperthymesia)或过目不忘的人是不是应该相同被扫除在这些场景之外呢?

面孔失认症(脸盲)或遗忘症患者不该该从面部辨认软件和光学字符辨认软件中获益吗？假如他们能够，那么为什么不是每个人都能够呢？假如咱们都在某种程度上具有这些东西，莫非咱们不都能从中获益吗?

这些场景与库尔特·冯内古特(Kurt Vonnegut) 1961年的短篇小说《哈里森·伯杰隆》(Harrison Bergeron)千篇一律，其间，特殊的才干被束缚，以契合社会平凡的最低共同点。像约翰·塞尔(John Searle)的《中文房间》(Chinese room)和艾萨克·阿西莫夫(Isaac Asimov)的《机器人三规律》这样的思想试验，都招引了丹尼尔·卡尼曼(Daniel Kahneman)、阿莫斯·特沃斯基(Amos Tversky)等人证明的那种困扰人类大脑的直觉。

“中文房间”试验假定，一个由机械和智人组成的大脑，不管它在智人对话(中文对话)中多么有才能，都不或许是有认识的，除非人类能够辨认认识的来历并“感觉”到它。

假如机器人不具有与人类彻底相同的认识，那么这就被用作给他们不同权力的托言，类似于其他部落或种族不如人类的观念。机器人现已表现出自在毅力了吗？他们现已有自我认识了吗？机器人Qbo经过了自我辨认的“镜像测验”，机器人Nao经过了辨认本身声响并揣度本身是否处于静音状况的相关测验。

关于自在毅力，咱们的算法既不是彻底确认的，也不是彻底随机的，而是针对挨近最优的概率决议方案。有人或许会以为这是博弈论的优胜劣汰的成果。关于许多（而非一切）博弈/问题，假如咱们的结论是彻底可猜测或彻底随机的，那么咱们往往会堕入失利。

那么，自在毅力的招引力究竟是什么？从前史上看，自在毅力给了咱们在地球或来世施行奖惩的办法。赏罚的方针或许包含推进个人优先事项，以有助于物种的生计。在极点情况下，假如活跃/消沉强化不足以维护社会，这种赏罚或许包含拘禁或其他束缚。明显，这些手法能够应用于广泛的自在毅力，它适用于咱们想要办理和束缚其行为的任何机器。

咱们能够评论机器人是否真的阅历了自在毅力或自我认识的片面感触，但这相同适用于评价人类。咱们怎样知道反社会人士，堕入休克的患者、威氏综合症患者或婴儿与咱们自己有相同的自在毅力或自我认识？实际上，自在毅力起到了什么效果？假如人类令人信服地宣称要阅历认识、苦楚、崇奉、美好、野心，对社会产生效果，咱们是否应该否定他们的享有自在毅力的权力，只由于他们的假定与咱们的假定不同？

人与机器之间的边界越来越含糊

咱们曾以为自己永久不会跨过的那条忌讳的红线，好像变得越来越短，并且越发不合理。人与机器之间的边界越来越含糊，机器变得更像人类，人类变得更像机器。这不只在于咱们越来越盲目地遵守和遵从GPS定位信息、条件反射般的推文和精心策划的营销手法，并且咱们也消化了对自己大脑的更多见地和遗传编码机制。美国国立卫生研讨院的“大脑方案”正在开发立异技能，并运用这些技能制作神经电路的衔接和活动，用以改进电子和组成神经生物学产品的功能。

许多类型的“红线”取决于遗传的特殊性，遗传学被以为是永久的（尽管已证明遗传是可逆的），而一些技能，比方轿车，不管从何种意图和意图来看，都由于社会和经济力量而变得不行逆转。在遗传学中，这类“红线”促进咱们制止或防止运用转基因食物，但却承受了用转基因细菌制作胰岛素或转基因人类，欧洲现已同意了用于成人和胚胎的线粒体疗法。

关于“人类的主题研讨”，能够参阅1964年赫尔辛基宣言，更要紧记1932年至1972年的塔斯基吉梅毒试验，这或许是美国前史上最臭名远扬的生物医学研讨。 2015年，非人权项目代表两只被石溪大学研讨的黑猩猩向纽约州最高法院提起诉讼。上诉法院的判定以为黑猩猩不该被视为法人，由于它们“在社会上没有职责和职责”，不过JaneGoodall和其他一些人持相反定见，还有人以为这样的判定将来也或许来临在儿童和残疾人士身上。

是什么阻挠了人类与其他动物、类器官、机器和杂交物种的延伸和融合？现在，一些人工智能范畴的闻名人物（如霍金、马斯克、泰格马克等）现已在宣扬制止运用“自主兵器”，咱们将一类“哑巴”机器不断妖魔化，而实际上其他类型的机器，比方由许多智人投票组成的机器或许更丧命，更具误导性。

“超人”们现已在地球上四处周游了吗？关于那些“未触摸现代国际的民族”，如印度的Sentinelese和Andamanese，印度尼西亚的Korowai，秘鲁的Mashco-Piro，澳大利亚的Pintupi，埃塞俄比亚的Surma，越南的Ruc，巴拉圭的Ayoreo-Totobiegosode，纳米比亚的辛巴和巴布亚新几内亚的数十个部落来说，他们的祖先会怎么回应这个观念？咱们能够将“超人”界说为生活在现代，但未触摸技能文明中的人们无法了解的那些人和文明。

这样，现代石器年代的人们将很难了解为什么咱们由于最近发现LIGO引力波依据，印证了百年前史的广义相对论而热烈庆祝。他们会为咱们的原子钟或GPS卫星而困惑不已。咱们能够比任何其他生物物种更快地移动，实际上，咱们能够从地球到达逃逸速度，并在十分冰冷的太空真空环境中生计。

科幻小说先知威廉·吉布森曾说过：“未来已至，它的散布并不均匀。”尽管这话轻视了下一轮的“未来”，但咱们傍边数百万人现已是超人 - 咱们大多数人都要求更多。 “什么是人类？”这个问题现已变成了“什么是超人，TA们有哪些权力？”

[1]诺伯特·维纳是20 世纪最巨大的数学家之一，信息论的前驱，控制论的奠基人。这段译文摘自北京大学出版社《人有人的用途——控制论与社会》，译者陈步。

原文链接：

https://medium.com/s/story/a-bill-of-rights-for-the-age-of-artificial-intelligence-d9b1c0e80bac

新智元AI技能+工业社群招募中，欢迎对AI技能+工业落地感兴趣的同学，加小帮手_2 入群;经过审阅后咱们将邀请进群，参加社群后必须修正群补白（名字 - 公司 - 职位;专业群审阅较严，敬请体谅）。

告发/反应