【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?

2019-11-09 - 人类的未来

当然,这是科幻作品中反复出现的问题。但随着AI成为科学事实,这个问题有了不同的意义,也更加紧迫。泰格马克觉得,我们应趁现在审视围绕AI展开的种种议题,以及它引致“超级智能”的可能性。

如果未来几十年可能会有极其重大的事情发生,现在就是开始准备的最佳时期。

人类的未来就交给你了

携手Skype联合创始人詹·塔林(Jaan Tallinn),并凭借来自科技亿万富豪伊隆·马斯克(Elon Musk)的资金,他创立了生命未来研究所(Future of Life Institute),致力于研究人类面临的生存威胁。

研究所位于马萨诸塞州剑桥,泰格马克在该地的麻省理工学院(MIT)担任教授。牛津大学有一个与之类似的人类未来研究所(Future of Humanity Institute),创立者是同为瑞典人的尼克·博斯特罗姆(Nick Bostrom)。

人类的未来就交给你了

泰格马克还动笔写起了一本书,这本书于近日出版,名为《生命3.0:人工智能时代的人类》(Life 3.0: Being Human in an Age of Artificial Intelligence)。因为写过像多重宇宙这类高度理论化的深奥概念,对于有根据但仍充满想象的观点,泰格马克可谓游刃有余。

要看清AI很难,因为它深陷迷思与误解之中。为解决这一“形象”问题,泰格马克细致地解析了AI所涉及到的概念——智能、记忆、学习、意识,然后加以解释,揭开它们的神秘面纱。

人类的未来就交给你了

但在接受电话采访时,泰格马克一开口,就迫不及待地要厘清AI“不是”什么。

“我觉得,好莱坞让我们搞错了担心对象,”他说,“机器产生意识与恶意,这一点有些误导性。先进AI真正堪忧的不是恶意,而是权限。如果你有一个超智能AI,那么按照定义,它应该极其善于达到目标。但我们需要能放心地相信,这些目标与我们的目标是一致的。”

人类的未来就交给你了

“我不讨厌蚂蚁,但如果你让我负责建造绿色能源水力发电站,而那里正好是蚁山所在地,那只能算蚂蚁们倒霉了。我们不希望自己像这些蚂蚁一样。”

《生命3.0》远非针对AI的控诉声讨。其实,它更多地是对超级智能潜力的称颂。然而,什么是超级智能?什么是智能?泰格马克将其定义为“实现复杂目标的能力”。因此,计算机可以算是智能,但智能程度有限。

在特定领域内,计算机的信息处理能力已经远超人类。就比如国际象棋领域,现在,世界上最好的棋手也不是计算机程序的对手了。但要是换成井字棋,这个程序就百无一用,连小孩都比不过。

人类,哪怕是年幼的孩子,都具备一种广泛适用的通用智能,而计算机不论处理能力多么强大,都局限于规定的任务之内。

日本三越百货的商厦内,一位顾客对着东芝人形机器人Aiko Chihira拍照

因此,计算机的智能程度是由人类决定的。但随着我们迈入AI世纪,情况正开始改变。谷歌AI子公司DeepMind已经有计算机通过试错不断自学的例子。

到目前为止,这种能力只在电子游戏和围棋中有所展现,但拓展到其他媒体是可以想见的事。拓展到了一定程度的话,它就有可能深刻地影响我们对自身、对生命以及其他众多根本性问题的看法。

为考察这些问题,泰格马克创建了一种起到定义作用的语境,一个由不同发展阶段构成的网格。首先,他回溯到最原始的生命形式,诸如细菌等,并称之为“生命1.0”。从生物学意义上讲,这是一个十分简单的阶段。在这个阶段内,生命就是复制,适应只有靠进化才能实现。

“生命2.0”又称文化阶段,亦即人类所处的阶段:能学习,能适应不断变化的环境,并能改变环境。然而,我们还无法改变生物遗传的作用。

泰格马克用硬件和软件作了个比喻:我们可以设计自己的软件——我们“行走、阅读、协作、计算、唱歌、讲笑话”的能力——但我们的生物学硬件(脑和身体)则受制于进化过程,因此,必然受到约束。

第三个阶段,“生命3.0”,就涉及到技术了。这一阶段的“后人类”除了能重新设计“软件”,还能重新设计“硬件”。泰格马克写道,这种形式的生命是“自身命运的主宰,终于完全摆脱了进化的枷锁。”

这种新的智能将永生不朽,而且能分布到全宇宙。换言之,它还是生命,但已经“面目全非”。

然而,它还能算是生命吗?或是变成了别的东西?对于这些生物学上的概念,物理学家出身的泰格马克并不会太过多愁善感。

他是个唯物主义者,在他眼里,地球以及宇宙是由粒子组成的,它们以各种不同的排列,实现高低不等的活动水平。在他看来,会腐朽的生物学生命和自我延续的智能机器之间,并没有重大的或道德上的区别。

泰格马克为生命3.0描绘了一个有着无限可能的未来,有时,他的文字近乎奇幻,乃至洋洋得意;但他也是个理论家,试图设想大多数人都无法想象或难以接受的内容。

简而言之,我们正处在AI的早期阶段——我们已经有自动驾驶汽车、智能家居控制单元和其他自动机。但如果趋势持续下去,我们就有理由认为,总有一天——30年、50年、200年后?——计算机将企及通用智能,在各个方面比肩人类。

计算机一旦迈上这一台阶,就会开始突飞猛进,因为它们会动用前所未有的处理能力,来进一步提升处理能力。这就是博斯特罗姆在2014年出版的《超级智能》一书所陈述的观点,而随着智能(或言“达到复杂目标的能力”)的大规模拓展,其结果自然是超级智能——我们只能揣测的一个奇点。

然而,超级智能并非不可避免。很多业内人士认为,计算机永远无法企及人类智能,即便能够企及,届时,人类也已经完成生物学层面的适应。但是,超级智能要是真能实现,泰格马克认为,我们就必须认真对待了。

“如果未来几十年内会发生极其重大的事件,那么我想,现在是开始准备的最佳时期,以便让它对我们有利。要是30年前我们就开始为气候变化做准备,那该多好。”

和博斯特罗姆一样,泰格马克也认为,AI发展的事态比气候变化更加迫在眉睫。然而,如果说我们创造的是人类无论如何都无法理解的智能,那么在奇点到来之后,我们现在的准备又能起到多少作用?如果一种智能超越了我们的想象,我们又该如何管制它呢?

泰格马克承认,针对这个问题,目前没有人能给出答案,但他认为,还有很多任务是我们需要优先处理的。

“在担心超级智能带来的长期挑战之前,我们还有很多短期问题需要解决。不要因为达不到完美,就放弃追求。在任何情况下,我们都不会希望飞机撞上高山或者大楼,这一点我们都同意。当初安德烈亚斯·路比茨(Andreas Lubitz)下令飞机自动驾驶系统下降100米,计算机竟然同意了(指德国之翼航空9525号航班空难)!”

“计算机对人类目标的好坏毫无头绪。虽然凭借现在的技术,我们可以建造这样的飞机:只要驾驶员试图撞向什么东西,飞机都会进入安全模式,锁住驾驶舱,在最近的机场降落。我们今天就应当给这些机器输入这种幼儿园级别的是非观。”

在此之前,我们还有更加迫切的工作要做,泰格马克说。“如何将今天漏洞百出、可被入侵的计算机转变成可信的AI系统?这一点尤为重要。我觉得,这个社会在这方面太草率了。而世界各国的政府应该将其作为计算机科研的重要组成部分。”

他认为,放弃人工智能研究,以此防止超级智能的崛起,这种做法很不靠谱。“2017年比石器时代优越的每一个方面,都是拜技术所赐。而技术一往无前,没人说要阻止技术。问一个人是反对还是赞成AI,就好比问人是赞成还是反对火,这是非常愚蠢的。我们都喜欢火炉的温暖,也都想防止纵火事件。”

在这个例子中,“预防纵火”的任务已经落到我们头上。泰格马克指出,我们即将展开一场自动化致命武器的军备竞赛。最近,俄罗斯总统普京就表示,谁掌握AI,谁就能“统治全世界”。

去年11月,联合国展开了一场会议,探讨能否通过国际公约,像禁止生化武器一样禁止这类武器。“AI社群极力支持这一倡议,”泰格马克说。在技术层面上,“一架用于暗杀的无人操控无人机和一架亚马逊送货无人机,”两者几乎没有差别。

BAE Systems的Taranis无人操控隐形飞机原型,被称为“首驾无人操控的无人机”

“未来十年还有一个大问题,那就是工作自动化。很多领先经济学家认为,不平等现象的加剧造成了英国脱欧和特朗普当选美国总统,而不平等问题本身则受到了自动化趋势的推动。如果政府能将机器创造的财富重新分配,使所有人都能受益,那么大家的日子都会好过一些。”

在这个方面,泰格马克认为,凭借对自由市场的推崇,以及国家医疗服务体系(NHS)和福利国家的历史,英国也许能起到带头作用,充分利用企业创新,为国民谋福利。这种观点的问题在于,虽然很多AI研究都由俄罗斯和中国带头,但最主要的进展都来自美国或美国公司——而历来,美国社会对不平等问题都不是特别在意。

在书中,泰格马克称扬谷歌的拉里·佩奇(Larry Page)——地球上最富有的人之一,说他有可能成为史上最具影响力的人物:“我猜测,如果在我有生之年,超级智能数字生活能够席卷全宇宙,那会是由于拉里·佩奇的决策所致。”

他对佩奇的描述就像他对马斯克的描述——深思熟虑,真心关心人类困境。这话不假,但作为一名商人,佩奇最关心的还是利润,以及如何超越竞争对手。就目前而言,太多的决定权都掌握在科技亿万富豪的手里,而这个群体根本不能代表普通大众。

在我看来,虽然AI的直接问题本质上都是技术问题,或者说具体操作问题,但日后很多问题的本质都更偏哲学理念。泰格马克罗列了可能出现的若干种不同后果,其中既有反乌托邦极权主义,也有善意的机器统治。

“要认识到,智能就是权力,”他说,“我们能驾驭老虎,不是因为我们肌肉比老虎粗壮,或是牙齿比老虎尖利。而是因为我们比老虎聪明。地球很可能被一种更强大的力量所控制:要么是有些人借助先进AI,独掌大权,为所欲为,要么是机器智能超越人类,接过控制权。

这不一定是坏事。孩子并不介意和更加智能的人类(也就是爸爸妈妈)共处,因为父母的目标和他们的目标是一致的。AI也许还能解决人类所有的棘手问题,帮助人类实现前所未有的繁荣。”

但这样一来,人类的自我意识不就彻底改变了吗?人们将仰赖更加高级的行动者来照顾自身。人类不再是塑造这个世界的主要力量。

2016年9月,智能安保机器人AnBot(“深圳小安”)在深圳宝安机场投入巡逻任务

“没错,”他笑着说。“但当今世界的很多人本来就已经接受这个现实,而且还挺乐意。宗教信众们认为,有一种更加强大而智能的存在关照着他们。我认为,我们真正要戒掉的是这种傲慢的想法,也就是将自我价值建立在错误的人类例外主义之上。若能谦逊一点,认为还有比我们更加智能的存在,不过没有关系,我们的自我价值来自其他的东西,比如与其他人类建立深刻的情感联系,以及鼓舞人心的经历。这样的话,人类的处境会好很多。”

在这些时候,泰格马克听着不像个铁杆的唯物主义物理学家,倒像是嗑了药的“新纪元运动”教授,花了太多时间思索宇宙问题。催生这些机器的现代项目源于这样一种信念:上帝是人类发明出来的,而我们已经不需要这种发明。如果我们最终又发明出新的上帝来取代旧的,这岂不成了历史的讽刺?

泰格马克笑了。“我觉得,在AI时代,我们也需要一点幽默感和对讽刺的欣赏。我们之所以自诩为地球上最智能的生物,就是因为我们能构建这些高级的技术,而这些技术恰恰又会让我们的这种地位不保。”

通过调研与著书,比起当初在南肯辛顿博物馆外落泪那会儿,泰格马克变得乐观了许多。但这种乐观并不是因为没有担心的必要。而是他认为,要保证结果对自身有利,我们就得采取行动。他说,民众和政府一样,都得将注意力转向不远的未来,准备合适的安全工程学,并想清楚一个问题:我们想要创造一个怎样的世界?

那么,如果能在去年11月的联合国会议上发言,泰格马克会说些什么呢?

“请资助AI安全研究;禁止自动操控的致命武器;并拓展社会服务,让AI创造的财富造福所有人。”

未来的路上将一如既往地充满无法预见的后果,这些后果都是今天的作为或不作为所导致的。但采纳上述三点至少是迈出了坚实的一步,使未来不再那样堪忧。

相关阅读
人类的未来电影【人类的未来电影】共同行动 为了地球和人类的未来

3月23日是世界气象日。这是一个为了让人们更好地了解气象作用、推动气象学应用而设立的节日。今年世界气象日的主题是:太阳、地球和天气。当今之世,气候变化正在深刻地影响着人类的生存与发展,干旱、洪水、台风、暴雪等极端天气气候事件频发。而这一切,正是发生在全球气候变暖的背景之下。根据《巴黎协定》,本世纪结束前需将全球平均气温升幅控制在2之内。

人类的未来书籍【人类的未来书籍】大历史与人类的未来

什么是“大历史”?“大历史”是一种研究方法,它把人类历史置于生命、地球和宇宙历史的框架之中,审视从宇宙形成之初直至现今地球上的生命。“大历史”就是研究物质复杂性多种形式的产生与消亡的历史,从宇宙中zui大的星系团到zui小的亚原子粒子。作者在关注流经生成复杂性的物质和环境中的能量的同时,追踪了所有复杂性的主要形式的产生与消亡。

人类的未来科幻小说【人类的未来科幻小说】人类的未来

北京节能补贴是由北京市商委及相关部门推出的节能减排促消费政策。具有北京身份证明的居民可在苏宁门店或易购网页,选购符合节能补贴的商品、送货地址为北京市,申请参加北京节能补贴政策并提交相应的身份信息,经过政府审核通过后,以扣减节能补贴后的金额进行最终成交。实施时间:2015年11月30日至2018年11月30日。

人类的未来世界【人类的未来世界】人类的未来到底是什么?

如果不考虑自然因素导致的人类灭亡的情况(这是前提,非常重要),在任由人类自然发展的情况下,人类的未来大致可以分成三个阶段:战胜死亡、追求永恒的幸福和成为神。从近代开始,医疗技术飞速发展,百年间各种疑难杂症被一一治愈,虽然现代还有许多疾病无法治疗,但战胜它们只是时间问题。另一方面,人文主义统治世界,人类的生活水平不断提高。

人类的未来发展趋势【人类的未来发展趋势】人类的未来作文

今天在家休假,没事做,很无聊。于是我就到处找东西玩。突然,我眼前一亮:在妈妈的房间里我发现了一个十分奇怪的东西,它有三个按钮。分别是红橙黄三个颜色。那个东西的旁边放着一张纸条,纸条上说:欢迎使用时空穿梭器,红色按钮是来调整世纪的,橙色按钮是用来进出世纪的,黄色按钮十分危险,它是用来固定的。所以请谨慎使用。

推荐阅读
人类的未来在哪里人类的未来在哪里?
私有制不是人类的未来【私有制不是人类的未来】畅想人类的未来
新加坡总统府地址新加坡总统府地址 新加坡总统府变身厨师学校 这变形记水比较深
鞍山岫岩玉器批发市场鞍山岫岩玉器批发市场 辽宁岫岩玉器批发市场
分红型保险哪种好分红型保险哪种好 哪种分红型保险最好?分红型保险哪个好?
中国去杠杆化【中国去杠杆化】2020年的中国: 稳定仍是关键 不要指望快速去杠杆化
公司人民币基金公司人民币基金 人民币基金如何投资VIE架构企业