对人类的生存风险,菲尔·托雷斯(Mike Gilliland)和尤维·伊万诺娃(Euvie Ivanova)对未来思想家播客的访谈
阅读全文

迈克:谢谢,菲尔,加入我们的表演。拥有你真好。

菲尔:是的,谢谢您的加入,这太好了。

迈克:您是《终结》一书的作者,听起来很吓人。

菲尔:是的,它所讨论的主题令人不安,但我想说这本书的最终目的是非常乐观的。

迈克:是什么促使你写这本书的?

菲尔:我一直对末世论感兴趣,这是对世界末日的研究。 [00:01:30] 传统上,这是神学的一个分支,可以追溯到几千年前(基督出生前几千年)到古代波斯人,其中一位叫琐罗亚斯德的人发现了琐罗亚斯德教。他介绍了第一个末世论叙事。战争的最后本质上是一场类似世界末日的战斗,死者复活,最终判决,等等。然后基督教和伊斯兰教从中借了很多钱。我成长于一个非常讲福音,原教旨主义的家庭 [00:02:00] 家庭。我认为这就是激发人们对结束时间场景的兴趣的原因。

然后令人着迷的是,在2000年代初,就有一个领域–基本上是由一个名叫约翰·莱斯利(John Leslie)的人在1986年正确建立的,他写了一本名为《世界尽头》的书,在书中他从科学证据的角度给出了严谨的眼光。在可能导致人类灭绝或某种全球性灾难的各种情况下,将我们带回世界 [00:02:30] 旧石器时代处于延长的时间。 2000年代初期,人们从这个话题中获得启发,并开始开发一个严格的框架来讨论这些末时场景。令我着迷的是,千年趋势一直延续到人类文明的起源,但直到最近才被这种新的认识论注入,这是基于科学证据的,而不是 [00:03:00] 基于对私下透露给先知的启示的信念。

Euvie:是的,我认为在过去的几十年中,许多科学家一直在谈论气候变化是对我们的主要威胁。 2015年,有太多文章说这是有记录以来最热的一年,现在事情变得越来越严重。

菲尔:是的,完全是。原子科学家的公告–我不确定您是否熟悉–他们的世界末日钟应该 [00:03:30] 代表我们集体接近某种全球性灾难。他们来回移动分针,午夜代表厄运。 2015年,他们将进度从五分钟移到了三分钟。唯一一次不到三分钟的时间是在1953年,当时只有两分钟,那是美国和苏联都引爆了氢弹的时候。他们的科学与安全委员会由许多非常受人尊敬的人组成 [00:04:00] 根据他们的说法,我们真的很危险地接近某种灾难。

实际上,他们援引的两个最大原因之一就是气候变化,尽管巴黎的气候符合气候变化的良好姿态,但如果各国撤回或不符合设定的各种标准,则不会受到任何惩罚。

迈克:除了每个人都死了。

菲尔:是的。

Euvie:很大的惩罚。

菲尔:我同意。我认为,当危言耸听和 [00:04:30] 惊慌。我认为这些通常在公开对话中完全被混淆。它们之间的区别在于,警报程度基于现有最佳证据的程度。当您查看证据时,确实有充分的理由对气候,核武器有所警惕。然后,存在风险研究,即我之前提到的领域,该公告着眼于眼前的威胁-气候变化和核武器是眼前的威胁。

存在风险学者倾向于 [00:05:00] 从更未来主义的角度出发,展望未来几十年,突然之间,生物技术,纳米技术甚至是超级智能又带来了其他一系列真正的大风险。值得期待的东西。

迈克:今天我们只是在谈论这个问题,关于建立家庭车库化学实验室的危险性,如何变得越来越普遍以及一个对化学有一点了解的恐怖分子 [00:05:30] 可以轻松地在他的车库里制造生物武器。

Euvie:或者某些编程可以创建流氓的人工智能。

菲尔:是的,当然。我认为最大的问题之一是核武器仍然很难制造。您确实需要对设备和物理有相当全面的了解。您还需要一些非常稀有的材料,例如铀和p。它们不仅很难被抓住,而且处理起来非常危险。事实并非如此 [00:06:00] 微生物。一旦感染了炭疽,您就不会突然在实验室中耗尽。这是一种永存的材料。我认为最大的问题之一是,许多这些技术不仅变得越来越强大,不仅使人类能够以前所未有的方式重新排列和操纵物理世界,而且其中一些也变得更加易于使用。

至少到目前为止,核武器并非如此,但肯定会影响生物学的生物技术确实如此 [00:06:30] 可能与诸如分子制造材料之类的未来纳米技术结合。至少从理论上讲,也可能是AI,也可能是某些人在他或她的地下室碰到了正确的代码以创建一个自我完善的程序。我完全同意。这是一种新事物,每一代人都说:“末日临近。我们正处于历史上独特的时代。”但是我认为实际上有一个很好的基于证据的论证 [00:07:00] 为什么我们真的处于一个新时代的边缘。大规模毁灭性武器的能力将在世界各地的公民中,许多许多人中分配。

迈克:我很感兴趣您对宗教和末日预言的研究如何影响这项新技术以及您从中获得的见解。您的宗教背景是什么?您如何看待宗教在这些新的威胁中扮演什么角色?

菲尔:我的背景吗?我已经研究过很多宗教末世论,特别是 [00:07:30] 伊斯兰叙事和基督教叙事也是如此。特别是在配乐主义者看来,只要您听过提狂的话题,便是在配乐主义中,这是美国人中最受欢迎的观点。我相信,即使在非洲,也有很多人接受这种特殊的末世论框架。

Euvie:您能为不知道的听众快速解释一下这是什么吗?

菲尔:是的,可以,可以,可以。

迈克:对我来说。

菲尔:对于这个阵营的基督徒– [00:08:00] 有很多人,罗纳德·里根(Ronald Reagan)就是这种观点的拥护者,一些共和党总统候选人现在与真正的基督教狂热者有着长期的联系,他们热衷于即将发生的狂喜和中东战争实质上一个好兆头,值得庆贺而非绝望。基本上,这种观点是现在全世界的信徒都会被提上云霄 [00:08:30] 去见耶稣他会回到尘世,然后召集当时的所有信徒,他们将前往天堂长达七年的磨难期。

在这段时间里,反基督分子将崛起,接管联合国或欧盟(取决于您要求的人),他将与以色列签署和平协议。经历三年半的磨难,他将打破磨难,将发生大规模战争,超自然的灾难, [00:09:00] 疾病,冰雹从天空坠落一百英尺,最终,这将以大决战结束,这场大战将在以色列附近发生。此后,耶稣将重返地球,杀死反基督者,他将拥有他的所有追随者,然后他将在地球上建立这个奇妙的天堂般的千禧年王国,历时1000年。

然后,随后发生了一些其他各种事件。这个 [00:09:30] 与政治的联系将对未来的灾难产生影响,因为这种特定观点助长了当今世界上一些最大的冲突。例如,我敢肯定,多年来,许多共和党人都在谈论有关先发制人地攻击伊朗的话题。主要原因之一是–一方面,圣经说那些祝福以色列的人会自己祝福。另一个原因是,如果您在巴勒斯坦没有犹太国家, [00:10:00] 无法开始。没有苦难,您将不会获得永恒的和平,这最终就是他们想要的。无论出于何种目的,无论联合国对以色列国采取了多少制裁,都必须不惜一切代价捍卫以色列。

实际上,以色列本身的成立就有一份名为《巴尔福宣言》的文件,该文件于20年代初 世纪,他们明确表达了英国在巴勒斯坦建立犹太国家的意图。贝尔福 [00:10:30] 他本人是一个执政主义者,或者至少在一个执政主义者家庭中长大。有理由相信他受到圣经预言的明确影响。我认为,末世论的影响来自基督教,当然也有伊斯兰教-伊斯兰国是一个世界末日的邪教-可以回溯很长一段路,并且对于当今全球政治的不稳定是不可或缺的。宗教也不只是在做什么。

如果有活动 [00:11:00] 未来可能发生的事件与叙事不符,有一种趋势-人们可以辩驳-宗教人士无视它。在美国,气候否认主义是基督徒中最高的。一些主要的基督教领袖已经明确表示了这一点。约翰·西姆库斯(John Shimkus)是一位共和党国会议员,他大概在五年前就参加了国会会议-人们可以在线观看视频。他说:“在创世记中,上帝应许诺亚在大洪水过后再也不会发生洪水来摧毁地球,因此,我们不应 [00:11:30] 担心全球变暖。”它只是不适合叙述。在这方面,这也是巨大的危险。

迈克:是的,我从没想过对这些末日的信念以及您所描述的叙述是如何被激励的-他们将被激励-推动并实现它。然后,事情的另一面完全无知,他们说的是真正的实际风险,“这与我们的叙述不符,这不会发生。”

菲尔: [00:12:00] 是的,我认为那是完全正确的。实际上,只是缩小一点,给本书更多的背景知识,这是我真正感兴趣的问题–很多人都说过相当复杂的技术,可以利用这些技术来引发某种全球性的灾难。 。我们之前提到过它们:生物技术,车库里的某个人或一些实验室与先进的纳米技术搞混的东西。人们说:“在某些情况下,灰鹅的情况下,有可能会感染病原体。” [00:12:30] 等等等等。我真正感兴趣的是-这些工具本身并不会引发灾难,而我感觉没有人真正谈论过。

他们需要代理。潜在的风险,除非您有联轴器的代理,否则无法实现。几乎没有人谈到代理商。谁愿意毁灭世界?谁想带来全球灾难?这就是为什么我最终花大量时间谈论宗教,尤其是世界末日的运动 [00:13:00] 不仅相信即将结束,而且将自己视为加速整个过程的催化剂。正如许多恐怖主义学者所写的那样,世界末日团体是最危险的,因为他们没有什么可失去的,正如一位作者所写的那样,他们不想在桌子旁坐下,他们想要摧毁桌子,而且每个人都在桌子旁。展望未来,我们不仅应关注将以何种技术来实现终结的方法,而且还需要研究可能利用这些方法来实现目标的各种代理商。 [00:13:30] 关于与人类未来的繁荣不相容的目标,或者我们达到人类后状态或类似的目标。

迈克:当您有这些人完全有动机使所有不良情况发生在我们身上时,这是一个复杂而困难的主题。

Euvie:如果他们相信自己是正义的人,并且会见自己的上帝,耶稣或真主或其他任何事物,那么他们认为这实际上将是一件好事,他们将从中受益。

菲尔:是的,您当然可以想象随着气候变化,生物多样性的丧失而向前迈进,但是这些 [00:14:00] 这些事情并不能使人们意识到我们在宇宙飞船上不稳定的现实,而是可以增强他们的末世论观点。这是最无效的反应,但他们可以通过欢乐和末世论来应对气候变化。 “这终于发生了,结局已近,耶稣将要回来,最后这个疲惫的罪恶世界将永远消灭。”

迈克:您认为对此有什么解决方案?简单的问题,对不对?

菲尔:是的,这很简单。 [00:14:30] 在本书的最后一章中,我提出了一些可能的策略,例如您可能设有一个监控纳米技术的机构。正是这个非政府机构密切关注着世界各地正在发生的事情,我不是在谈论具体的事情,我是在谈论大局的可能性。我认为教育当然是一种,尽管我对此感到怀疑。如果回头看 [00:15:00] 在历史上,有很长的记录,人们只接受疯狂的观点。我认为关于认知硬件的某些事情使我们容易受到某些类型的幻想的影响。

我不确定仅仅通过教育就能最终解决问题。最重要的三件事-我很想知道你们对此的看法。我觉得这三个最大的选择有点未来主义,但我会完全在未来几十年之内的未来可能性范围内争论。一种是空间殖民。这个想法更广泛 [00:15:30] 如果您分布在世界各地,则一次事故在全球范围内造成后果的可能性就较小。这当然是有道理的,如果您在火星上有殖民地,您将在地球上遭受巨大的灾难,火星人将生存。伊隆·马斯克(Elon Musk)曾谈论过,我希望他希望在2020年代后期,是的……美国宇航局(NASA)谈论了2030年代。也许在我们的一生中,我们就能实现这个梦想。

超级智能是可能的。如果你有超级聪明 [00:16:00] 远见卓识指导我们克服了这一危险的风险过程,最终生存的可能性要大得多。当然,超级智能本身可能对我们的长期生存构成最大的生存风险。我认为教育是对软件级别的修改。您实际上是在为人们提供更好的软件,“这里有一些思考工具,这是清楚地思考某些问题的含义,这是一种合理的信念,等等”。或者,您可以尝试进行硬件修改。

我认为这是 [00:16:30] 如果您有某种方式重新设计我们的思想体系,那么结果可能说起来容易做起来难,但是结果可能是一个更理性的人,他不太可能屈服于对气候的疯狂幻想改变是全球性的骗局,或者耶稣在将来的某个时候返回以使一切正确。这些是我认为可以长期提供前进道路的三大战略。

迈克:太空殖民的事情,这让我很害怕,因为 [00:17:00] 最好的情况是,我们在沙漠星球上。我们已经离开伊甸园,已经到了比我们刚离开的地方差1000倍的位置,而要开始和变地以及使其处于任何条件下(甚至接近我们目前的状态)要困难得多。如果我们在技术上没有进步之前就无法集体提高意识,那我们就有麻烦了。我很好奇,如果您从冥想或迷幻的角度考虑过这一点,您如何 [00:17:30] 改善同理心并提高意识?

菲尔:老实说,我并没有想太多。我想起了实验,我敢肯定,你们已经听说过,我想是几年前,一位科学家研制出一种药丸,人们刚服用了这种药丸,突然变得更加同情。我可能记错了,但我认为是催产素,这也许更多是达到此目的的技术手段和药理手段。至于迷幻和冥想,最终,我想我一直关注的问题是理性。不只是工具理性,还不仅仅是能力 [00:18:00] 得到您想要的但道德合理的东西,然后尝试通过技术手段(即通过改变我们的表型的这种超人主义的根基)来实现这一目标。

我不知道,你可能有一点。我已经和很多其他做过扫帚的人进行过交谈,通常来说,常常会有欣快的时刻,也许当您喝了几杯酒或冥想时,这些时刻常常是您自己溶解然后突然不知所措带着感觉 [00:18:30] 合一和同志等等。是的,这些感觉肯定在这个世界上越来越重要,这个世界上存在各种危险的分歧,这是很重要的。

迈克:有趣的是,有一些关于不同先知的理论,他们通过某种圣礼获得了与上帝的见解和交流。人们通常不会谈论它,但是已经有研究人员研究了这些圣礼,并发现了许多有关精神活性化学物质的证据。 [00:19:00] 摩西和燃烧的灌木丛可能是某种包含DMT的灌木丛。如果您曾经经历过DMT旅行,如果您不了解并且不知道那是您要进入的领域,那么我可以如此轻松地了解如何从该经历中提取信息并说, “上帝在对我说话。”

在我们与迷幻主义者一起经历的其中一些经历的核心中,这是一种团结意识,而随之而来的则是更多的同理心。我不确定所有人都会发生这种情况,但是 [00:19:30] 实际上,从“嗯,如果它是受迷幻灵感启发的呢?”的角度来思考预言的,这很有趣。

菲尔:是的,当然。我不知道你们是否读过《启示录》。

迈克:不。

菲尔:这真是一个令人毛骨悚然的叙述。它充满了七头野兽,只是最奇怪的角色和最奇怪的事件。在某些人的影响下,它确实读为某人的实时日记 [00:20:00] 很重的毒品。我知道科学家们过去也曾谈论过各种先知的可能性。据我了解,穆罕默德是这里的候选人,甚至甚至是撰写启示录的约翰,也可能不是在吸毒。相反,这些人可能患有称为颞叶癫痫的神经系统疾病。

迈克:有趣。

菲尔:是的,非常有趣。我不想夸大案件。我认为这是有争议的 [00:20:30] 观点,但他们提出这一建议的部分原因是,患有这种神经病理学的人往往具有这些经验,也许最好将其描述为属灵的。我相信您也已经读过了,当人们患有癫痫病或某些疾病而要去做脑外科手术时,他们经常会电刺激新皮质的各个部分,以确保它们不会去除真正重要的东西。您可以在这些人中引发各种非凡的经历 [00:21:00] 通过刺激大脑突出。致幻剂或仅是脑部疾病是对未来这些非凡愿景的某些背后的原因,这是很合理的。

Euvie:是的,有一部关于这部纪录片的纪录片,叫做《大脑上的上帝》,它研究了患有这种启示性宗教经历的癫痫患者。

菲尔:是的,这真的很有趣。

迈克:我想回到您谈论警钟与警钟的时候。您可以多谈一点吗?

菲尔:好的。 [00:21:30] 回到我们之前讨论的一个问题,即认识论。当代哲学的许多方面都是如此不可思议,它们处理着如此深奥的问题,这些问题与会影响quotidian生活的任何事物都相距甚远。但是我认为认识论可以对公众话语,社会整体合理性做出真正的重大贡献。正如山姆·哈里斯(Sam Harris)所说, [00:22:00] 这是一条非常好的路线,“历史上没有社会,也没有任何人因为过分理性而受到伤害。”过于相信自己的信念与现有最佳证据成正比。

受到惊吓和成为警惕者的想法只是有时结束演示可能是相同的。您可能有一位气候学家在说:“我们被搞砸了,这真的很糟糕。我不会生孩子的。”你可以去找一个 [00:22:30] 预言家认为,美国中心地带将会发生一场大地震,这将导致美国社会崩溃。他们的警报程度是可比的。纯粹出于认识论的原因,人们会认为这是警惕。担心僵尸末日或担心耶稣回归或伊斯兰叙事中的事件是不合理的。

但是担心是非常非常合理的 [00:23:00] 气候变化,生物多样性丧失,然后再从更未来的角度来看,又担心孤狼或恐怖小团体可能会感染埃博拉病毒,然后以各种方式将其武器化。这些是理性的考虑。从这个意义上讲,尽管存在的风险学家有时可能会显得危言耸听,但我强烈认为他们并非如此。原因全在于论点。这些都是所有这些信念的合理性。 [00:23:30] 另一种表达方式是相信是真理之旅的目的地,并且该之旅应始终以证据为指导。

信念应该永远是目的地,而不是出发点。我认为宗教也许是我们从信仰开始的系统世界中最好的例子-信仰是出发点,然后他们花所有的时间努力捍卫自己的信仰以抵御新出现的研究等。等等。您可能在街道的拐角处有两个人挥舞着手臂,“尽头就在附近。”它们看起来也许听不清。 [00:24:00] 他们在做事情,从事完全相同的活动。但是,如果您稍微靠近一点,也许一个,他们的恐惧是基于合法的科学,另一个则是基于对未来的明确陈述的信念而产生的各种担忧。

一个人不是危言耸听的人,即使他或她可能非常惊慌,而另一个却是一个危言耸听的人。我之所以提起警惕,是因为该术语在媒体中被广泛使用,尤其是在谈论气候变化时, [00:24:30] 特别是右翼媒体–气候警报者等等。我只想提供某种术语的清晰度。尽管气候学家担心未来,但他们并不是警报者。

迈克:如果大街上的两个人都坐在那里挥舞着手臂,他们在某种程度上说的是同一件事,而问题在于没有人对此采取行动,或者没有足够的人采取行动,我很想知道如果您以不同的动机说同一件事,那么为什么您相信宗教是危险的。

菲尔:一,因为事情 [00:25:00] 这就是说,尽管它与科学家可能说的很像,但确实有很大的不同。这是关于未来发生的超自然事件,是无视现实。如果您有一个世界末日的团体,就像过去许多人一样,相信必须毁灭这个世界才能得到拯救,那肯定会使我们处于危险之中。然后,也许将来您不仅可以利用核武器,而且可以利用生物技术,合成生物学,纳米技术等来赋予他们权力。他们可能出于以下原因而受到激励 [00:25:30] 完全脱离现实,再次引发全球灾难,从而造成人类深重的苦难和痛苦,甚至可能从更超人类主义的角度来看,甚至是认识到未来技术的所有美好可能性:无限期的寿命,消除疾病,事物这种性质。

Really, 日 e issue is epistemology – what is 日 e epistemological basis of different claims? 当一个’s beliefs are not properly anchored to 日 e evidence, [00:26:00] chances are 日 at’会很糟糕。您’重新尝试以与客观现实无关的信念来导航客观现实。

Euvie:我们为什么不回头谈谈您提出的可能阻止这些问题发生的三种解决方案。我们涉及的一个是空间殖民,另一个是超级人工智能。第三个是超人类主义。您如何认为这可能是解决方案?

菲尔:超人类主义?

Euvie:是的。

菲尔: [00:26:30] 这个想法是,如果您回顾人类历史,就会有很长的记录,即人类的行为不合理,行为危险,受到各种宗教信仰的驱使而参与战争和其他类型的冲突。对于我-我也对其他人-得出的结论是,如果您携带核武器并将其移植回中世纪,我不确定我们现在是否会在这里。西方经历了启蒙时期,但事实上,宗教在当今世界范围内正在增长。怀疑超自然现象的人 [00:27:00] 代理商, 日 at demographic is actually shrinking.

最终,问题的关键是人类可以被几乎所有方面都将具有前所未有的强大功能的技术所信任。再次,在某些情况下,与核武器不同,它也将可能难以置信地被使用。一个生物黑客或一个恶意生物黑客可以在他或她的地下室里花700美元建立一个实验室。人类可以信任吗?我不确定。有一个很好的例子,那就是 [00:27:30] 灾难的秘诀。超人类主义的整个思想是使用技术以各种方式改变我们的心理硬件和身体,以改善自己,使自己更加理性,明智,道德等。

我怀疑,如果您愿意,世界末日机器和人类杂乱无章,这比世界末日机器和充满后人类的杂乱无章的世界要危险得多。这个想法可能是为了生存,我们需要灭绝, [00:28:00] 这里的灭绝不是我们的血统像渡渡鸟或恐龙那样终止的一种情况,而是被人类或[听不清的新物种所取代 [0:28:10] 或类似的东西最终在肉体上变得有些古怪。是的,从根本上讲,责任更大,因此破坏世界的可能性较小。

Euvie:我将在这里扮演恶魔的拥护者。假设我们沿着这条路线走,如果,A,某些人不想成为超人类,我们会强迫他们[00:28:30]和B,如果事与愿违,该怎么办?

菲尔:关于第一个问题,我绝对不认为强制性做法在道德上是正确的。它必须是自愿的,我非常相信这一点。话虽这么说,但我想起了雷·库兹韦尔(Ray Kurzweil)和他的内德·卢德(Ned Lud)在他的《 2005年奇异之处》一书中的一次虚假谈话。是他的名叫Ludite。内德在一次简短的交谈中说:“也许我不想以各种方式增强自己。”库兹韦尔说:[00:29:00] 这对我来说很好,但是您真的不会花那么长时间参加对话。”

我认为可能会朝着后人类迈进。一旦该过程开始,我想可能会有很多人遵循它。他们将意识到自己在学校的能力不强,父母将希望以各种方式增强孩子的能力。我怀疑会有社会动荡。重要的是,这种势头将是自愿的。

Euvie:即使在这种情况下,今天我们仍然有一些人,生物学的人出生, [00:29:30] 预期寿命可能是80或90岁。我们还有80或90年。即使我们今天有这种超人类主义的选择,仍然有一段生机勃勃的人生活并且有能力做所有这些事情。

菲尔:破坏性的东西?

Euvie:是的。

菲尔:是的,我认为这是一个好主意。这有点紧急情况。这种情况之所以危险是因为:……人类的形态在至少30,000年内几乎没有改变,我不知道,也许是100,000年, [00:30:00] 然而,突然之间,我们处于这样一个环境中,只要有杠杆,我们就会触手可及。如果我们手段的工具理性(即在世界上产生变化的能力)远远超过我们目标的道德理性,那将是一个非常糟糕的情况。这正是您在说的。

我还要补充一点,没有多少人写过这些问题。现有的风险研究处于范式化前的状态,我们都处于黑暗中,要借用Deuton的话,实际上并没有很多 [00:30:30] 肩膀站起来看看前方的一切。关于您的其他观点,关于超人类主义的整个观点,我完全同意,这可能会适得其反。增强的希特勒绝对是恐怖的。我们如何确保增强功能用于良好目的而不是破坏性目的?我不知道。也许当技术得到更多发展时,因此,它们的出现就更多了,也许我们可以更清楚地看到如何准确地解决这一特定问题。

迈克:您在这本书的任何地方都提到 [00:31:00] 移情技术?

菲尔:我不是真的在讨论,不。

迈克:好的。

菲尔(Phil):我在顺便提及了我之前的手势,这是人们可以用来增强同理心的药丸。不,我不是真的。

迈克:看来您专注于…

Euvie:理性。

迈克:是的,确实如此。合理的解决方案。是的,我很好奇这是为什么。

菲尔:我认为这是一个很好的问题。我实际上会说,并不是我对此不感兴趣–我对此非常非常感兴趣。我认为写这本书的问题是 [00:31:30] 试图以一种连贯的方式将这些思想整合在一起的文学作品本身就是一项任务。一些可能性正逐渐消失。我确实认为同理心很有趣。就我而言,我不相信许多超人类主义者谈论过很多。我认为有些人对此进行了讨论,但是我认为这种可能性在文献中没有很大的代表。我对此有错吗?

迈克:我认为您实际上是对的,我从没听过跨界音乐。你可能知道你是否 [00:32:00] 熟悉我们的播客,我们谈论了很多有关冥想的知识-现在最近迷幻了-但我们也对技术和未来的可能性非常着迷。我们发现在这两个领域中没有人能够跨越。

Euvie:很少。

迈克:这很奇怪,因为在我看来,这是我们这个星球上许多问题的根源,严重缺乏同情心,这增加了风险。我们正在寻求针对世界级威胁的这些聪明的解决方案,但我们并没有真正针对个人 [00:32:30] 在如何进入这个全球大家庭方面。

菲尔:是的,我认为这很有趣。这让我想起了,如果您愿意的话,全球恐怖主义正在迅速发展,尤其是在伊斯兰世界。许多恐怖主义学者认为,这是全球化的根本原因。随着全球化的发展,有些社区受到威胁,其身份受到挑战。他们认为,他们的尊严受到损害。我认为同理心与此有关。全球化 [00:33:00] 在这些社区中,感觉被推向了边缘,传统正在消失等等。我怀疑移情与全球化助长此类暴力的原因有关。

存在风险学者几乎完全关注工具而不是代理商。另一方面,您拥有新的无神论者,他们的根本见解也许是宗教不仅在哲学意义上是错误的,而且是危险的或 [00:33:30] 不利于文化繁荣和文明繁荣。我认为有很多数据可以支持这一点,我很乐意谈论它。我觉得这两个领域之间可能会发生非常规的异花授粉,但到目前为止,还没有人谈论过。您所描述的情况完全相同。这个领域似乎存在着空白-例如,为什么没有人谈论同情心,以及在使世界更加安全,通过冥想增强同情心方面可能带来的好处 [00:34:00] 或迷幻或其他。我赶紧去尝试在新的无神论者和存在的风险学者之间进行对话。也许您应该探索同情的可能性。

迈克:我有时会开玩笑地认为自己是精神病康复者,所以对我来说这是一个有趣的话题。

Euvie:学习如何变得更善解人意。

迈克:是的,确实如此。迷幻药的使用已经积累了很多经验和知识,但随后 [00:34:30] 理性探索不同主题,技术,同情心和类似事物也推动了这一点。我的意思不是要带着这些问题将您从此处拉扯。

菲尔:不,不,一点也不。我认为这是一个绝妙的主意,对于我为何忽略它的问题,我确实没有很好的答案。博斯特罗姆(Bostrom)最新一本书《超级情报》(Superintelligence)的开头有一句,他承认书中的一切都可能是错误的。同样,他处于类似情况;他在说 [00:35:00] 几乎没有什么可以站出来的问题,对我们将来可能遇到的事情做出有见地和准确的断言。

迈克:是的,我们全心全意地致力于提高人类智能水平,我们必须变得如此专精才能产生任何效果。我认为您完全正确;一切都是新的,这里没有肩膀可以站立。我们所做的一切,如果我们深入研究,我们是如此专业,很难不浇水而从其他学科中吸取教训 [00:35:30] 写下你的论文。

菲尔:是的,我认为这是一个巨大的挑战。另外,我也不认为这是双曲线的说法,我认为在人类历史上没有什么时候拥有大人物思想家更为重要的了。我们生活在一个专业化,零散的时代,但这实际上是当我们需要有人对整个情况进行鸟瞰,然后根据该特定观点得出合理的结论时。这真的很难,因为世界超级复杂,技术一直在变化,有很多因素。是的 [00:36:00] 有深度权衡。

鉴于时间和记忆的局限性以及类似性质的事情,您越深入,就越看不到子子子字段如何适应更大的字段。然后,从更广阔的角度出发,您就缺少了关于移情之类的话题的各种详细信息,以及它如何在确保安全的未来中发挥作用。这实际上是我主张增强认知能力的原因之一-提高我们的杂耍能力 [00:36:30] 并整合和整合来自多个不同领域的大量信息,从而使我们能够更好地了解。

Euvie:是的,我认为桥接不同领域的需求越来越大,价值也越来越高。

菲尔:是的。我在本书中竭尽全力,而本书的目的仅仅是激发其他人的兴趣,例如,“哦,了解宗教实际上可能很重要”,宗教可能是世界上最重要的文化现象之一。 [00:37:00] 举个例子,2076年,对于学习生存风险技术甚至恐怖主义的绝大多数人来说,这是毫无意义的一年。但是,一方面,这一年不仅可能会出现非常强大的破坏性技术,而且这一年可能对人类特别危险。原因是在伊斯兰历中大约相当于1,500。从历史上看,世纪之交是世界末日增加的时期 [00:37:30] 热情。

例如,被广泛认为是世界末日的伊朗革命,还有一场不可思议的事件,称为麦加大清真寺围困。大清真寺(Grand Mosque)是世界上最大的清真寺,围绕伊斯兰教最神圣的地方-天房(Kaaba)建造。这是一个巨大的清真寺。第一次看到图片时,我简直不敢相信我以前从未有过这张照片,因为它是如此之大。同年,即1979年,伊斯兰革命 [00:38:00] 一群世界末日的坚果盒接管了大清真寺,并把大约10万人劫为人质,声称他们与弥赛亚人的关系已经终结。

后来,许多成员被斩首,因为这是沙特阿拉伯,这就是他们今天处决人的方式。要点是,在伊斯兰历中是1400,相当于1979。1,500大约是2076。如果您不学习, [00:38:30] 宗教,如果您只是像许多现存的风险学家一样正在研究工具,那您肯定会错过的。在直到2076年的几年中,您将非常有可能增加回教徒对伊斯兰社区的热情。有一项民意测验显示宗教活动正在增加,特别是伊斯兰教。伊斯兰教是世界上发展最快的宗教。到2076年,世界上可能有50%是穆斯林或其他人。

这意味着,从绝对数字的角度来看, [00:39:00] 有人将掌握一项非常强大的先进技术,并试图用它来摧毁世界以拯救它,这可能会很高。我认为大图思维非常重要,但也很难做到。

迈克:最令您恐惧的潜在风险是什么?

菲尔:我认为这确实取决于时间范围。我之前提到过,人工智能可能对人类的长远未来构成最大的威胁。我认为博斯特罗姆和史蒂芬·霍金都同意。马上,我很担心 [00:39:30] 气候变化和生物多样性丧失。不是因为我认为那些事件会导致某种灭绝事件,我认为那是不可能的,尽管它可能会发生。我认为,这两种现象构成的最大危险是它们是冲突乘数,它们很可能会改变世界各地国家与非国家行为者之间的冲突门槛。随着资源越来越稀缺,紧张局势加剧,恐怖主义的可能性将会增加,战争爆发的可能性 [00:40:00] 将增加。

实际上,去年在美国国家科学院院刊上发表了一项研究,从本质上说,原因是从人为气候变化到叙利亚伊斯兰国的崛起。这是一个非同寻常的主张,但也很有道理。一个事件显然导致了另一事件。可能有五个事件串联在一起,一个事件导致另一个事件,最后是伊斯兰国,这是人类历史上规模最大,资金最雄厚的恐怖组织。国防部 [00:40:30] 中央情报局现任局长约翰·布伦南(John Brennan)都谈到气候变化是未来将助长恐怖主义的因素。

再次,您可以想象一个拥有健康的生物圈的世界,其中包含人类和极为危险的技术。显然,这比一个包含极其危险的技术和人员并正在经历极大的环境退化的世界更加安全。那肯定是危险得多的情况。 [00:41:00] 我真的很担心生物多样性的丧失和气候变化。我认为减轻这两种现象是我们现在可以做的最好的事情之一。

Euvie:是的,我明白您的意思。据我了解,中东并不总是一片沙漠,然后在某个时候它变成了一片沙漠,这给该地区带来了压力。您所说的话如何可能实际上加剧冲突是有道理的。

菲尔:是的。不幸的是,还有另一项研究出来了,我也相信是在去年。他们的主张 [00:41:30] 就是说,在几十年的时间尺度上,整个伊朗地区都会出现热浪,我不记得其他地方了。但是会有本质上人类无法生存的热浪。它们将达到我认为的95度湿球温度,这基本上是您自然出汗的体温调节过程不再有效的时候。您站在外面,汗流sweat背,不会冷却,身体会过热。

Euvie: [00:42:00] 厨师。

菲尔:这是一项非凡的研究。到21日末,零件将在一定时间内无法使用ST 世纪。

迈克:什么使您对未来最乐观?

菲尔:好问题。老实说,当我参加存在风险社区并阅读其他著作时,还有其他一些人在这些非常棘手的问题上非常聪明,他们真正关心人类的未来,未来的生活以及实现所有这些目标。未来技术的潜在奇迹。我觉得我的书旨在成为 [00:42:30] 就像彼得·迪亚曼迪斯(Peter Diamandis)的丰富度的计数器我不知道您是否曾经阅读过。

Euvie:是的。

菲尔:是的。我对他在那儿说的一切没有争执。我认为未来可能是惊人的,我真的很想到达那里。再次,我觉得人们已经忽略了代理工具耦合的其他方面,所以我想着重于工具,场景以及各种代理,因此我们可以最大程度地获得可能的结果。

迈克:几乎就像 [00:43:00] 在我们进入游戏之前,您需要在方程式中定义变量。

菲尔:是的,在某种程度上。为了概念清晰起见。我什至不认为我所说的一切都是正确的。我认为这是合理的,值得考虑继续前进。再一次,没有人真正谈论过代理人的东西,宗教的性质以及由大量人持有的末日信仰(到2050年将达到数十亿)将如何在未来与所有这些技术进行交互。是的,尽我所能 [00:43:30] 在黑暗中摸索,希望有另一代人受其启发并做得更好,这就是进步的过程。

Euvie:我想谈谈超级智能是一种潜在的解决方案。您认为这里有什么可能性?

菲尔:是的,超级智能可以(如果它很友好,这当然是一项非常艰巨的任务)可以帮助我们解决气候变化,生物多样性丧失,可以帮助我们有效地提高自己。从理论上讲,我已经谈到过 [00:44:00] 定量超级智能与定性超级智能之间的差异。顾名思义,量化是一种具有基本能力但可以更快地完成所有工作的方法。或者,只是具有完全相同的内存类型(扩展内存除外),它可以记住更多内容,并且可以高速处理该信息。还有一个定性的人可以访问我们无法访问的概念。

从哲学的角度来看,我们有 [00:44:30] 这些嵌入在这种思想独立性现实中的思想。在我们的思想中,我们通过概念代表现实的各个方面。因此,如果我们的概念生成机制受到限制,如果它们不能生成某些概念,那么这些概念所对应的现实方面将永远是我们所不知道的。那有意义吗?

Euvie:是的,完全是。

菲尔:就像狗一样,不管它多么努力,也不会理解玻色子是什么。它只是没有 [00:45:00] 必要的概念生成机制。我们是动物界的一员,我们与狗的区别在于程度;完全有理由认为我们的思维有限,原则上,有些概念我们只是无法掌握。 [听不清 [0:45:15] 称为认知封闭或认知界。可能是这样。如果您具有定性的超级智能,那么它就有可能获得访问整个全新概念库的机会,因此可以设计出永远暗示我们的理论。

它可能 [00:45:30] 即使从风险的角度来看,它甚至可以识别当前存在的宇宙中的风险,但我们不仅不知道,而且永远也不知道。就像狗永远不知道小行星撞击的危险一样,即使这种危险困扰着狗,它也无法比地球上其他任何生物都难以解释。目前可能存在宇宙风险-也许我们周围的人都知道-对我们的未来构成了非常严重的危险。如果我们要成功发展定性的超智能, [00:46:00] 它可能会说:“我看到你们完全忽略了这五种风险”,它会试图向我们解释这些风险,我们不知道,您只是无法理解它的意思。

它甚至有可能保护我们免受诸如此类的宇宙现象的侵害。这完全是理论上的,但我认为实际上需要为这些可能性辩护。定性的想法是,您可能会发现非常简单的现象–根本不需要复杂–可以变得简单, [00:46:30] 但是,我们只是没有这个概念,因为我们本质上是在这种介观的现实水平上进化的。我们真的很擅长理解介观现象,但是当涉及到大型事物时,当涉及非常小的事物时,我们的概念能力确实很紧张。再往前走一步,可能会出现非常简单的宇宙现象,但我们只是没有这个概念。对我们来说,玻色子对狗是什么。

Euvie:我想知道一个普通人实际上能做什么 [00:47:00] 这样做吗?显然,科学家正在研究这些东西,而哲学家正在考虑这些东西,但是普通人可以做什么以实际帮助情况或进行自我教育?

菲尔:好问题。我认为教育自己是您可以做的事情。我认为,投票选出正确的政治家绝对是个人能力范围内的事情,那么我要说的是过上碳中和的生活。可能要做的另一件事就是捐赠支持 [00:47:30] 可以,诸如人类未来研究所和现有风险研究中心之类的机构,以及其他一些机构。学习基础认识论,了解拥有合理信念的含义,然后尽最大努力将恐惧与总体考虑的最佳证据相称。

迈克:我想这就是我们这集的全部时间了,菲尔。我很高兴您能来谈论所有这一切。

菲尔:是的,非常感谢您问我。这真是太好了。

从全球气候变化到核战争,在任何时候都有许多威胁我们生存的因素。存在风险是危害整个人类生存的风险。这些威胁有可能导致人类灭绝或对人类文明造成不可逆转的破坏。

末世的忧虑和预言并不是什么新鲜事:哲学家和宗教人士宣称,在人类历史上的数千年中,“末日即将来临”。

甚至还有一个神学领域专门研究末日叙事,称为末世论。传统上,该研究领域主要是宗教领域。但是,在现代,科学家也对结束时间场景产生了兴趣,并且存在风险研究的新领域诞生了。

存在风险研究

存在风险学领域试图理解和权衡这些威胁,并提出减轻或减轻这些威胁的方法。第二次世界大战后成为严肃的科学研究领域–毫不奇怪。 1947年,《原子科学家公报》创建了“世界末日时钟”,以象征世界距离全球灾难有多近–时钟越接近午夜,威胁就越大。

在2015年,时钟的指针被调到了午夜的3分钟–我们有史以来第二次接近潜在的全球灾难。主要原因是对全球气候变化缺乏行动以及许多国家储存核武器的担忧。自世界末日时钟建立以来,唯一的时钟指针接近午夜是在1953年,当时美国和苏联都引爆了热核弹。

未来技术和存在的风险

随着我们跨入21世纪并开发纳米技术,生物技术,人工智能等新技术,我们将面临新的生存风险,这是我们从未见过的风险。随着这些技术变得越来越先进,普通人更容易使用,滥用或滥用的风险也会增加。

研究与我们今天面临的主要存在风险有关的科学数据非常重要。考虑到我们拥有无可争议地证明它是真实的和人为的数据,气候变化之类的风险将不再被否定。展望未来并了解我们将在10、20、30年面临的风险也很重要。

菲尔·托雷斯和宗教极端主义因素

菲尔·托雷斯(Phil Torres)是一位研究者和作家,多年来研究存在风险。他已经在伦理学和新兴技术研究所工作了近10年,是那里的会员学者。他最近出版了一本书,名为《终结:科学与宗教告诉我们关于启示录》。在本集中,我们将与Phil谈谈他对21世纪人类将面临的主要生存风险的研究和看法,以及对他们的可能解决方案。

菲尔(Phil)的研究重点在于未来技术以及可能滥用或滥用它们的人们之间的相互作用。他的书特别关注具有末世叙述的宗教,以及对将这些预言变为现实感兴趣的人们。

语录:

“When one’的信念没有正确地扎根于证据,很有可能’会很糟糕。您’重新尝试以与客观现实无关的信念来导航客观现实。” – Phil Torres

在这集《未来思想家》播客中:

  • [03:05] –我们今天面临哪些生存风险?
  • [05:00] –未来存在的风险
  • [07:10] –为什么宗教叙事是研究的重要内容
  • [12:31] –了解之间的关系“agents” and 日 e “tools”
  • [14:24] –潜在的未来存在风险的解决方案
  • [21:20] – Alarm vs. Alarmists
  • [31:59] –如何增强同理心?
  • [42:04] –对未来的乐观

提及和资源:

推荐书籍:

  • 结束 通过菲尔·托雷斯(Phil Torres)
  • 丰富 彼得·迪亚曼迪斯(Peter Diamandis)

来自未来思想家的更多内容:

 

1条评论

评论被关闭。

  1. 菲尔(Phil)要参加9月4日至8日在瑞典哥德堡举行的存在性会议吗?

联系我们

打招呼!

正在发送
我们的使命是帮助人们唤醒,发展并适应不断变化的世界。

使用您的凭据登录

忘记你的资料了吗