预言家预警:走向毁灭之路

#大想法 11:37 430

众译鸣谢

原文字幕: 原文字幕由译学馆搜集制作完成

译文字幕: 可可天使于2017.07.04制作完成

审核过程: 7

字幕详情

我们这本书的副标题是“找到阻止灾难的预言家”
卡桑德拉在希腊神话中被神诅咒
她能准确地看到未来却没人相信
我们在本书中所说的“卡桑德拉”
就是指能准确看到未来的人
人们是对的 卡桑德拉也是对的
只是被忽视了
我们自认为从曾经卡桑德拉的故事中获得教训
而现在看到预言的人仍然被忽视
我们首先发现问题 然后试图看到是否会有人对这些问题提出警示
这本书是关于人的 14个人:7个是我们已知的预言家
还有7个我们要检测他们是不是
通常预言家不直接参与他们担忧的事情
有人观察它
还有人研究它
但在加州大学伯克利分校的珍妮弗·杜德娜
她创造了它 她也是我们的卡桑德拉
这里的“它”是指CRISPR Cas9 她发明的一个技术——我确定
有一天可能会获得诺贝尔奖—— 一种基因编辑技术
能敲除菌株的缺陷基因或者敲入新基因
这将彻底改变人类的生活
它已经开始改变了
这意味着导致数百万年来令人类遭受痛苦和折磨的缺陷基因
都有可能被敲除
那么为什么发明了这个伟大技术的女人因为担心它
而半夜醒来?
她告诉我们 她担心她可能成为弗兰肯斯坦博士
她的技术可能会被人用可怕的方式滥用
它可能被滥用 例如制造生物武器
制造危害人类的新武器 会在我们没有任何解药时造成威胁
或者它可能只是用来为人类创造更加强大的能力
不仅消除基因缺陷还能添加新的超能力
所以一个场景中 我们和她讨论了如果朝鲜或中国
决定打造超级士兵
将身体强壮、运动能力超强的人打造成
勇猛好战、战斗力持久的士兵
或者他们只是创造出有杰出的计算机编程能力
和智商爆表的人会怎样?
如果在这个基因编辑的过程中 我们创建了一个阶级社会
一些人由基因决定做卑微的工作 而没有做其他事情的能力
会怎么样?
还有一些人变成有高智商和理解能力的统治者
高高在上地统治着弱小的人类
这些事情不仅会吓到CRISPR Cas9的创造者 还会吓到我们
当我们听了詹妮弗的故事 我们问自己
我们在书中展现的前七个人物里 她符合卡桑德拉的模板吗?
她是一个专家吗?
绝对是
她是专家
她创造了CRISPR Cas9
她是数据驱动型的人吗?

她有关于CRISPR Cas9和它能做什么的大量数据
是她预测了第一例综合症吗?
以前从未发生过的这样的事情吗?
答案是肯定的
觉得有点古怪吗?
这是好莱坞的小说吗?
没错
那么观众——决策者呢?
我们发现有件事 早期的预言家并不总是清楚
谁是决策者
人们总是互相指责 “这是你的事 或者 这至少与我无关”
在这种情况下 对基因编辑可能发生 也不可能发生
这个决定是由法律来做的 是由国际法来做的
但没有人知道这究竟是谁的职责
我们看到的这些问题之一是人工智能
现在坦白说我和我的合著者R.P艾迪关于是否做人工智能意见不同
我说 “我不认为这是一个问题”
毕竟如果一台电脑运行故障 你可以拔掉电源
显然我没理解这个问题
我的合著者R.P.Eddy却劝服我认为我们应该
找一些说“今天谈论这个的人是谁?”的人
不是人工智能专家而是通常关心它的人
那么他们是谁
比尔·盖茨 微软的创始人
伊隆·马斯克 特斯拉的创始人
斯蒂芬·霍金 牛津最伟大的物理学家
当我听到时 我说“OK 很好”
如果那些人认为这是一个问题
也许我们应该找预测这可能是一个未来灾难的专家
我们发现以利以谢·尤德考斯基 他不仅认为这可能成为一个灾难
他还奉献他的生活和他的所有工作的去处理人工智能对未来的威胁
因为他不认为人工智能的问题是不可避免的
但确实有可能 如果我们不做他想到的一些事情
问题是什么呢?
这个问题可能是“要是人工智能开始写软件”
复杂的软件
甚至加密成人类不理解
也不能处理的软件
未来就在眼前
我们已经有用于编写软件的软件
在谷歌 我们已经用人工智能为下一步的人工智能编写软件
程序员们渐渐开始害怕 因为他们并不十分
了解谷歌程序是如何做到这些的
以利以谢·尤德考斯基最害怕的是 超级智能即将出现
这意味着人工智能程序明显比人类更聪明
甚至人工智能因电脑再度发展
看到科技的进步 他认为
软件的能力将不会是线性增长
但它可能会在一夜之间爆发
某天 人工智能可能还在人类的控制之下
而第二天 它可能变成超智 比我们所知的任何东西
都要强大
如果你把人工智能网络运行到重要的基础设施上——物联网
另一个我们从书中看到的话题——可能是最坏的情况
人类将失去对社会的基础设施的控制
在更糟糕的情况下 人工智能将决定它不再需要人类
正是这种担心让他同意作为一个星球 作为
不同的国家和社会 限制人工智能的发展
用国际条约执行 并且监视以确保人工智能
不会打破由人类和他们的政府制定的限制
现在你已经提前看到了这情景
你在好莱坞电影里看到过
这是问题的一部分
今天我们看到有这么多潜在的预言家
就是人类提前在科幻小说里看到了这些威胁
所以不论是小行星撞击地球还是
人类基因工程或人工智能接管 我们没有认真对待预言家的部分原因是
我们在电影里、小说里看到过这些情节
人工智能的一个必然问题是机器人的兴起
早在这个国家我们就听到过许多辩论 关于
下一个自动化浪潮不是过去无自动化时期产生工作职业的转变
也许下一个自动化浪潮
会更先进更复杂 真正地让人类失去工作
这是一个争论 我们不知道谁是对的
有些人说 “有的人说人们失去了工作 不需要人类去工作
我们将不得不向什么都不做的人支付薪水”
电脑税就是一个提议——机器人税也是
另一个理论是 正如在过去技术进步可能会取代
某些工作 但它将创造新的工作
我们不知道谁正确 但是我们知道我们所有未来的预言家
或者我们现在的预言家对未来的预言 他们必须听
并且需要仔细考虑他们所提出的理论
和他们拿出的资料 即使他们是局外人——
少数专家观点
以下内容有剧透 , 请注意打开姿势

精彩推荐

  • 停止自毁,安抚自我

    03:12 776

  • 该如何与孩子谈钱

    04:49 956

  • 寄生虫是怎么霸占和指挥我们的神经的

    12:00 383

  • 美国人不愿放弃枪,那究竟要怎样减少屠杀?

    02:50 300

  • 驯服你的头脑,打开你的心扉,重拾人生最艰难的时刻

    04:16 991

  • 与拖延症斗争到底!

    10:17 1040

  • 空间和时间都不是真实的

    03:05 658

  • 白日梦可以增强创造力,而不是冥想

    04:15 763

更多视频, 请移步译学馆APP欣赏 GET APP