人工智能与自主思考 | Max Tegmark

#大想法 08:21 293

众译鸣谢

原文字幕: 原文字幕由译学馆搜集制作完成

译文字幕: 兰代于2017.10.27制作完成

审核过程: 3

字幕详情

在所有我知道的词语中
没有一个能比“意识”这个词
让我的很多同事情绪激动或易于愤怒
许多科学家视它为哲学问题 认为它不值一提
其他很多人则认为这是个核心问题
你得担心机器拥有意识之类的事
我的看法是什么
我觉得意识既无关紧要又非常重要
我来解释一下原因
首先 如果你被一颗热追踪导弹追捕
它有没有意识
有没有主观经验
是否把任何东西都视作同类 都跟你完全没关系
因为你要关心的 是热追踪导弹会做什么
而不是它的感觉
认为未来的人工智能没有意识 你就能免遭伤害
这样想就大错特错了
你要确保的是 它的行为和你的目标一致
另一方面 我认为意识在某种情况下非常重要
同时它也极具魅力
大约400年前 伽利略可能说过
如果向上抛一个苹果和一个榛子
它们会完全按照抛物线的轨迹下落
而且他还能给出相关的数学公式
但为何苹果是红色的而榛子是棕色的
或为何苹果是软的而榛子是硬的 他则毫无头绪
对他来说 这些超出了科学的范畴
400年前的科学
只能有限地解释这种与运动有关的可感知的事物
随后麦克斯韦方程问世
它向我们解释了光和颜色
(可感知的事物)才进入科学领域
然后出现量子力学 解释了苹果比榛子软的原因
以及其它所有事物的本质
科学已逐渐能解释越来越多的自然现象
现在 如果你问科学能做什么
实际上 它能快速描述那些科学家都无法言说的极其微小的物质
我认为意识是科学界的极限
人们用这个词表示很多不同的东西
我简单的称之为主观经验
对颜色 声音 情绪等的体验
就是它成就了我
它完全不同于我的行为 而行为是
即使我变成不能体验任何东西的僵尸
也还是可能存在的
所以 你为什么要关心那个呢
我关心它 首先是因为从根本上说
那是我们了解世界的基本的东西:个人经历
我喜欢从科学上去理解它存在的原因
而不只是把它留给哲学家
第二点 在目的和意义方面 它也非常重要
“意义”与物理定律无关
也没有它的方程式
我觉得我们不应该在宇宙中寻找自己存在的意义
因为是我们人类赋予了宇宙意义
因为我们是有意识和体验的生物
我们的宇宙过去没有意识
它仅仅是一团四处运动的物质
人类的大脑逐渐进化出非常复杂的模式
我们清醒过来 宇宙也意识到自身的存在
我们的银河系美得不可方物
它们怎么这么美
因为我们有意识地感知它们
我们用望远镜观察它们
如果未来我们因技术搞砸了 所有生命都灭绝了
在我看来 我们的宇宙又会毫无意义
仅仅是一个巨大的无用空间
一个同事告诉我 他们认为意识是哲学问题
我向他们提出挑战 强奸和折磨有什么问题
我要求他们用意识或经验之外的词向我解释
如果他们答不出来
那只是因为他们所说的太糟了
仅仅是一团电子和夸克以这种独特的方式运动
而不是以那种独特的方式运动
那样有什么糟糕的
我认为 获取逻辑 伦理的科学基础 道德 意志
以及意义的唯一方式正是体验和意识
这也让它(意识)变得非常重要
因为我们了解意识 能为未来做好准备
我个人认为 实际上这是某种
我们最终能科学地理解的东西
我不认为活虫子和死虫子之间的区别
是活虫子有某种不为人知的生命之源
我把虫子看作机械 死虫子就是损坏的机械
同样 我认为让大脑产生意识的 除了食物之外
它们在大脑里重新排列 但它们是无意识的
不是因为构成食物和意识的物质不同
它们都是夸克 只是重新排列了 对吗
是它们排列的模式不同
我认为这是个科学问题
这种信息处理模式有什么特性
让那里(大脑)形成一种主观经验呢
你可以想象建造一个大脑扫描仪
实际上在我工作的麻工学院已有台相当先进的
它里面有些软件可以测试你对意识持什么理论
并能预测你在体验什么
如果我坐在这台机器里 电脑屏幕说
我现在能看见你大脑里的信息处理过程
表明你在有意识地思考一个苹果
我就像 对 就是那样 正确
然后它说 我看见你大脑里的脉跳
你也在想着这个
我会像 不 我没有意识到那个
现在 我已经阻止了应用于软件的那种理论
它是经得起检验的 是一种科学的理论
如果我们某天能发现一种类似的理论
市场上也有一些可供选择的理论
如朱利奥•托诺尼的整合信息理论
一旦有理论能以那种方式通过测试
我们就会开始认真考虑它
我们能根据它建立一个意识检测器
首先那会非常有用
急诊室里的内科医生会喜欢的
如果有昏迷的病人被收进来
他们就可以把病人放进意识扫描器
判断他们是否患有闭锁综合症
虽不能交流但还有意识
还是成了无意识的植物人
这也将让我们理解
未来我们建立的人工智能系统是否应该有意识
以及切断它们的电源时 我们是否应感到内疚
有人喜欢未来的家庭助手是没有意识的机器人
那样让它们做无聊琐事或断电时 就不用感到内疚
有些人可能更喜欢有意识的机器人
那样它能获得积极的体验
这样他们可以假装它有意识而不会被吓到
即使它是个无意识的机器
最重要的是 在遥远的未来
如果生命从地球传播到其它星系
整个宇宙都生机勃勃 充满令人惊叹之事
假设这种生命成为人类的后代
如果这些都变成没有意识的僵尸 不是很糟吗
我们死去之前经历的所有美好时光
难道只是一场没有观众的表演吗
我认为应认真对待人们在意识方面的科盲问题
解决掉这个问题 我们就能描绘一个美好的未来
不仅从外部看起来炫酷无比
实际上更能让人以此为家 体验一切
以下内容有剧透 , 请注意打开姿势

精彩推荐

  • 医疗行业不应该盈利

    03:51 347

  • 伦理道德与科学有关吗?

    03:52 165

  • 我们应该教育孩子创造思维

    03:09 448

  • 用惩罚和奖励来改变自己的习惯

    05:06 751

  • 不用学会这个游戏你就能赢下它 大师技能

    10:16 176

  • 美国梦:只有4%的美国穷人摆脱贫穷进入中产

    04:54 421

  • 白日梦可以增强创造力,而不是冥想

    04:15 763

  • 该如何与孩子谈钱

    04:49 956

更多视频, 请移步译学馆APP欣赏 GET APP