The Rise of Digital People: Mustafa Suleyman and Ian Bremmer on the Future of AI

♪ [开场配乐] ♪

- [伊恩] 在过去的一年里

人工智能空前的特殊发展

前所未见地激发了我们想像力，
并为其着迷

一切都因此改观了

包括工作形态，对周遭世界的认知
甚至日益影响着我们作为人的本质

这场科技复兴中

很少人能像穆斯塔法·苏利曼这样名声卓著

他的职涯与人工智能渊源颇深

十多年来始终保持在这个领域的最前沿

与他人联合创立了 DeepMind

并在其解决智能问题并加以善用
以造福世界的使命中

起到了关键作用

今天我们有幸与穆斯塔法来共同探讨

让人期待的人工智能潜力及相关的重要议题

穆斯塔法，感谢大驾光临

你在人工智能领域的资历已经快 20 年了

对吗？

那么，是什么样的发展

让人工智能成为这么普遍的生活应用？

- [穆斯塔法] 就像你说的，长久以来

我一直都是少数且观点特易的人工智能研究群体

外界大多认为我们有点疯狂

回顾我 2010 年
创立 DeepMind 时

听到我投入人工智能研究的人

都认为我脱离了科技研究的主流文化

是个一头栽进高度投机事业的未来主义怪人

所以在我记忆中，我们一直都很难打进核心圈

我想这几年来，大众对人工智能的兴趣提高了

我认为其中缘由

多半可追溯到几年前的 AlphaGo

也就是我们就中国古老的围棋游戏
所设计出来的一种人工智能

这种游戏是的棋盘
是由 19x19 的方格所构成

- 围棋比国际象棋复杂多了

- 对的，这是继 1997 年

IBM 的“深蓝（Deep Blue）”
称霸国际象棋上后

人工智能发展的下一个前瞻性目标

而大家都知道国际象棋的话
棋盘格位是 8 x 8 的

棋子的移动方式都是固定的

而 19 x 19 的棋盘不仅面积较大

所有旗子都是一样的，只有黑白之分

任何格位都可落子

下子的走法因此激增数倍

棋局变化约有 10 的 170 次方那么多

比宇宙中的已知原子数量还多

所以，这是一个 10
后面跟着 170 个零

布局变化的可能性相当惊人

所有按规则运作的传统搜索方式

也就是说像是“若该区已有棋子
那就避开并在附近落子”这类指令

人工智能下国际象棋的传统训练方式

而围棋棋盘的布局很大，这样的方式并不适合

所以我们得另辟蹊径

多年来，我们已经将这类学习法应用到其他领域

刚开始是游戏，然后是图像识别

再来是音频转录

所以各位可以借由语音辨识来记录我的话

至于过去几年

也就是回到你刚才问的
为什么 2024 年突然火热起来？

则是因为我们已能实际应用
深度学习这套类似的方法

来生成独特的文本对吧？

这点便是其中的奥妙

机器学习已从图像辨识

两种不同语言

以及文本段落这样的内容理解与分类

进展到能够生成新的段落、
图像、语音或音乐

且和人类做出的成果一样

目前很多这类的人工智能

在创造力或答题上，都能和多数人类一样出色

- 我们目前已能做到和人工智能机器人对话

而且逼真得就和真人一样

这样说并不为过对吧？

- 是啊，这方面是我们
目前所经历的超现实体验对吧？

当你和任何一种人工智能对话时

例如 ChatGPT

或是我们公司 Inflection
所研发的人工智能 Pi

也就是“个人智能”的意思

和 Pi 对话就像和常人聊天一样

你可以打电话给 Pi

它会以极其流畅的说话方式和你交流

同时具备共感和情商

是的，在很多方面来说
就像和真人说话一般

因此很多人认为我们几已通过著名的图灵测试

该测试是由伟大的计算机科学家和数学家

艾伦·图灵（Alan Turing）
在 20 世纪 50 年代所提出的

他说，如果你能设计出一台电脑
来和一个人交谈

而难以区别人机的差异

便可以此断定该人工智能或计算机系统

已具备智能，并通过了图灵测试

我认为目前的发展已接近这个阶段

若真仔细聆听，或对话的时间够长
人机差别仍有迹可循

但若只是短暂几回的对话，就很难区别

发展至此是相当惊人的

- 人工智能其实并非智能的

而是我们认为它具备智能

实际上

它只是获取所有的数据并找出模式

然后根据输入的提示来预测事物，对吧？

说到底只是个不会思考的程序

- 这点很有趣！

因为新技术都会迫使我们
重新检视自身的基本假设

我们之所以认为已充分了解智能
是考量通过图灵测试的结果

反观现在已通过图灵测试了

人们却又认为“毕竟 AI 也没那么智能”

也许图灵测试还不够好

但这毕竟是科学流程

我们提出假设，并设计实验来加以验证

然后检视证据后，提出新的测试

所以现在我们得设计出新的测试方式

因为人工智能尽管功能强大

但仍不具备真正的智能

所以我提出了一项新测试，现代版的图灵测试

新版测试可实际评估人工智能的用途

而不是只看交谈的功能

所以我认为要衡量人工智能
具能人工智能（ACI）是合适的标准

这东西在劳动市场上有何作用？

什么是它能做的？

它能写电邮吗？

能谈合同吗？能发明新产品吗？

它能胜任产品营销和推广，
并说服人们购买吗？

如果这些它都能做的话

且其执行方式能让新产品获利的话

那就会像是小企业主，就像是新创企业家一样

我预期三、四年内

能做到我刚才说的所有事情
并能实际以新产品来获利的人工智能

就会问世

届时将会是个转折点

因为这其中包含了很多各类的日常工作技能

- 未来也是我们要谈的

但我们先来谈当前发展

对当今许多和我们之中很多人一样

首度知晓人工智能的年轻人来说

如果他们觉得好奇的话

他们应该如何利用人工智能呢？

个人应该如何以一种建设性
且对自身未来有利的方式投身人工智能？

好的，首先要说的是

这些人工智能拥有所有开放互联网上的知识

所以它们实际上非常聪明

不仅都曾以维基百科重复训练过

且还读过数百万篇博客文章和新闻报道

其中还有许多是饱览网路出版物的

所以知识都很渊博

所以首先要做的就是挑一个来对话

选个你真地有兴趣的话题

或许是你有些了解的那种

借由探究、质疑，并与往来交流

来测试看看人工智能的知识局限性

我相信很多人已经就这点
试过包括 Pi 在内的人工智能

这种体验真地很神奇

一旦试过一阵子后

一是会发现其中的神奇和到底有多妙
另外就是其缺点所在

有时会陷入无限循环，有时则会记错事情

这让你对当今的前沿技术能有直观性的了解

包括其优缺点

而各位若真有兴趣的话

可用任意的人工智能平台来尝试提示工程

尝试设定风格指引

试着让人工智能模拟前总统奥巴马的说话风格

或是你最喜欢的名人，或是莎士比亚

或和人工智能合力发明

就当成是有个既有创造力
又能协力头脑风暴的伙伴

这同样能看出其能耐如何

若想深入测试的话

开源软件就包含很多这类模型

可以自己动手尝试编程

- 那目前可设定人工智能
来做什么特别的事？

- 举个例子

你可以设定人工智能
化身一级方程式赛车的专家

而且要的话，还能以莎士比亚的风格和你交谈

人工智能能够模拟任何你想得到的角色与个性

并善用本身以之训练过的的深厚知识

所以可能是一位仙人掌专家

可能是哈雷·戴维森摩托车行家

也可能是恐龙通

任何你能想到的

人工智能都将能以特定方式来模拟那种知识

所以大可放手尝试

你可以创造游戏角色

可以此创造小助手、助理或朋友

大家一起玩或交谈

还可共同创作小说

故事的一部分由你来写，
另一部分交给人工智能

所以人工智能的应用潜力是无限的

- 对人工智能目前的应用
和这项技术的发展方向

你我都是相当乐观看待的

但我们也很明白

既然目前已能做到设定人工智能
来完成一些惊人的任务

若要以此为恶也是做得到的

我是说可用以获取和推广信息

但也可用来散布假消息

可以假冒并蒙骗他人

我们能怎样设法

来防止人工智能因不当使用而威胁社会安定？

- 首先，目前而言

许多人工智能服务供应商都是稳健有名的大公司

他们都秉持负责和道德的原则

我们大家都有义务来监督他们是否说到做到

包括不去散布假消息及虚假内容

我认为重点是不要模仿公众人物

因为我们不会希望有一堆这样的人工智能

因此未来的话

会无法分辨一位名人、政客或商人

是否真地发布了一条消息
或是真地说过某些事情

录过某段内容或发表过某份声明？

结果到头来是深伪杜撰和捏造的内容

目前的话

人工智能的大型供应商多半都非常负责任

并尽力预防这类滥用

我认为这些模型未来在开源中会更容易取得

所以会更难去遏制和监管

- 你说的开源

是指不只能从 Meta、Google
微软或 Inflection 取得

也就是开放网络上便可找到

而相关规范就要看提供者所适用的情况了

- 对，我认为在开放式互联网上
这将会越发构成挑战

分寸底线和监管会更难掌握

因为五年内，或许就不需要依赖大型供应商

只要取得软件就能运行自己的人工智能

这些软件目前在开源项目中运行顺畅

但未来来还可能会更加完善

所以我们必须考量如何以正确的方式
来确保能有稳定无害的结果

而迈向人工智能的新阶段时
其过渡也不会太快，太混乱

因为我们过去都目睹过因此衍生的意外发展

- 目前尚未发展到聘用人工智能律师的地步

可能会把它当成律师助理

但还不至于取代真人律师、教师或护士

但你认为，不用多久

人工智能就能够取带很多的这类职能

若顺著这条时间线走下去

不用到五年，或许一、两年就好

因为不断有新的重大发展公布

可以生成文本

可以模拟人声

对，还能与人工智能对话

人工智能现在可以生成图像

其中有些几乎比任何艺术家
或平面设计师的作品还叫人惊叹

近来人工智能可以生成视频
还可以生成一部电影

你甚至可能会看到这类制作的好莱坞电影

或类似这样的作法

那将来的趋势呢？

人工智能在一、两年内会有怎样的惊人发展
并因此打入日常生活的突破？

- 我认为现实情况是两、三年年内

我们身边就会充斥著新兴的数字人

数十年来

我们一直在找合适的比喻
来形容这波新兴科技的时代

但都没有足够合适的

有人将人工智能比作电力这样的通用科技

称为通用是因为这就像是种原材料商品

是许多其他技术、产品和服务的基础

没有电力的现代世界是难以想象的

回朔到更早之前

印刷机是更早的通用科技

因为这让大家得以去传播思想
还能去组织、计划等等

许多相似的技术都是基于这样的平台衍生出来的

- 互联网也是一样

- 确实如此

那也是通用科技的另一个绝佳范例

但目前人工智能还很难算是一种通用科技

人工智能当然也算通用，但不仅如此

它是互动性的

以一种个性化，始终保有专属套性的方式

来生成崭新且动态浮现的内容

举个例子，这种动态性

就和电力的高度可预测性非常不同，对吧？

互联网的实际基础设施
是非常稳定和可预测的

我们很清楚

在特定时间，以特定速率的传输线
可以发送多少数据包

但人工智能就像崭新的设计素材

单一问题会有各种不同的答案

毕竟互动都是不一样的

而这些互动目前正转趋完全动态化

人类与人工智能间交流往来

实际上就好像在跟一个数字人交谈一样

所以在两三年内

就会出现化身及其他
以人类或其他型态呈现的角色模拟

不仅极度动态化，还能像你我一样彼此交谈

就像你所说的，智能科技
将能在手机台式、平板和车载电脑上

完全顺畅地即时生成视频

因此浏览网页的方式也会改变

现在我们要查资料的话
会在 Google 输入一个查询

然后就会看到一个两年前
甚至有可能是五年前制作的静态网页

这就像个大型广告看板

是固定的静态呈现

这当然不会就个人需求来改变

大家看到的都一样

在网站输入检索后，结果都是一样的

无论操作时间、地点、历史记录或兴趣所在

未来的话

大家看到的内容呈现
将转趋完全个性化和互动化

所以个人在网页上会看到
专属的图像、文本和视频

片刻间就能自动生成

这是新的型态

不但能投其所好，还是根据
之前与人工智能交谈的内容

我认为这种全新的范式是人们尚未完全掌握的

- 穆斯塔法，你说的 “数字人”
（digital people）是什么？

- 若仔细思考

界定人类的特质就是像现在这样的交谈能力

彼此共同的视觉体验

以及采取行动的能力

比如买东西、订东西、 计划
安排、协调、 写电邮、打电话

在接下来的几年里

可望出现能包办这些工作的人工智能

而且做得几乎和人类一样好

但当然不是真人做的，而是一个数字人

我认为为有助我们理解未来几年的趋势
这可能是最好的比喻

- 在你看来，当我们的大环境

许多互动对象从真人转向数字人

这样的变化代表了什么意义？

你认为这会如何改变经济？

那社会呢？

政府呢？

对此你有什么看法？

- 这些数字人的一个绝佳特点

就是具备高度的可控制性

实务上是能设定非常精确的行为

例如我们的人工智能 Pi 就很友善共情

很能支持鼓励他人

又能始终保持耐心

不会批判

而人类互动中有许多缺点

例如令人焦虑

可能会过度执著于他人的观感

觉得被欺负了

或可能感到他人不听你说完

当你正在说自己的滑雪之行

其他人突然就说起自己去年的滑雪旅程

你心想，“等一下，我还没说完”

但个人专属的人工智能不会这样

它的耐心永不匮乏，还始终支持你

所以这是一大优势

但这样的转变是相当可观的

因为我认为，人们会越来越趋向
选择花时间在所属的人工智能上

也许会比他们花在其他人身上的时间更多

所以我们必须去想的一个设计考量

这也是我们就 Inflection
深入考虑过的

那就是真正关注人工智能的价值观

以及设定与形塑的方式

例如，鼓励你更常与挚爱的人相处

鼓励你勇于克服社恐去参加派对

提供安心的面试或考试演练机会

但同时能专注现实世界的人际联系与生活经验

所以，社会上的各学科及领域

都得面对的现实转变

就是数字人的出现

且在我们生活中的意义重要性
将不亚于其他人际关系

如今已经很难想像

没有智能手机或笔电的生活

这样的习性是在不到十年的时间就形成的

- 没错

- 现在有六十多亿人有智能手机

这或许就是这种个人化的人工智能
当前所处的发展趋势

这是科技从个人计算到个人智能的自然演进

- 我认为大家听到你的意见会觉得欣慰

你认为就你手上这些
开发、发明中的人工智能而言

有些方面是很重要的

包括必需保持人道精神

并且需要保留人际互动

当然，我们都能想像的是

会有公司因为想要让营利最大化

因此会去确保人们尽量多与所属的人工智能互动

这和一些智能手机和应用程序厂商的做法一样

就像有时会想尽量拉高单客销量

即使这样可能衍生肥胖问题

诸如此类的

我想知道你的看法

我们要如何防范相关的过度行为？

毕竟相关技术的演变之快

以致我们的理解、训练和应对能里已经跟不上

我们自身未来多半也和现在差不多

但这些东西却突然出现在我们身边

这与既有的训练成长模式不同

不是那种可由成长的社会化经验去积累的

已是既成事实了

- 我认为人类文明已有惊人的进步

这也包括公司层面

我认为人们并未完全理解
所处社会的进步之快

回顾 1950 年代那时的企业

以及他们自曝其短的方式

无论是将化学品排入河川

还是虐待员工的骇人方式

我认为现在已无法想象会有公司

会真地像过去那样鼓吹吸烟
或会导致肥胖的油腻食品

我认为这方面已进步不少

我是说问题尚待解决

企业基本上仍在努力

去尽到自身的责任并希望能更加体谅尊重他人

就我在 Inflection AI
这家公司的角色来说

我们也努力在企业组织上
就这些可能后果未雨绸缪

而法律制度上，我们公司
则是登记为公益事业

- 好，我们展望未来五年的发展
不谈十年、二十年后，只看五年后

我们已能预见

人工智慧已能胜任

许多目前人们在做的工作

这些岗位也是年轻人所考虑的志向

考量职涯规划

人们该如何去适应

一个兼具这般爆炸性 、变革性
又如此迫近的 AI 前景？

毕竟在这之下，社会变迁的不确定性是空前的

年轻人应如何调适自身的未来规划？

- 这方面，目前比以前更有优势之处在于

这类科技的可用性与可编程性
即使没有专业背景的人也能上手

所以不是专业工程师
也能尝试人工智能模型

你可用自己的语言和想法，来以提示词操控

这代表你可发挥自身的创造力与独创性

且轻易地便可运用于现成的 AI 模型

所以我认为首先就是

不要因为他人认为技术门槛很高就打退堂鼓

这已经改变了

其次是显而易见地

让软件工程和技术领域的外行人
也来实际使用人工智能科技

对他们也是大有益处的

我们需要更广泛的意见和不同背景的人

掌握并利用这类技术来新事物

因为目前需要广纳各方观点

这和互联网和电灯的发明一样，是巨大的转变

各位可以想像得到首次开灯
并见识到电力功能的那种感觉吗？

这带动了发明变革与微电子学的变革

还有无数造就舒适生活的途径

所以把这看作是一个
创造性和激励人心的契机

投身发明并善用这类工具
来彻底实现我们的梦想

此刻是大好机会

- 我想问的是，这些转变也带来颠覆

其中有些颠覆性的变革是极大的机遇

但对没准备好的话，有些会是更大的挑战

请给我们举几项职业清单

是你认为在五到十年内
将因人工智能而消失的职业

因此人们挑行业时应该避开的
并解释个中原因

- 所有新技术都会颠覆一些职业生态对吧？

很明显的例子就像是呼叫中心操作员

他们负责处理客服要求

或甚至是销售人员

预期人工智能未来能更高效地胜任此事

这点已有眉目了

所以我会替这类工作的前景忧虑

我认为最有价值的技能组合

将会是那些横跨创造性

以及问题解决与专业技术者

所以技能广度会比以往都重要

整合广泛的技能是人工智能比较弱的部份

我会说要大胆无惧

并去学习传授各领域精随的跨学科教育

- 穆斯塔法，人工智能这项技术
能提升任何使用者本身的能力

它能加快发明的速度

各领域都能因此减少浪费并提高效率

就像你所说的，人工智能
不只是一项变革性的技术

也改变了我们的世界和社会观

我想就现今的年轻人来请教

他们可能还有
50 到 70 年的人生要考量

你是如何看待他们的未来的？

你认为他们成年后还会是人类吗？

你认为他们会永生不死吗？

想到人工智能在医学、生技和遗传学的应用

今后世界的可能变化确实令人震惊
甚至超乎目前所能想像得到的

- 我认为这点没错

科技和发明的科学进程是为了减轻我们的痛苦

目的是让我们的生活更平和愉快

不过几百年前

平均预期寿命还只有将近 50 岁而已对吧？

所以科学大幅改善了人类的福祉和健康

包括药物发明

还有一个例子

我们找到了提升每公顷农地单位产量的方式

我认为这是创造力和发明的惊人成就

而人类智能这样创造动力源

也快要被我们商品化了

我们会让数百万人都能普遍地来利用
以增进其创造力与独创性

所以我认为你是完全正确的

2050 年之前

若新生儿可能有两、三百年的预期寿命

我也不会因此感到惊讶

因为我们将在医学上取得重大的科学突破

并以此抗老治病

这就带出了这个问题

“那我们的人生要做什么？

我们要怎样生活呢？

如果很多人的大半日常，
都不必为挣钱而工作

那人生的意义和目的又在哪？”

经常有人这样问我
而我的想法实际上是这样的

"各位可还记得年轻时

都有很多爱好、热情、雄心和欲望

还有那些著迷的事物？

那种创造力和趣味性，

未来对成年人和各年龄层的人
都会变得更加可行”

因为我认为在长远的未来，

我们真正的挑战

会是如何借由普发基本收入之类的方式
支持人们不用工作的生活？

所以至少会有部分的周间时间

人们可从辛苦的日常工作中解脱

而有空去照顾家庭和长辈

能更加投入亲职工作

支持社区服务

并去发挥创意

别忘了一个重点

我们创造社会的目的

并非为了工作本身的目的，
而去刻意发明职务

我们工作是为了玩乐，对吧？

因此，目标是减少不得不做的工作量

以此增加我们娱乐和乐于从事的工作时间

你或许会选择继续加倍努力地工作，
是有选择的

这么做生产力和创造力可能会很高

我认为这样的社会是我们想加入的，也更好

大多数人大多时间都在决定
要如何度过每周的大半时间

- 对，在某些方面

新冠疫情似乎促使我们
去思考这样的转变，对吧？

早就有人提出

“我不想每天花上一小时的单程通勤时间
然后朝九晚五地待在办公室工作

我其实想更常陪伴家人

花更多时间陪伴我的朋友、宠物

更多参与投入

住在自己喜欢的地方”

结果在新冠疫情

以及 Zoom 之类的远程参与技术

科技让全世界的人都更能做出独立选择

过他们想要的生活

在生活与谋生间取得平衡

人工智能只是加快了这样的发展

你是这样看的吗？

- 是的，我认为疫期让我们
更加体认到生活中的轻重缓急

实际上，这点真地非常有趣

因为这显示出

有多少公认接受的假设

被社会结构所埋没

本来谁会想到

我们可以全然远程工作并保持生产力？

尽管有其代价，但世界依然继续

现在看来，以部分工时取代朝九晚五的办公生活

其实是有不少好处的

所以我认为

谁会想到我们实际上可以在这方面重塑社会？

因此我很感兴趣的一个问题就是

还有哪些是我们认为理所当然的？

还有哪些蠢规则呢？

有哪些愚蠢的社会习惯、习俗、实践和结构

因为存在已久而沿袭下来

但我们是可以改造并加以颠覆

以期能造福所有个体的？

- 事实证明改造是可马上就去做的

毕竟有其必要性，加上疫情所逼

因此不用数年，数周就办到了

人们只花了几周就展现出
不同的工作型态是实际可行的

我还能想到一些例子

是在不为赚钱而工作的社会下重新规划的

性别偏见、种族主义和民族主义

也就是一个人们真地可以决定生活方式的世界

而且不仅是少数人而已

而是任何能利用这类技术的人

在这样的世界中
人们更有能力决定不受歧视

因为人们不必迁就于社会基于约定俗成

而强加于他们身上的权力游戏

- 是，我同意

我认为另一个将会改变这点的未来趋势

就是去中心化的发电与供电调度能力

若电池科技真地在未来 20 年取得突破

让再生能源，我想
主要是太阳能，但也包括风能

得以在离城市很远的地方发电、储能

然后输送供应

这会彻底改变城市运作

也会改变我们对群居

或是住在技有城市或闹区的重视程度

我认为有很多这样技术突破正悄然酝酿

而且将来会改变我们习以为常的社会结构

- 穆斯塔法·苏利曼，非常感谢你来上节目

- [旁白] 观众若对人工智能的潜力有兴趣

且想深入探索这个迷人的世界

我们邀请大家观看本系列的其他视频

感谢收看

♪ [结尾配乐] ♪