Kevin Kelly开AI座谈会

Wed, 30 Apr 2014 22:41:10 GMT

2

KK: 你见过最聪明的AI是什么?

*KK: *如果有一个AI是正常人的双倍聪明(也是正常人的双倍价格),你会雇它来做什么工作?(商业化驱动力很重要)
某个Dr.:有一类的工作,做这些工作的最顶尖人才的能力超过普通人才好几个数量级,比如programming,比如medical diagnostician,这就是交给给AI做perfect example。相比之下,有些task比如人脸识别、语言细微感情的辨别、任务调度,这些任务可能AI最终也能做到并且一定程度上超过人类,但是因为这些工作人类十分擅长,甚至普通人都已经做得非常出色,我不会付2倍的钱找AI来做。(有道理!!很重要的商业化的tips!… 不过电脑可以scale,比如扫描海量视频并找出某个人)

*KK: 从很多例子看来,AI现在都是Saas,而不是比如说买一个AI带在身边跟着你,这将是潮流吗?
*
大家:基本同意

KK: 这么说,越多人用越smart,这就将会出现一些dominate的通用AI了?(网络效应)
*– learning is the key (read every document, etc.)
*
-某个Dr: 目前AI的进化是朝着ubiquitous useful as intelligence的方向去的,就好像电力一样,每家每户都会用,大家会习以为常(不会去想网络效应)。比如你走向一个门,你会自然而然的和门对话。我们会习惯像“以太”一样无处不在的computing的世界里,像是一个land of fairy童话中的世界。我认为这是必然的也是一个好的趋势。(我:AI作恶的可能性?)

KK: 好,假设我们可以买cognitive as a service,那么这个AI的单位将会是什么?
-某Dr: 毫无疑问的,我们将会进入到一个知识经济的时代,每个向AI贡献了知识的人将会得到micro-payments(比如被某个知识被使用了多少次次)。在这样一个未来世界里,每当AI帮助人们执行某个任务时,那个当初向AI贡献了相关知识的人都会得到一点点回报。世界上的很多人会从atom-based的工作转移到bit-based的工作,去为无处不在的AI的提高做贡献,并且通过pervasive的AI来放大自己的知识产出的价值。(KK: 所以你是说AI会依做的task来收费,而不是你买多少单位的AI或者多少智能级别的AI回家,然后使用?差不多是这样)(我:这么说AI还是需要人教的?不会自己学?虽然说人也是需要被教的,可是AI不是应该可以一下子通过网络读无数本书看无数视频么,应该没有几个人能有能力教AI啊?除非Dr.指的是AI刚刚实现的时候的情况?)

-某创业者: 关于 AI因为网络效应不断增加智能程度而造成的门槛问题。我只看到公司在某个领域的AI系统,比如Netflix有大量的数据支撑AI,而这个AI它已经了解人们的喜好,这个角度说,会有一些的门槛效应,你要再做一个Netflix就比较困难。但是,目前我还没有见到一个通用的智能AI,能随便拿一个公司的数据,然后智能的得到结果,以至于形成prevailing的网络效应。

KK: 比如bandwidth、screen resolution,它总有一个实际的物流限制。那么AI呢?有限制吗?
*
-创业者B: 所有目前看到的真正智能都是生物学的,从生物的进化上看,智能是由低级逐渐向高级演化的。高智能在相应的环境中获得自然选择的优势。我不认为会有天网那样无法控制的AI,因为它所处的环境,即人类社会,不会变化得那么快。(我:不太理解。。。)
-历史学家: 战争会使这种统一的AI得到发展。
(KK: 所以你认为商业化的动力在国家战争。)
-Dr.:这个比方很好,对于人类来说,达到完全的虚拟现实状态以后,多余的bandwidth都是浪费。但是对于AI机器来说,这限制可能是一个任意的数字,取决于AI能利用多少。所以人类对AI的bandwidth想要是有极限的,但是AI对于其他AIs的bandwidth的期待是没有极限的。
*
-创业者B: 假设某个人设计出超级AI,能够随意操纵股市,那会发生什么?那股市会彻底崩盘。AI会自然的反作用于环境而且很快毁灭它自身所处的环境。(KK: 我觉得他们足够聪明的话就不会毁灭自身。-:嗯 这是一个问题)

KK: 有些科学家说我们想要的其实是 Artificial smartest (restricted) not AI consciousness. 比如智能车(高频交易),如果乱来就会很危险,智能车要服从什么规则?The issue of governing AI is paramount. 这里面也有关于道德的很多考量。

-Dr.:社会对科技的发展的反应总是滞后的,但最终也都会赶上并且面对、处理,比如对Internet的反应。我想最初的AI的Killer Application会是在一些无可争议的正面的领域,比如帮助老人、帮助医疗诊断。然后随着AI的发展和扩散,逐步涉及到更复杂的更容易有争议问题,像是到底应该损失A的利益还是损失B的利益。
-某人: Machines might actually be better at ethnics than humans do. 人总是有各种各样的动机,而机器人或许更能执行公平的道德标准。

KK: 我们会不会需要为不同的文化(日本/中国/美洲)做出不同的AI?作为商业考虑的话。
-女士: 更需要个人化,根据个人的性格,设计不同的交流模型。

KK: 我们也没有看到类似于摩尔定律的指数效应在AI上发生?(以某种形式测量,有某种单位?)
-某业余: 是的,我认为是在指数加速,随着对大脑认识的加深。可以芯片中的测量free energy rate density来量化测量AI的智能,这个指标在芯片中目前是逐渐增长的
-创业者B: 如果我们从自然进化的历史里去找规律,brain size是一个单位。动物的大脑不断进化,直到10万年前,智能增长的曲线逐渐变平。我想AI也可能会这么发展。就像人类会做出工具一样,AI有一天可能会造出AI。
-Dr.:我们可能会设计出某种局限性的测量(比如做一个Ted Talk,图灵测试),但是我认为AI更多的是放大人类的智能。就好像医疗解放人的躯体,电力解放了人力一样,是一种对放大的效应。一直到很久以后,回过头来看,我们看到当时pre-AI的过程。

KK: 会不会有某种信号作为AI开始的标志?某种商业化产品(可能自驾车什么的)

KK: (总结过程)AI会导致底层的很多人失业,但我认为it’s all for the better. 首先来说,许多人挤破头努力的工作,其实根本就不是人类应该去做的工作。过去所有的技术进步告诉我们,技术进步会带来新的工作,以前没有做过的工作。简单说,我们给机器人新的工作,机器人给我们带来新的工作。的确,会有很多工作消失不见,但我们会希望看到他们消失。比如在店里数零钱根本就不是一个人类应该做的工作。

-Dr.:这个讨论让我变年轻了。30年前,AI界基本放弃了对strong superman AI的追求,转而投向shallow methods、statistical methods等等边边角角的工作。我们正在回到对真正AI的讨论,我很高兴,我觉得我能活着见到真的AI出现。