从数学悖论中折射出的AI极限
来源:原理
人工智能的致命弱点
深度学习是一种用于模式识别的人工智能技术,这是一种正全面进入科学计算领域的成功技术。我们常在许多令人瞩目的新闻标题中看到它的身影,比如说它能够比医生更准确地诊断疾病,又比如说它能通过自动驾驶预防交通事故等等。然而,许多深度学习系统是不值得信任的,它们很容易被愚弄。
这使得人工智能系统就像一些过度自信的人类一样,常常具有远超其实际能力的自信。而人类还比较善于发现自己的错误,但许多人工智能根本无法知道自己在什么时候犯了错。对人工智能系统来说,有时意识到自己犯了错甚至比产生一个正确的结果还要困难。
这种不稳定性是现代人工智能的致命弱点,也是一个悖论。这个悖论可以追溯到20世纪的两位数学巨匠——图灵(Alan Turing)和哥德尔(Kurt Gödel)。20世纪初,数学家们正试图证明数学是统一科学的终极语言。然而,图灵和哥德尔发现了数学核心的一个悖论:某些数学命题的真伪是不可能被证明的,而有些计算问题也无法用算法来解决。
到了20世纪末,数学家斯蒂芬·斯梅尔(Steve Smale)提出了18个当时未解数学问题的清单,其中的最后一问所探讨的就是人类和机器的智能极限。这个问题至今没有得到解决,不过它将图灵和哥德尔最先提出的悖论带入了人工智能的世界:数学存在固有的基本极限,类似地,人工智能算法也有无法解决的问题。
人工智能的固有极限
一项新的研究表明,人工智能普遍存在固有的极限,而这种极限可归结于这个长达世纪之久的数学悖论。研究人员通过扩展哥德尔和图灵提出的方法,展示了计算神经网络的算法所存在的极限。他们提出了一种分类理论,描述了在特定条件下,可以训练神经网络来提供可信的人工智能系统的情况。
研究结果被发表在了近期的《美国国家科学院院刊》上。新研究指出,稳定、精确的神经网络存在问题,且没有算法可以产生这样的网络。只有在特定的情况下,算法才能计算出稳定、精确的神经网络。
神经网络是人工智能领域最先进的工具,之所以称之为“神经网络”,是因为它是对大脑神经元之间的联系的一种大致模拟。在新研究中,研究人员表示虽然在某些情况下,良好的神经网络可以存在,但由于这种悖论的存在,我们无法创建一个固有可靠的神经网络。换句话说,无论我们用于构建一个神经网络的数据有多么准确,都永远无法获得构建这个神经网络所需的完美信息。
与此同时,无论对多少数据的进行训练,也都不可能计算出良好的现有神经网络。无论一个算法能访问多少数据,它都不会生成所需的网络。这一点与图灵的观点类似:无论计算能力和运行时间如何,都存在无法解决的计算问题。
研究人员表示,并不是所有的人工智能都有固有缺陷。在某些情况下,人工智能犯错误是完全没有问题的,但它需要诚实面对这些问题。然而,这并不是我们在许多系统中所看到的情况。
理解人工智能的基础
当我们尝试一些东西发现它不起作用时,可能会加点其他东西希望它能起作用,然而如果当加到一定程度时仍不能得到想要的,我们就会选择尝试不同的方法。理解不同方法具有各自的极限是很重要的。现在,人工智能正处于其实际成功远远领先其理论和对其理解的阶段,因此我们急需能够理解人工智能计算基础来弥补这一差距。
当20世纪的数学家发现不同的悖论时,他们并没有停止对数学的研究。他们必须找到新的道路,因为他们明白其中的极限。相应地,在人工智能领域,这或许意味着需要改变路径或开发新的路径,从而构建出能以可靠且透明的方式解决问题的,并同时了解它们的极限的系统。
研究人员的下一个阶段是将近似理论、数值分析和计算基础结合起来,来确定哪些神经网络是可以通过算法计算的,以及哪些神经网络是可以变得稳定和可信的。正如哥德尔和图灵提出的关于数学和计算机极限的悖论带来的丰富的基础理论,也许类似的基础理论可能会在人工智能中开花结果。
#创作团队:
撰文:小雨
排版:雯雯
#参考来源:
https://www.cam.ac.uk/research/news/mathematical-paradox-demonstrates-the-limits-of-ai
https://www.pnas.org/doi/10.1073/pnas.2107151119#sec-4
#图片来源:
封面图:julientromeur / Pixabay
首图:Chenspec / Pixabay
引爆物理界的新发现:登顶封面却难以复现,实验设备11年前就拆了
金磊博雯发自凹非寺量子位|公众号QbitAIW玻色子严重“超重”,带来的风波还在继续。这项被誉为是“十年来最重磅物理学发现”的研究,对于物理学界正是“垂死病中惊坐起,还能发现新物理”[9]。若验证为真,将使得基础物理学理论被重新改写。但如果无法验证呢?是的,现在已有不少物理学家表示:这项登上了Science封面的实验结果是孤证,还需要其他实验进一步确认。诺哈网2023-05-25 22:35:420000我们真的应该一天吃三顿饭吗?
新浪科技讯北京时间4月20日消息,据国外媒体报道,很多人也许都不知道,一日三餐其实是个相当现代的理念。那么,我们一天究竟吃几餐才是最有益于健康的呢?大多数人每天都吃三顿饭,现代生活也是围绕这种餐饮习惯设计的。早餐是一天中最重要的一餐,工作中会留出午餐时间,晚饭则用来开展社交活动、或者与亲朋好友相聚。但这真的是最健康的饮食方式吗?在讨论用餐频率之前,先来看看科学家建议哪些时间段不应进餐吧。诺哈网2023-05-25 22:32:300000神秘苍蝇在人类眼中产卵导致受害者极痒难忍
今年早些时候,法国一位53岁男子眼睛突然发痒,送入急诊室发现眼睛里竟然有苍蝇幼虫,刚孵化不停蠕动导致其眼睛发痒难忍。据悉,该男子当天在一个饲养马和羊的农场附近处理园丁工作时,突然感到有不明物体飞入眼睛,之后持续数小时发痒。诺哈网2023-05-26 11:07:470000科学好故事|从多莉羊到猛犸象:克隆技术如何改变了我们的世界?
来源:BBC撰文:DavidCox翻译:任天1996年7月5日,一只雌性绵羊诞生了。后来,这只名为“多莉”(Dolly)的绵羊改变了整个生物技术行业,为科学家们提供了一种拯救濒危物种的新方法,并以当时难以想象的方式改变了医学领域。诺哈网2023-05-26 02:49:34000049.6℃!全球有记录以来最强热浪确定
科技日报北京5月5日电(实习记者张佳欣)2021年6月29日,一场热浪席卷北美西部,为加拿大创造了49.6℃的历史最高气温纪录(比前一次峰值高4.6℃),并导致美国加利福尼亚州宣布进入紧急状态。据英国布里斯托大学研究人员4日发表在《科学进展》杂志上的新研究,这场热浪是有记录以来全球任何地方所观察到的最极端的热浪之一,未来随着气候恶化,热浪将变得更强。诺哈网2023-05-26 14:19:050000