近日，神经科学与人工智能交叉领域的知名学者Gary Marcus发表了一篇引人深思的文章，对生成式人工智能（Generative AI）的未来做出了直言不讳的预测。Marcus预言，在接下来的12个月内，围绕生成式人工智能的狂热泡沫将不可避免地破裂。他指出，这一领域的核心问题在于其可靠性的缺失，具体表现为系统容易产生幻觉，从而生成虚假信息。
Marcus以其在神经科学和AI交叉领域的深厚造诣而闻名，同时也是呼吁暂停研究比GPT-4更强大AI系统训练的公开信签署者之一。他长期以来对当前大语言模型（LLMs）持保留态度，认为它们仅是“近似于语言使用而非真正理解语言”。
Marcus将LLMs比作乘法表，指出它们虽然能熟练解决表内问题，但对于表外问题则束手无策，更多时候因缺乏自我验证能力而给出错误答案。他强调，为了应对幻觉导致的错误，企业不断构建更大的模型，填充更多数据，但这并未从根本上解决LLMs无法自我检查的问题。
Marcus倡导神经符号学人工智能（Neurosymbolic AI），即将神经网络技术与逻辑学、计算机编程及传统AI中的符号方法相结合。他认为，这是实现自主AI的可行路径之一。然而，他也坦言，由于学术权威的打压和资本对创新风险的担忧，神经符号学AI尚未成为主流。不过，他欣慰地看到，Google DeepMind的AlphaProof和AlphaGeometry2系统正逐步验证这一理论的可行性，为AGI（通用人工智能）的发展指明了方向。
在《AlphaProof、AlphaGeometry、ChatGPT，为什么人工智能的未来是神经符号学?》一文中，Marcus详细阐述了生成式AI的局限性及可能的解决之道。他指出，生成式AI虽然在全球范围内引发了广泛关注，但其技术瓶颈、缺乏杀手级应用、幻觉问题及低级错误等，都预示着泡沫的即将破裂。然而，他也强调，这并不意味着AI的终结，而是新技术革新的前奏。
Marcus进一步分析了大语言模型（LLMs）的运作机制，指出其本质上仍是基于训练数据的预测器，缺乏真正的推理能力。他通过多个实例，如ChatGPT在细微问题上的错误回答，揭示了LLMs在处理新问题时的脆弱性。他认为，LLMs无法对自己的工作进行健全性检查，是其无法克服的根本缺陷。
面对这一挑战，Marcus提出了神经符号学AI作为解决之道。他强调，将神经网络与符号推理相结合，可以汇聚两者的优势，实现更高层次的推理和规划。他批评了当前AI界对神经符号学方法的忽视和偏见，并赞扬了Google DeepMind在这一领域的探索和创新。
Marcus的预测和见解引发了广泛关注和讨论。随着生成式AI泡沫的逐渐破裂，人们开始重新审视这一领域的未来走向。虽然挑战重重，但神经符号学AI的兴起为AI的发展带来了新的希望和可能。在这场技术革命中，我们期待更多创新和突破的出现，推动人工智能向更加智能、可靠的方向发展。
文心大模型3.5生成
改写近日，人类神经科学和人工智能交叉领域的学者Gary Marcus发文，对生成式人工智能的未来做出了大胆预测:在接下来的12个月内，当前围绕生成式人工智能的泡沫将会破裂。他认为，“生成式人工智能最根本的缺陷在于其可靠性问题”，系统仍会产生幻觉进而生成虚假信息。
Marcus近年因在神经科学和人工智能交叉领域的研究而闻名，也是“呼吁暂停研究比GPT-4更强大的AI系统训练6个月”公开信的签名学者之一。一直以来，Marcus都认为当前的大语言模型（LLMs）是“近似于语言使用而非语言理解”。
这位既是AI学者又有AI创业经验的专家，将支撑生成式AI背后的大语言模型（LLMs）比作“乘法表”——GPT们能熟记表内乘法并给出正确答案，但对表外乘法的答案得靠碰运气，更多时候因不具备自我验证能力而给出错误答案。
在他看来，为了避免幻觉导致的错误信息，研发LLMs的公司不得不造更大的模型，塞更多的数据，但这没有解决从根本上解决LLMs无法对自己的工作进行健全性检查的问题。
由于有认知心理学、神经学与人工智能交叉领域的学术背景，Marcus一直倡导神经符号学人工智能——一种将神经网络技术与逻辑学、计算机编程以及传统人工智能中普遍应用的符号方法融入AI研究的理论，他认为这一方法是自主AI的路径之一。
而Marcus认为，神经符号学AI因学术权威打压、资本担忧创新风险而无法成为AI研发的主流。不过，令Marcus欣慰的是，Google DeepMind的两套AI系统AlphaProof和AlphaGeometry2正验证了神经符号学AI的可行性。在他看来，Google的方向更接近AGI的路径。