本体论回归:AI智能体如何复兴语义网
AI工程师重新发现本体论,将其作为约束概率型LLM的逻辑护栏,推动智能体系统可靠运行。
本体论回归:为什么AI智能体正在复兴语义网AI工程师正在重新发现本体论,将其作为将概率型智能体保持在确定性边界内的一种方式。
近期AI工程师世界博览会(AIEWF)上最受关注的视频之一,是加州大学伯克利分校计算机科学教授Frank Coyle的20分钟演讲,他目前教授生成式AI和LLM。凭借数十年的经验,Coyle向当今的AI工程师重新介绍了本体论的概念和实践。
Coyle认为,虽然LLM在提供概率推理方面非常有效,但要使智能体系统真正有效,它们需要“逻辑护栏”——他指的是本体论。在计算机科学中,本体论是“对数据结构的描述——知识领域中的类、属性和关系”(牛津语义技术公司精确定义)。
Coyle本人将本体论简单定义为“作为图形的数据”。他补充说,本体论作为一个概念可以追溯到亚里士多德,并在人工智能的整个历史中一直被使用。以图数据库系统闻名的Neo4j公司也在其智能体产品中使用本体论。
在AIEWF的主题演讲中,Neo4j首席执行官Emil Eifrem谈到了三种不同类型的本体论,以实现“更智能的共享基底”来大规模运行智能体。
第一种是面向业务的本体论,描述组织中的关键概念;接下来是技术本体论,Eifrem将其描述为“企业生态系统中所有数据源和数据资产的所有元数据”;最后是执行轨迹,即“来自智能体的运行时信号”。旧物焕新:语义网Frank Coyle认为网络本体论在构建智能体系统时特别有用。
他提到了Schema.org、FOAF、Dublin Core以及其他Web开发者熟悉的本体论——至少是那些有一定资历的开发者。他还提到了“增强技术”,如RDFS(资源描述框架模式)和OWL(Web本体语言)。
使用这些已有本体论的一个好处是,它们已经存在于LLM的训练数据中,因此开发者可以直接提示使用它们——这比从头重新发明本体论要好得多。“这些东西一直存在于我们已做的许多事情背后,”Coyle说,“所以利用这些已经存在的东西。
”作为一个例子,他展示了一个Claude智能体循环,该循环在工具运行后使用本体论来帮助验证LLM的推理。Coyle将概率型智能体与本体论的融合称为“神经符号AI”。
“听起来很花哨,”他说,“但它实际上是神经网络与符号AI的结合——基于规则的系统属于这一类,我们正在组装的知识图谱也属于这一类。”
他重申,神经符号AI代表“一种将LLM保持在护栏内的方法”。本体论的利弊Kingsley Idehen经营着一家名为OpenLink Software的公司,他多年来一直深耕本体论,现在正将其与AI工程结合。
他一直在构建一个使用语义网技术的“智能体工程栈”——包括一个“具有RDF记忆的智能体”。我问Idehen解释本体论的好处。“LLM的美妙之处在于它们是强大的语言处理器,”他回答道。“本体论的美妙之处在于它定义了实体和关系的类型,语言通过这些实体和关系获得可计算的上下文。
两者结合,将语言的表达能力带到了计算的UI/UX栈中。”这很有道理,但如果你做过一段时间的Web开发者,你会知道本体论的挑战:维护和保持更新。这就是为什么1990年代和2000年代基于本体论的“语义网”愿景从未起飞的原因。
当前的AI开发者Prasenjit Sarkar在X上为维护问题提供了一个潜在解决方案,他认为“当智能体将本体论作为自身操作的一部分进行维护,并在遇到边缘情况时更新定义时,维护问题的性质就改变了。
”不过,他补充说,这仍然是一个难题。
尽管存在这些问题,本体论的结构化特性似乎确实与概率型LLM偶尔任性的倾向很匹配。你获得了LLM的强大能力,但本体论会约束它们。
此外,正如Neo4j的Eifrem所解释的,本体论使我们能够从“具有手动连接数据源的厚智能体世界”转向“基于更智能的共享本体论语义层上的薄智能体新世界”。循环与护栏回到Coyle的演讲。他对循环工程也有很好的见解,他指出循环工程在计算机科学中“一直存在”。
当然,问题在于循环可能会中断或以其他方式“脱轨”。同样,这正是本体论系统可以作为概率型LLM护栏的地方。Coyle的一张幻灯片将其称为“围绕无界循环的一组有界规则”。在演讲接近尾声时,Coyle演示了如何使用OWL作为对智能体的检查。
一张幻灯片显示,虽然语言可能模糊,但“OWL公理是机器执行的规则”。他还展示了如何“构建一个基于本体论的推理器,来检查并保持LLM在正轨上——用护栏保持其诚实”。语义共鸣也许本体论开始引起AI工程师的共鸣,因为当前的核心问题是循环工程的质量控制。
我们在AIEWF上看到了这场辩论,许多会议发言人还不愿意完全投入全自动化的“软件工厂”。
从这次活动中学到的一个关键教训是,需要护栏和人类参与循环。此外,看到传统Web技术在AI工程领域复兴也令人着迷,尤其是在2025年“氛围编码”趋势让任何人都能创建软件之后。当然,自那以后人们意识到:我们需要维护这些软件并确保它不会崩溃!
因此,在2026年,我们看到软件工程学科的回归——包括现在网络本体论的复兴,作为保持概率型LLM诚实的一种方式。
本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。