我离开OpenAI,创办Conduit,构建思想到文本的脑机接口
前OpenAI研究员Naomi Bashkansky离职创办Conduit,致力于开发基于非侵入性神经数据的思想到文本模型,并预测未来几年内思想将成为人机交互的主要方式。
7月23日(周四),我从OpenAI辞职。24日,我以创始研究员的身份加入Conduit。我们正在构建心灵感应:基于非侵入性神经数据训练的思想到文本模型。
我将谈谈:- 思想到文本:2027年、2030年和2035年使用心灵感应工具会是什么样子- 我们如何构建思想到文本:为什么Conduit要收集海量非侵入性神经数据- 我为什么加入:我加入是因为这个大胆的愿景、杰出的人才和有趣的问题- 关于我:自我介绍1. 思想到文本,
即心灵感应我的预测是:几年内,我们与AI交谈的主要方式将是思想。它们不会是你拼命想跟上的超级聪明的自动化实习生或同事,而将是你自然、愉快的延伸。我在下面写下了这个未来的片段。我认为它们乐观但极有可能实现。
2027年——Conduit的一个早晨我在头上戴了一个头带,在Conduit打开笔记本电脑。现在是早上9点。我的设备通过蓝牙与笔记本电脑配对。我打开(不失一般性地)Codex。我一边查看代码、回顾昨天的笔记、为9:30的站会做准备,一边思考当天的工作。
我的GPT-7智能体已经在我探索的新编码器上运行了一天多。我看着它的工作。我对图表的标签感到困惑,对第一段中的AI腔感到恼火,对方程中的符号感到好奇。
我模糊的想法被发送到Conduit的模型,该模型利用其对语言和我可能说内容的先验知识,输出:图表、段落和符号,每项我都花了10秒浏览。我开启了自动发送,所以每10秒后,Conduit模型就会破译我的想法并发送给GPT-7,后者将每个传入任务分配给子智能体。
我看着新的图表、段落和方程。我想知道球谐函数是否终究有用;Codex派生出一个子智能体。我被图表说服,决定制作一个快速幻灯片,用美化版本只显示基线和前两行,以展示给我的队友;Codex派生出一个子智能体。
我去泡咖啡。我的思绪大多空白,但我会短暂回忆起明天共进午餐的候选人想说的话。在后台,Codex被提示思考我可能在午餐聊天中需要的信息,并决定在展示前更新合成数据缩放图是明智的;Codex派生出一个子智能体。
我泡咖啡时不会在脑子里大声说话。我只是像平常一样阅读图表,像平常一样泡咖啡。感觉就像魔法。2030年——行业适应,Conduit扩张AI公司现在训练他们的模型直接与Conduit的潜在表示交互。
我编码的想法直接发送到Codex,而不必先经过Conduit的解码器模型。
这意味着我可以轻松传达难以用文本描述的想法,比如心理图像。这些天我与AI聊天时很少不戴头带。说实话,不戴很烦人。戴上神经头带,我感觉自己对笔记本电脑拥有超能力!不戴时,我感觉自己在和一个超级外星人交谈,它尽力帮忙但不确定我想要什么,还害怕如果做了我不想做的事我会生气。
唉。Conduit继续迭代非侵入式读取,但我们启动了两个新项目:侵入式通用读取和通用写入。大多数人乐于坚持使用神经头带,但也有不少人希望通过侵入式技术获得更高保真度的读取。更有趣的是最近对写入的兴奋。
我对笔记本电脑的控制让我感觉超人,但我的感官仍然只是人类。就像我能控制手臂,却失去了所有感觉。是的,我仍能看到手臂,这比没有手臂好得多,但仍然很奇怪。就像伊恩·沃特曼一样。我想感受我的Codex的感受。
既然Conduit实现了通用读取,学习通用写入的数据效率会高出许多个数量级。更重要的是,我想解锁写入技术的其他应用。我想让我的大脑像18岁时一样高效和具有神经可塑性。2035年——AI不再是“他者”我的AI是我自然的延伸。
它感觉像第六感和另一个肢体。
我思考一个问题,感觉仿佛真的在浏览网页,瞥见网站,对问题产生直觉闪现,最终得出答案。感觉很有趣!我的大脑就像闪电侠。由于写入技术,即使关闭AI,我的思维也是有史以来最快的。2035年有多超人,直接取决于我们作为社会决定让AI有多超人。
也许我们选择放慢脚步。但我喜欢这实际上是一个人在回路中的未来愿景,AI直接赋能人类而非取代我们。关于思想到AI未来的几句引言过去十年中,比我更优雅的作家和演讲者详细阐述了这个思想到AI的界面。
我将链接到他们,并附上简短摘录。- “如果我们实现紧密共生,AI就不会是‘他者’——它就是你,与你的大脑皮层的关系类似于你的大脑皮层与边缘系统的关系。
”——埃隆·马斯克,2017年,在《Wait But Why》采访中,这次采访启发了Conduit的一位联合创始人进入神经技术领域!- “我们可以将电极插入大脑……我认为融合可能是我们最好的情况。
如果两个不同物种都想要同样的东西,而只有一个能拥有——在这种情况下,成为地球及更远地方的主导物种——他们就会发生冲突。”——山姆·奥特曼,2017年,在Sam的个人博客中。- “我们能否将思想转化为基本行动?
……
我想看看今天的日程。我想看看今天的天气。我想打开卧室的灯……如果你能想‘我想关掉楼下的灯’,然后它们就关了,那可能会惊人地像心灵感应。”——迪恩·鲍尔,2024年,在一次采访中。- “不了解脑机接口,就不可能理解人工智能的长期未来。
”——罗布·托斯,2025年,《人工智能的下一个前沿是人脑》福布斯文章。引用了Conduit的联合创始人Rio和Clem的话。<32. 我们如何构建思想到文本?理论上,这很简单。我们的输入是大脑活动,目标输出是这个人当时在做什么——例如,这个人写了什么文本。
给定大脑活动,我们希望预测与所写内容语义相似的输出。为了训练能够根据大脑信号预测文本的模型,我们必须应用那些根据语音音频预测文本或根据前文预测文本的人学到的同样教训:苦涩的教训。这个教训大致是说,你应该向模型投入更多有用的算力,模型就会变得比你手工设计的任何巧妙算法更好。
这意味着我们必须将数据收集规模扩大几个数量级,远超学术界以往所做的。使用侵入式方法很难收集足够的数据。很少有人想要大脑里有芯片!但非侵入式方法正在变得更好。
硬件在改进且成本降低,虽然我对硬件的具体细节含糊其辞表示歉意。随着我们训练更多数据,模型预测的文本与受试者所写文本的语义相似度越来越高。是的,由于噪声存在一些不可避免的错误,但对大多数模态,我们尚未达到那个极限。
具体来说,缩放定律看起来不错:我们的潜在空间预测与目标潜在空间的余弦相似度随数据小时数的对数呈直线上升。我们处于GPT-2时代。我们不需要完美解码就能有用。你的想法将