AI 见闻
精选· 重要性 4/5

LLM正在侵蚀我的职业生涯:对评论的回复

Hacker News (AI)··omblivion·约 9 分钟阅读
Hacker News 169
中文导读

一位资深工程师在帖子中描述LLM如何侵蚀其专业知识价值,引发热议。本文回应评论,探讨AI对软件工程及其他知识工作的深远影响,警示行业商品化风险。

对我“LLM正在侵蚀我的职业生涯”帖子的评论的回复所以,我的最新帖子在网上疯传。随着病毒式传播,你会收到大量必须回复的评论。我不想在HN/Reddit/Whatever上回复,以免陷入无尽的线程深度,消耗我的理智。

我将挑选一些评论,并在这里为那些寻找答案的人留下回复。什么?我整天都在试点LLM,但我绝对不可能同意掌舵金融产品。LLM经常在我们的业务细节上失败:地方税务法规。我应该更明确地说出来。

当涉及到当地税法或非常细粒度的细节时,LLM并没有自动化所有内容,但这通常由这里的法律团队处理(他们也在用LLM自动化许多常规工作)。但随着时间的推移,我掌握的大部分领域知识(显然比法律团队正在做的要浅)现在只需通过ChatGPT Pro/扩展思考就能提示出来。

这就是让我难过的地方:我以为拥有这些知识会让我在一个只知道如何编码的程序员世界中脱颖而出,但这已经不是现实了。会计流程的特殊性、我们分类账实施的特殊性。

我工作场所的智能体以前也不擅长这类事情,但较新的模型+对智能体友好的文档+AGENT.md(恳求智能体在编码前阅读该死的文档)改变了我们这里的局面。

我越来越少地觉得有必要联系那些工作时间更长、了解一些细节的同事。我现在需要更少的人力输入来完成工作,当我停下来思考时,这真是太可怕了。此外,一家金融科技公司的经理建议用AI加速设计文档,这听起来太粗心了,不适合从事资金处理业务。

是的,我也不同意这一点,我的解决办法是:使文档在实现细节、状态机等方面具有一定的通用性,这样我就有空间进行深思熟虑的实现。AI进来(然后是裁员)后,每个人都沉浸在冗长的文档中需要阅读和需要审查的PR中,所以审查者现在不再那么挑剔了。

这给了我空间来解决初始文档中的缺陷。在团队看板上做一些调整来为我争取时间。例如,我总是添加E2E测试的票证,在其中我可以找到错误,这给了我在功能发布之前提交错误/改进票证的空间。这也让我有更多时间谨慎审查实现。

我还将实现的初始部分(通常更敏感)分解为比通常更多的卡片,这样我就有一些空间来实现并谨慎审查它。我喜欢这样做吗?当然不,但我的选择有哪些?我从认识的人那里得到的报告是,我的公司并没有处于vibecoding的极端边缘,因此离开它去一个可能更糟的环境并不是一个好交易。

至少我知道如何控制利益相关者的焦虑(我的勤奋和谨慎为我赢得了良好的声誉),这不会迫使我全力以赴vibecoding。乘风破浪。当网站/网络应用成为潮流时,你就骑上了它。我在互联网之前就进入了软件行业,不断换马。

学习新技巧永远不会太老。新浪潮创造了新的工作和工人。成为他们中的一员。驾驭野兽,掌握工具。又是同样的游戏了。是的,这就是我现在正在做的事情。我是不断致力于改进我们的智能体工具的工程师之一,我使用不同的模型来进行对抗性代码审查,我保留了技能和提示等工具带。

我实际上已经成为所谓的“AI原生工程师”(天哪,我讨厌这个词)。我更关心未来。如果模型(和安全带)在可预见的几年内继续以同样的速度变得更好,那么我们将走向一个该行业彻底商品化的世界。有一个关于杰文斯悖论的讨论,但我不同意。

对软件的需求肯定有一个上限。以文案写作为例。这是一个需要数年时间才能掌握且报酬丰厚的职业。随着越来越多的专业人士加入市场,这种情况也在慢慢改变,即使在电子商务和广告科技推动需求激增之后。现在,LLM已经毁掉了绝大多数专业人士的工作。

原因很容易看出:大部分需求来自较小的公司,这些公司需要文案,但ChatGPT生成的文案也能很好地满足需求。有些人仍然被雇用只是为了提示、审查和发送文案,但由于需求并非无限,因此并非所有人都可以被雇用来这样做。

一名文案现在正在做10名文案的工作,但需求是固定的。需求不会因为供应增加10倍而增加10倍。当然,最好的文案仍然可以雇用,但他们只是大约1%。其他99%的人正在为残羹剩饭而战。用户体验写作曾经是一个前景良好的职业。

现在我认识的都被解雇了。即使是大型组织也会解雇他们;你只需提示ChatGPT提供文本标签,90%的情况下都是可以的,因此在你的工资单中拥有10名专业人士不再合理,解雇9个并保留1个。如果模型继续朝着同一个方向进步,我们都会走向同样的命运。

当然,我们将聘请一些工程师来指导智能体,但他们将是可替代且便宜的(再次是供需关系)。这就是我在上一篇文章中强调的内容。其他职业也会面临同样的情况:我们都知道软件是实验室现在瞄准的低垂果实。他们将从事金融、生物、法律、营销和所有知识工作。

这是他们既定的目标,他们已经通过“ChatGPT for Health”和类似的发布来取笑这一目标。

他们正在为其他领域开发“安全带”,我们拥有“Claude金融分析师”或其他东西只是时间问题。这篇匿名文章可能更多地来自AI行业的恐惧、不确定和怀疑。“放弃吧,你无法击败机器。请安静地走,我们想取代你的位置,如果你不因为你相信这毫无意义而反抗,对每个人来说都会更容易。

”所以博客上有一篇帖子来炒作LLM。哦,还有域名“human-in-the-loop”。叫我可疑吧。如果读了我刚才在上面回复中所说的内容后,你仍然认为我是“AI托”或“实验室托”,那我就无能为力了。

整个社会感觉更加动荡,但这又是同样的老调重弹。90年代和00年代掀起了这波“面向对象编程改变一切”的浪潮。OOP并没有让知识变得可提示。OOP并没有表现出快速、复合改进的迹象,旨在取代众多领域(不仅限于软件工程)的工人。

这不一样,人们。我们倾向于认为过去预示着未来(顺便说一句,没有严肃的历史学家相信这一点),但有时会发生非凡的事情。以Covid-19为例。我记得当它在中国爆发时,人们对它不屑一顾,因为最近对2009年猪流感、2014年埃博拉疫情或SARS的记忆。

我们都知道它是如何结束的。如果我们一开始没有忽视它,事情可能不会那么戏剧性。

现在类似的事情正在发生,人们因为OOP、Metaverse或NFT而忽视它。停下来思考,不要试图用过去的(糟糕的)例子来预测未来。我不想散布恐惧,但我们现在确实有比OOP更大的东西。

我们构建了一个矩阵乘法机器,(给定适当的安全带、工具和提示)可以连续几个小时输出有用的文本字符串。这是科幻小说的东西。我们应该采取相应行动。如果作者对未来的愿景是正确的,那么有能力的软件工程师就是安全的。

领域知识的学习比如何应用良好的工程原理要快得多。恕我不同意。模型将在某个时候学习良好的工程原理。仅举一个例子:有一家名为Turing AI的公司正在雇用工程师来编写“好代码”

原文出处
Replies to comments on my "LLMs are eroding my career" post

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。

相关阅读