Topic

AI Topic

48 posts · from category "AI" or tag "ai"

Welcome to the AI topic.

This topic is updated regularly with:

  1. Breakdowns of AI models and what large language models can actually do
  2. Shipping LLM applications and the engineering around them
  3. Prompt design, evaluation and optimization methods
  4. AI toolchains, workflows and project retrospectives

Suggested entry points:

New AI posts should use the following front matter:

categories:
  - AI
tags:
  - ai
  - llm
  - ai-model

Posts in this topic

View category →
AI15 min read中文

活干完了,汇报你看不懂(中英切换)

中文 English Claude Opus 5 做完一轮长文档问答。41 次工具调用,请求者一条都没看见。交回来的回复里,结果挂在三个名字上:配置键 ,文献编号 R07 和 R09。 我的判断:活干完了,汇报你看不懂。 委托的最后一公里是那句回复。它写这句话的时候站在自己的草稿纸上。你手里只有自己发出去的请求。

AI14 min read中文

没人说过 X,模型先反驳了它(中英切换)

中文 English 你问接口为什么慢。模型回你:瓶颈不是 CPU,而是磁盘 I/O。 对话里没有人提过 CPU。没有人换过 CPU。这个 X 是它自己搬进来的,然后再表演一次打倒。读起来像它想得比你深。 我的判断:没人说过 X。模型先说「不是 X」,不是语法没学好,是打倒一个稻草人听起来像洞察。若干奖励模型为这个声音…

AI9 min read中文

你的 Agent 不是谨慎,是在防不存在的贼(中英切换)

中文 English 你让它改一个函数。仓库里依赖版本钉死了,这条路径只有一个写入者,产物可以从已版本化的输入重新生成。任务里写着三句事实:这是最终版本;测试由你来补;验证只跑这一个测试文件。 diff 里多出来的不是这个函数。是一层 配上默认返回值,一份留给旧调用的兼容垫片,还有一句“要不要我先确认再改”。测试是绿的…

AI6 min read中文

83 个工具,输给一个 curl(中英切换)

中文 English 如果你这半年给 Agent 接过 MCP,大概率干过同一件事:平台有什么接口,就包成一个工具;工具越多,心里越踏实。 ServiceNow 的一组研究人员把这份踏实拿去测了。同样的模型、同样的 729 个任务、同样的三个企业平台(ServiceNow、GitLab、ERPNext),只换 Agen…

AI5 min read中文

演示过九十分,交付只有十分(中英切换)

中文 English 你在下单一件具体的活。需求是一段自然语言:做一个能按这份说明工作的 Agent。你把它交给 Codex、Claude Code 或 OpenHands,再附上两三条已经能跑通的例子。它在这些例子上越改越顺,开发分数过了九十,最后一份报告写着:完成。 你把交回来的东西接进自己的流程,换上它没见过的例…

AI6 min read中文

陌生人的 PR 有人审,Agent 的反而没人看(中英切换)

中文 English 想象两个 PR 同时出现在你的开源仓库里。都来自没有写权限的陌生账号,都改了几个业务文件,顺手动了一下 里的一个 yml。唯一的区别是:一个是人写的,另一个的描述里写着“Generated by Codex”,或者作者头像是 Copilot。 你会更仔细地看哪一个? 大多数人的直觉是:当然是 Ag…

AI8 min read中文

METR 曲线没画错,是单位骗了你(中英切换)

中文 English 群里又有人转那张图:横轴是模型发布日期,纵轴是“AI 能独立完成多长的软件任务”,点一路往右上爬。配文是:“GPT-4 只能干 4 分钟的活,现在已经是小时级了,每几个月翻一倍,照这个速度……”下面一排人开始掐指头算,AI 哪年能干完一周的活,哪年能干完一个月的。 这是 METR 的时间跨度(ti…

AI6 min read中文

你复制的 Skill,永远等不到补丁(中英切换)

中文 English 装 Skill 最常见的方式,是看到一个好用的仓库,把 下面的文件夹整个拷进自己的项目,提交,完事。 这一步你多半没觉得是在“装依赖”。但 Skill 是 Agent 会以你的权限执行的说明书和脚本:它可以让 Agent 跑 shell、联网、改文件。你拷进来的,是一段会被执行的东西,而且没有版本…

AI8 min read中文

AI 搜索的脚注,14 美元就能买(中英切换)

中文 English 你问 AI 一个问题,它回你一段话,句末挂着几个小小的角标 [1][2][3]。大多数人看到角标就放心了:有出处,应该靠谱。 复旦的一组研究者做了个实验:花 14 美元,在一家 GEO(生成式引擎优化)服务商那里下了单,让对方替一个根本不存在的研究主题写稿发帖。付款后 28 分钟,13 篇帖子上线…

AI9 min read中文

人月神话,Agent 又演了一遍(中英切换)

中文 English 1975 年,Fred Brooks 在《人月神话》里写下一句被引用了五十年的话:向一个已经延期的软件项目加人,只会让它更晚。 不是新人不聪明,而是人一多,分工、交接、对齐、合并的成本会把新增的人手吃掉。 五十年后,我们以为终于找到了例外:Agent 不用入职培训、不用开会,复制一个只要一秒。于是…