标签:# AI编程

不读不写代码如何掌控系统?解构 François Chollet 的推理模型开发流与“洗碗机哲学”

Keras 创始人、ARC-AGI 提出者 François Chollet 近日抛出了一段引发全球开发者震动的自述:“这些日子我既不读代码,也不写代码了,我只负责向推理模型(LRM)下达指令。”更耐人寻味的是他的补充:“这并不是因为我认为 LRM 生成的代码质量有多完美甚至算得上优秀,也绝非我的指令每次都能被百分之百精准执行——我知道它们并不能。”

技术专家肖潭(@tvytlx)随后为此提炼了一个极其生动的隐喻——“洗碗机哲学”:很多人总在等 AI 的代码质量彻底追上手工才能放手,但真正的拐点在于“洗碗机洗得一般,但它能洗三遍,而洗三遍的同时你还能去干别的”。读写代码从来不是工程师的终极目的,掌控系统才是;当机器的验证成本以指数级降低时,传统的软件工程经济学正在被全方位重写。

括号放错酿成 9.5 万人数据泄露:从美珍香 SendGrid 案看 AI 辅助编程的“语义合法性”陷阱

2026 年 9 月末,新加坡个人资料保护委员会(PDPC)公布了一份在亚太科技与安全界引起广泛震动的官方自愿承诺书:新加坡知名肉干食品品牌美珍香(Bee Cheng Hiang Marketing Pte. Ltd.)因营销邮件造成多达 95,364 名会员的电子邮件地址横向泄露而接受监管审查。亚洲新闻台(CNA)与新加坡《联合早报》等主流媒体随后进行了深度报道,并将此案定性为新加坡首起由员工使用生成式 AI 辅助编程直接引发的大规模个人数据泄露事件。

这起事件最具颠覆性的警示意义在于:它并非黑客实施了针对云服务器的渗透攻击,也不是发生了 API 密钥泄露或数据库未授权访问,甚至涉案员工也并未将客户名单上传给第三方大模型;它是一个极其隐蔽却致命的“代码语法完全正确、API 正常返回 202 成功,但业务隐私语义彻底破损”的应用层安全事故。灾难的源头,仅仅是员工在使用 AI 辅助编写 Python 邮件分发脚本时,列表推导式中一个中括号 ] 的闭合位置发生了错位。本文从第一性原理出发,深度还原这起典型安全事件的技术根因、协议逻辑与防御链路,剖析进入“全员 AI 编程时代”后,研发团队必须建立的工程护栏。