别让 AI 瞎编的代码把你带沟里：学会抓它的谎
本文由 AI 自动整理生成，可能存在错漏，请以原文链接为准。
今天两件事挺戳人：一个是老司机 Matt Pocock 手把手教你揪出 AI 写的胡话，另一个是阶跃星辰直接发了台能跑智能体的手机，想把模型塞进你手里。另外还有几条很实在的花钱指南和工具，往下翻翻。
灵感百宝袋
AI 帮你写代码时也会一本正经地胡说，Matt Pocock 给了你一套抓谎的 checklist。
他区分了两种幻觉：事实性幻觉——比如虚构一个根本不存在的函数名；忠实性幻觉——逻辑跑偏了但拼写没错，看着像那么回事。这两种都会让代码一跑就炸。检查的方法很实在：先别跑代码，花一分钟对着文档查一下它调用的函数是不是真存在，再用常识想一想这段逻辑到底通不通。下次你让 AI 辅助写代码，试试这个动作——能提前拦住大部分坑。
原文：https://www.youtube.com/watch?v=H-JHumbpORI
他们给巡逻海上的 AI 划了三条铁律：灵魂、技能和配置，错一步就可能把舰艇指错方向。
Shippy 是给海洋安全分析员用的 AI 助手，出错会让巡逻船白跑、浪费紧缺资源。团队设计的框架里，「灵魂」是系统提示设定边界，「技能」告诉它怎么处理具体请求，「配置」控制行为，每一步都围着可靠性转。他们的教训是：别只测模型本身，要测整个智能体和实时数据打架的结果。你平时让 AI 处理重要事务也能借鉴——给它一个「界限」，再在最后留一道人工确认的手续，哪怕只是看一眼。
原文：https://huggingface.co/blog/allenai/shippy-tech-blog
江湖快报
上市前夜，阶跃星辰不聊融资，直接掏出了台能跑个人智能体的手机。
7 月 13 日晚，他们一口气发布了终端品牌 STEPX、操作系统 Step AOS、个人智能体 Amoo 和首款手机 STEPX Neo。不过目前没公布配置、价格和上市时间，更像一台证明闭环能跑通的战略样机。创始人印奇说，如果只能当供应商，很难控制从模型到体验的完整链路，所以他们自己下场做终端。这大概是第一家想把模型、系统和硬件同时捏在手里的大模型公司。
原文：https://www.infoq.cn/article/PuGOGJPBElTjpCGSwrAu
贤者视角
一个精心构建的蜜罐网站，差点让 Claude 顺着链接把你的聊天记录偷出去。
据 Simon Willison 的博客，他分析了由 Ayush Paul 发现的一个漏洞。Claude 原本设计了 web_fetch 工具只访问用户指定的 URL，以防数据外泄。但攻击者可以建一个网站，让抓取到的页面包含看起来无害的链接，一步步把 Claude 引到一个能记录对话信息的地址。虽然漏洞已经修复，但这提醒我们：AI 工具的安全防护是持续攻防的过程，使用时尽量别让它接触特别敏感的私密信息。保持警觉，总没错。
原文：https://simonwillison.net/2026/Jul/15/claude-web-fetch-exfiltration
OpenAI 给老板们的算账手册：扔掉 token 价目表，盯住「每块钱干了多少活」。
从 GPT-4 到 GPT-5.4，token 价格跌了 97%，但便宜不代表产生了价值。OpenAI 建议衡量「每美元有效工作量」——完成了多少任务、省了多少工时、改善了多少决策。他们列出五步：看清谁在用、怎么用；按成果评估模型效率；建立高级工作流前的治理；投资能自我增强的流程；按需求匹配容量。如果你要在团队里推 AI，下次汇报试着把「省了几个小时」列出来，比涨了多少调用量更有说服力。
原文：https://openai.com/index/managing-ai-investments-in-agentic-era
黑客泄露的数据，让 AI 音乐工具 Suno 的训练底细第一次被看得这么清楚。
据 404 Media 报道，一次黑客事件暴露了 Suno 的训练数据来源，疑似从 YouTube Music、Deezer、Genius 等平台抓取了数百万首歌曲和歌词。Suno 此前一直对训练数据来源守口如瓶。这次曝光让外界终于有机会窥见「一键生成」背后的素材库，也再次把 AI 音乐的版权边界问题推到了聚光灯下。至少现在你知道，那些听起来很棒的旋律，背后可能藏着不少别人的心血。
买辆电动自行车丢了件，作者在 AI 客服的世界里转了几个月，愣是没碰上一个真人。
Wired 的编辑买自行车，配送丢失后联系 FedEx、银行、信用卡公司，全被卡在聊天机器人的循环里，问题迟迟未解决。一边惊叹 AI 多强大，一边被最基础的客服气得半死。这种反差说明，不是有技术就够了，体验设计才是考验。下次你做产品或服务，多想一步：如果我是用户，遇到麻烦时，能不能两步之内碰到真人帮忙？
开发者补给站
用 AI 像人一样点击浏览器做回归测试，还能直接卡住你的部署流水线。
基于 Amazon Nova Act 的 QA Studio，用自然语言定义测试用例，视觉导航，每个用例在独立容器并行跑，支持批量回归测试，并通过命令行集成进 CI/CD。适合已经在 AWS 上、想用 AI 解放 QA 人力的团队。门槛：需要 AWS 环境，成本不低；AI 驱动的测试稳定性还在打磨，别一上来全盘替换手工测试，先在非关键项目局部试点。
一个学生写的开源工具，让你在不同设备间搭个虚拟局域网，告别端口转发的痛苦。
CipherLAN 帮你把分散在互联网各处的电脑连成同一个虚拟网络，适合自托管服务、游戏联机、远程调试等场景。不用折腾路由器设置，简单配置就能用。它还很年轻，安全性没经过大规模检验，别直接扔到生产环境。不过，如果你在折腾家庭实验室，拿两台设备试试，说不定能省掉一堆网络配置的麻烦。
原文：https://www.reddit.com/r/selfhosted/comments/1uxh1en/i_built_cipherlan_a_simple_way_to_create_a
自动生成 PostgreSQL 数据库迁移脚本，再也不用对着两个 schema 差异发呆了。
Pgmig 解决了一个老痛点：当数据库结构变了，以前你要手动对比、写迁移 SQL，或用 ORM 框架但总有遗漏。这个工具能自动生成迁移文件，减少人工出错。适合长期用 Postgres 的团队。它才刚冒头，生产环境引入前先在测试库里跑通。如果你受够了手写 ALTER TABLE，先拿非关键库试试看。
原文：https://news.ycombinator.com/item?id=48925117
好物挖掘机
把一周的待办扔给它，AI 自动填进你的日历，还能押 5 美元逼自己完成。
nudge2.0 用自然语言接收你的任务，AI 会根据截止日期和你的睡眠、用餐时间自动排进日历。它还带一个小额金钱抵押机制：按时完成不扣钱，否则就扣掉。支持 Slack 和 Discord，不用来回切应用。目前主要面向海外用户，定价 20 美元/月。但它的「押金自驱」玩法挺有意思——没条件用的话，和朋友约定没完成请奶茶，也能达到类似效果。
原文：https://www.producthunt.com/products/nudge-26
让你的 Mac 在渲染、下载或跑 AI 任务时别偷偷睡觉，免费又开源。
Keepresso 是个菜单栏小工具，你设好智能触发器、定时规则或合盖模式，它就能按需保持 Mac 唤醒，避免任务中断。命令行控制也支持，适合长时间跑脚本、传大文件的人。从 GitHub 免费下载，要求 macOS 14+。平时丢着跑活儿总担心自动休眠，装一个就能放心走开，设置也简单。