Amy Wei

如果人还需要这么刻意的去区分脚本、Skills、Agent，说明 Agent 还不够聪明。 理想情况下，任何要求都只需要跟 Agent 说，如果一个要求 Agent 被要求处理很多次，它应该结合历史记忆，主动把这个要求自己整理成 Skills，Script 则是 Skills 的一部分。 并且这些 Skills 它是持续更新维护的。

From Questions to Solutions: How TripGenie Powers Every Step of Your Trip

我要就坐不住了：这不是 I/O，这他喵的是 Google 开的新一张桌子。 你以为他们在发 Gemini 模型，其实他们是在把 Gemini 变成 Chrome、Docs、Gmail、Android……你所有动作背后的“默认大脑”。 这哪里是在跟 ChatGPT 比能力，人家直接新开一张桌子不跟你玩了。 当你还在加 AI 应用、卷 LLM 接入速度的时候，Google 的生态已经全面 AI 化了。 这波不是AI 更聪明了，而是你不知不觉已经活在它里了。 聊一聊我的看法，不聊横向对比 ChatGPT 谁强谁弱， 看清 Google 这两天已经从追赶变成了主导，直接奔着 AI 生态主导权来了。👇

没想到我新的提示词更适配 Gemini 2.5 Pro 而不是 Claude 早上给群友的特斯拉财报分析文档做了个网页，太漂亮了 非常惊艳

我是如何高效翻译 65 页 Google 官方提示工程白皮书 PDF 文件的 前几天翻译 Google 官方提示工程白皮书 PDF Google 官方提示工程 (Prompt Engineering)白皮书完整翻译和 PDF 下载 的时候，尝试了一些自动化的方法来提升效率，分享一些我翻译 PDF 的经验和心得。 首先我个人比较排斥保持排版的翻译方式，因为 PDF 在翻译后，文字长度不一致会导致排版很难看，忽大忽小；另外翻译的时候由于布局导致的文字被强行分割，导致上下文不完整会影响翻译质量。 我在翻译 PDF 时，会把 PDF 先转成 Markdown，再基于 Markdown 去翻译，翻译好了基于翻译好的 Markdown 再去重新生成 PDF，对于文字、表格、图片都能很好的保留，主要缺点是布局格式保留的不是很好，不过我翻译的通常是文字图表为主的，所以影响不大。 🧵

昨晚先是一条没头没脑的简讯「苹果为中国用户调整百度人工智能模型时遭遇障碍」，然后今天详细报道就都出来了，简而言之就是： 知道百度菜，没想到那么菜。。。📷 iPhone 16内置的AI能力，相当于苹果接入其他大模型厂商的定制化API实现的，全球的合作方是ChatGPT，在中国则是百度的文心大模型。 然而苹果的工程师发现在训练文心大模型适配相应用户指令方面出了很大的问题，用The Information采访内部人员的原话来说，是「该模型在理解提示和准确响应方面遇到了困难」。 苹果还指望AI能力能够拉动新款手机的销量来着，于是自然急得不行，习惯了ChatGPT当队友，却没考虑到不是每家大模型厂商都有那样的优势。 从报道细节来看，百度对合作深度的预估不足也有很大原因，有一个例子是，苹果希望iPhone用户在问AI推荐餐厅时，可以基于他在自己这台iPhone上的使用数据来做推荐，而百度的文心大模型只能基于和用户的对话历史提供答案，相当于套壳了文心一言，这完全不能满足苹果的要求，催着百度加快对iOS的定制开发。 更有意思的是，因为国行iPhone的AI必须找国内大模型合作，所以实际上形成了一个卖方市场，是苹果给百度付钱以获得文心大模型的模型授权，而且新的训练和微调成本，都是由苹果这边承担的。 但在海外，就算ChatGPT已经因为在苹果产品线上的预装而被制定了10亿活跃用户的年度目标，苹果也没有向OpenAI付钱，双方的合作更像是互利关系。 所以你们能感受到苹果心里有多苦了吧，钱当然不是问题，问题是给了钱后拿到的东西根本没法用⋯⋯ 还有一条消息是，百度希望能够保存并分析用户在iPhone上使用AI之后的数据，而苹果自带的隐私权限不允许，双方在这方面也在扯皮。

Amy Wei, senior product director at @TripcomGroup, the founder of Trip.com #TripGenie discusses what makes her AI #travel assistant different from others. bit.ly/3ADd6OC

Now, reembark on the Journey to the West! #BlackMythWukong is now available on PS5, Steam, Epic Games Store, and WeGame. Confront your destiny on the journey westwards!

推荐阅读：《我们在使用大语言模型 (LLMs) 构建产品一年中的经验总结 (第一部分) [译]》 文章主要分享了大语言模型核心组件的最佳实践，包括提示词设计、对 LLM 输出结果的评估，什么时候该用 RAG 还是微调等等。 一、提示词设计 1. n-shot 多样例 在提示词中加入 5 个以上不同类型的示例，覆盖各种可能情况 2. CoT 思维链 让 LLM 在输出结果之前解释其思维过程。简单的加入“让我们一步步思考”还不够好，最好是明确步骤 3. 输入输出的结构化 在使用结构化输入时，请注意每种大语言模型都有自己的偏好。Claude 偏好 xml，而 GPT 则偏好 Markdown 和 JSON。 4. 编写小而精的提示词，专注做好一件事 不要试图在一段复杂的中解决所有问题，尝试拆分成多个小而专注的提示词 5. 精心设计上下文信息 上下文信息并非越多越好，而是要提供关键的有效信息，而不是冗余、自相矛盾和结构混乱的信息。 二、信息检索/检索增强生成（RAG） 1. RAG 输出的质量取决于所检索文档的质量 所检索的信息相关性越高、信息密度越高、文档细节越丰富，检索效果越好。 2. 关键字检索同样很重要 现在大部分 RAG 教程演示都是基于嵌入（Embedding），但很多应用场景关键字检索效果可能更好，最好是将嵌入和关键字结合使用 3. 优先使用 RAG 而不是微调 大部分时候是不需要微调的，RAG 便宜、容易实施，并且 RAG 提供了更精细的文档检索控制。 4. 即使是模型的上下文越来越长，RAG也不会过时 需要 RAG 来筛选输入模型的信息来提升上下文信息质量得到更好的结果，另外长上下文成本比较高。 三、从提示工程到工作流 1. 逐步多轮的工作流能显著提升效果 将一大段复杂提示词分解为若干段短小提示词可以取得更好的效果，而多个短小提示词需要有工作流来支撑 2. 优先采用确定性工作流 工作流越确定越容易管理和控制 3. 合理使用温度（temperature）参数 如果希望 LLM 生成结果更加多样化，那么调高温度参数，如果希望更加确定性，则调低。 4. 不要忘记缓存 对于 LLM 生成的结果，可以缓存起来，下次有相同的请求可以重用节约成本。 5. 微调 有一些任务，即使是最巧妙设计的提示也无法胜任。例如，即使经过大量提示工程，我们的系统可能仍然无法返回可靠的高质量输出。如果是这样，那么可能有必要为特定任务微调模型。 如果决定微调，为了减少收集人工标注数据的成本，可以 生成并在合成数据上进行微调，或 在开源数据上引导。 四、评估与监控 1. 基于实际输入输出样本编写单元测试 收集实际应用的输入输出样本，用这些数据编写测试。由于 LLM 输出存在一定的开放性，可以用一些特殊的验证方式，比如字数、句子数在范围内，比如格式是否符合要求等。 2. 用 LLM 评估 LLM 生成结果 可行，但不是万能的。 3. “实习生测试” 把 LLM 当成大学实习生，如果这个任务实习生能完成，那么模型是不是也可以？如果实习生都不能完成，那么是不是应该简化拆分？ 4. 过分强调某些评估指标可能损害整体性能 “当一个衡量标准变成目标时，它就不再是一个好的衡量标准。” 其他还有几个评估与监控方法，不再总结，有兴趣请阅读原文。 原文：oreilly.com/radar/what-we-le… 译文：baoyu.io/translations/llm/wh…

看到 Perplexity 的这个 Page新功能，有点小激动，这不就是我一直在等待的 search➕文本编辑 in one place 产品么！之前订阅了 notion AI 功能，没有解决真刚需，果断取消。 如果 page能够低延时，编辑功能友好，应该很容易写出心流的感觉吧！做研究，写博文效率也会极大提升！ 这才是 Native AI应用该有的样子，cool🫡 #perplexity

昨天才了解到，某RAG平台工具选择（Function Call）的策略是将工具的名字和描述信息embedding，然后与用户问题embedding进行比较，选择最可能的那个。这样还能解决工具过多（超过LLM Context）的问题。 这样的解法真的挺巧妙的。

如果你看过我以前写的多步翻译 Prompt baoyu.io/blog/prompt-enginee… ，还是这个总结的 Prompt，你就会发现：“所谓提示词工程，核心不是你套个什么模板用什么格式，而是逻辑！！” 逻辑就是你怎么将一个复杂的任务拆成科学合理的步骤，并且让前面每一步的结果都成为后面步骤的基础，所有步骤合并在一起得到最终的结果，而不要指望一步得到结果。只有这样你才能得到最佳的效果。 就像翻译，无论你的 Prompt 格式写的多完美，如果只有一步，那么效果上接近 DeepL 那样就是天花板了，但如何你拆分成直译、反思、意译，那么效果就接近人写的效果了！ 就像总结，如果你只是让它总结，那么它可能就会偷懒遗漏很多要点，但如果你让它先提炼主题、再检查有没有遗漏的主题、然后基于每个主题列要点，最后再基于上面的去生成总结，就会好很多，也不会“偷懒”。 哪怕只是写一句“让我们一步步思考”，让它自己去分步骤，列出每一步的结果，都会好很多！ 下次写 Prompt，效果不理想时，不妨想想看：我是不是可以把这个任务拆分成几个步骤？怎么拆分最合理？

宝玉老师的多步翻译法 prompt 很好，但输出结果里同时包含直译和意译还是不太合适，我通过 dify 的workflow，配合 D2O，配置在 Bob 翻译上，就可以实现无损多步翻译了，缺点是 token 和时间也都成倍增加，图片三种模式的模型均为 gpt-3.5-turbo-0125，把其中一些工作交给 gpt-4 应该会更好