第一次写聊天程序时,代码很容易给人一种“已经完成了”的错觉:传入一句话,模型返回一段话,终端里也确实打印出了答案。 但只要继续加两个需求,比如“回答必须保持固定格式”和“把每次调用记录下来”,原来那几行代码就会迅速膨胀。第 2 章从第一个聊天机器人讲起,我觉得它真正想建立的不是某个 API 的记忆, ...
在机器学习实战中,我们常常把精力花在调参和选模型上,却忽略了一个更基础的问题:喂给模型的数据里,有多少特征是真正有用的? 刚开始学机器学习那会儿,我特别喜欢堆特征,不管有用没用先一股脑全塞进去,总觉得特征越多模型越聪明。 直到有一次跑练习数据集,X_train.shape 直接干到了 (50000, ...
WorkBuddy:企业级AI编程的落地实践 AI编程工具从个人使用到企业级部署,中间隔着相当大的鸿沟。WorkBuddy 的特殊之处在于,它从一开始就以企业场景为设计出发点,因此在实际落地过程中展现出了显著的优势。 企业级部署的核心挑战 大型企业在引入AI编程工具时,通常会面临几个核心问题:数据安 ...
WorkBuddy:AI编程助手如何改变开发者的日常 如今,AI辅助编程已经不再是科幻电影里的桥段,而是真实发生在每个开发者屏幕前的日常。不得不说,在众多AI编程工具中,WorkBuddy 凭借其出色的代码理解和自动化能力,正在悄悄改变着开发者的工作方式。 从写代码到理解业务 传统的编程工具更多是一 ...
刚接触 LangChain 时,我有过一个很直接的疑问:调用大模型不就是发一次 HTTP 请求吗,为什么还需要专门学一个框架? 把 Demo 写到几十行以后,答案就慢慢出现了。提示词要维护,聊天记录要裁剪,模型输出要校验,私有文档要检索,工具调用要鉴权,线上问题还得能追踪。麻烦的从来不是“把请求发出 ...
Remotion 是 Jonny Burger 在 2021 年开源的项目,GitHub 上 2 万多 star,用 React 组件写视频。HyperFrames 是 AI 视频公司 HeyGen 的开源项目,用 HTML + GSAP 时间轴写视频。它们最初都是程序员手写代码做动画的工具。后来各... ...
LLMA-Mem 目前挂在 Arxiv 26.04 上,探讨了 LLM 多智能体系统中 "横向扩展团队规模" 与 "纵向积累时间经验" 两种扩展维度之间的交互关系,提出通过记忆设计实现更高效的终身学习 背景 LLM 多智能体系统(Multi-Agent Systems, MAS)可以通过两个不同维度 ...
写到第 12 篇时,我更愿意把 Happy-LLM 看成一条从概念到工程的学习路线,而不是一本按章节读完就结束的教程。它的主线很清楚:先补 NLP 和 Transformer,再看预训练模型如何发展到 LLM,随后进入动手搭建、训练、对齐,最后落到生成、RAG、Agent 和具体应用。这个顺序的好处 ...
补充章节读下来,我最大的感受是:LLM 工程并不是只围着“更大的模型”转。真正落地时,常见问题反而是数据能不能出内网、成本能不能压住、延迟能不能接受、上下文格式是否稳定。大模型给了能力上限,但业务常需要可控、便宜、可部署的边界。 这几篇 Extra-Chapter 把几个主题串了起来:小模型微调、v ...
学到第七章后,我对“大模型应用”的理解开始从单次问答转向系统工程。RAG 解决的是知识如何进入上下文,而评测和 Agent 关注的是另外两个问题:模型到底能不能被信任,以及模型怎样从“会回答”变成“会做事”。 这两个主题放在一起很自然。没有评测,Agent 的每一步都像黑箱;没有 Agent,评测也 ...
大家好,我是R哥。 最近我的 Claude 账号也被封了《麻了!我的 Claude 老账号也被封了….》,无所谓了,反正它不是非用不可。 作为 Claude 重度用户,这篇就来说说 Claude 到底有多恶心,有多抠门?? 我细数了 Claude 的 13 个臭毛病,说的不对,欢迎你来骂我!! 1、 ...
第七章开始进入大模型应用,RAG 是其中最容易被低估的一块。很多教程会把它讲成"文档切块、向量化、相似度检索、塞进 prompt",流程看起来很顺,但真正落到工程里,问题往往不在能不能跑通,而在检索到的知识是否完整、是否相关、是否能被模型稳定使用。 Happy-LLM 的 Tiny-RAG 实现很适 ...
康奈尔笔记AIGC康奈尔笔记法康奈尔笔记法(Cornell Note System)是由美国康奈尔大学教育学教授沃尔特·鲍克(Walter Pauk)在20世纪50年代发明的一种高效笔记系统。它的核心理念不仅仅是“记录”,而是通过特定的版面设计,强制你在记笔记的过程中完成记录、思考、提炼和复习的完整 ...
很多人兴致勃勃地装了 Matt Pocock 的 Skills 之后,大概率只用过其中两三个。剩下的一直躺在列表里——不是没用,是你不知道什么时候用、按什么顺序用、用完之后下一步接什么。 ...
前面几篇都在讲模型怎么训练出来,这一篇换一个角度:模型推理时每一步只输出一个 token,那"选哪个 token"这件事,其实才是用户直接感受到的产品行为。Happy-LLM 的额外章节把生成方式单独拎出来讲,读完后我最大的感受是:解码策略不是锦上添花的小参数,而是模型能力和使用体验之间的最后一层接 ...
上一篇文章采用langchain_community包协助LangChain实现了对话记忆功能,但langchain_community属于早期链式架构的临时补丁,仅适配简单线性对话。 LangChain官方推荐使用LangGraph实现复杂的会话记忆功能,LangGraph是从底层统一管理全流程 ...
Mem0 源码阅读笔记 版本:mem0 main 分支,commit dd5f7e39 1. 核心概念与大致架构 1.1 定位与三段式数据流 Mem0 把自己定位为「AI agent 的记忆层(memory layer)」。一条记忆(memory)的写入与检索,本质是三段式流水线: 原始对话/文本 ...
第五章是手写一个小 LLM,第六章的重点则变成:真正做训练时,为什么大家通常不会一直停留在手写训练循环里。答案很现实,模型结构、数据处理、分布式训练、checkpoint 恢复、日志监控和参数高效微调,每一项单独看都不难,合在一起却很容易把实验搞乱。 这一章给我的最大启发是:训练流程不是“模型 fo ...
OpenCode 是一款开源 AI 编程代理,目前在 GitHub 上拥有超过 16 万颗 Star,月活开发者超过 750 万。它支持终端、桌面应用和 IDE 扩展等多种使用方式,并且由于隐私优先的设计——不存储你的代码和上下文数据——在对隐私敏感的开发环境中也能放心使用。 OpenCode 的一 ...
模型本身是无状态的,也就是不具备记忆功能,单次对话无法留存上下文信息,多轮交互中会遗忘历史对话内容。用户之所以感觉AI工具拥有记忆,是因为AI工具给大模型封装了一层记忆。 LangChain作为主流的大模型应用开发框架,内置完善的记忆模块(Memory模块),能够高效管理对话历史记录,让AI实现逻 ...