Tiana随笔

RAG

rag 标签下的全部文章。

让模型给文章写摘要:一个会重试的 LLM 客户端,和一条 SSE 全链路

2026年9月24日 · AI 与大模型

我把手写摘要交给了模型,但我不信任它。这篇讲两块最难的东西:客户端怎么处理超时、限流和退避抖动,以及 SSE 流式怎么从模型接口一路走到浏览器,中间三个环节各自的坑。

给博客加一个能搜正文的搜索:FastAPI 倒排索引 + Vue 3 搜索框

2026年9月24日 · 工程与效率

站内搜索只能匹配标题,正文完全搜不到。这篇是重写实录:一个两百行不到的 Python 内存倒排索引、中文 bigram 分词、FastAPI 接口,以及 Vue 3 那边必须处理的防抖与竞态。

上下文窗口越来越长,RAG 还有必要吗

2026年8月24日 · AI 与大模型

能塞一本书进上下文之后,“把知识库都喂进去”听起来很有吸引力。但成本、噪声和延迟提醒我们:RAG 没死,它只是换了形态。