Tiana随笔

AI

ai 标签下的全部文章。

没人被裁,只是没人被招了

2026年10月26日 · AI 与大模型

斯坦福、SignalFire 和 IZA 三组数据在 2026 年指向同一件事:公司没有停止招工程师,只是停止招没经验的工程师。入门级招聘腰斩的账单要三年后才付,被拆掉的是学徒台阶,不是岗位本身。

推理预算:模型开始"思考"之后,延迟和成本该怎么算

2026年9月24日 · AI 与大模型

思考型模型的账单波动能差十倍,延迟也从两秒变到四十秒。这篇给出一套任务分档的实操方法、分级路由代码、缓存与批处理两个省钱杠杆,以及怎么用评测脚本查表决策。

提示注入:LLM 应用的第一威胁模型

2026年9月22日 · 工程与效率

凡是让模型读外部内容的场景,都要假设有人试图改写它的指令。威胁建模、攻击面盘点和防御分层,一次讲透。

一个独立开发者的 2026 AI 工具栈

2026年9月22日 · 工程与效率

写码、写作、运维、设计,AI 已经渗透到独立开发的每个环节。盘点我今年实际留下来的工具组合和淘汰掉的方案。

AI 生成内容的合规自查清单

2026年9月21日 · 工程与效率

监管对 AI 深度伪造、虚假信息、违规爬取的整治持续收紧。内容生产者和技术开发者各需要一份自查清单。

每瓦特 Token 数:算力成本的新视角

2026年9月20日 · 工程与效率

AI 行业的瓶颈正在从算法转向能源和芯片。“单位功耗产出”这个指标,正在影响从数据中心到笔记本的一切设计。

用 AI 编程助手重构老项目:一次实录

2026年9月2日 · Agent 实践

拿一个三年没动的老项目试了完整的“AI 辅助重构”流程:先读、再测、后改。结论是顺序反了就全是坑。

Agent 元年:从会聊到会干活

2026年8月31日 · Agent 实践

行业竞争的重心正在从模型跑分转向 Agent 落地交付。怎么理解这次重心转移,以及为什么“稳定交付”比“聪明”更难。

开源权重模型选型:Qwen、DeepSeek、GLM、Kimi

2026年8月30日 · AI 与大模型

公开调用量榜上中国模型已经占了大半席位。不是说它们全面超越了旗舰,而是“够用 + 便宜 + 拿得到权重”这个组合赢了。

量化与蒸馏:把模型便宜地放进生产

2026年8月29日 · AI 与大模型

同样一个模型,部署方式的成本能差十倍。量化、蒸馏、缓存,三条降本路线各有适用场景,这篇给出选型决策。

模型周更之后,你需要自己的评测集

2026年8月28日 · AI 与大模型

模型发布速度已经快过开发者完成一轮评估的速度。与其追榜单,不如花一天建一个 50 条的私有评测集,从此换模型变成跑一次脚本的事。

多模态落地的三个真实场景

2026年8月27日 · AI 与大模型

图文理解能力降到几厘钱一次之后,多模态从“演示项目”变成了可以写进排期的功能。挑三个投入产出比最高的场景说说。

从提示词工程到上下文工程

2026年8月26日 · AI 与大模型

过去一年最明显的变化:写好一句指令带来的提升越来越有限,而“给模型看什么”——文档、示例、历史、工具结果的组织方式——成了效果的主要变量。

给应用接 LLM API:成本、限流与降级

2026年8月25日 · AI 与大模型

上线一个真正在用的大模型功能,工程量的大头不在调 API,而在限流、重试、缓存和降级。这篇整理一套可以直接抄的防线设计。

上下文窗口越来越长,RAG 还有必要吗

2026年8月24日 · AI 与大模型

能塞一本书进上下文之后,“把知识库都喂进去”听起来很有吸引力。但成本、噪声和延迟提醒我们:RAG 没死,它只是换了形态。

在笔记本上跑本地模型:一次完整的安装记录

2026年8月23日 · AI 与大模型

从选模型到跑通第一条命令,记录在 32GB 内存的笔记本上跑开源模型的完整过程,包括显存占用、速度和几个想当然就会踩的坑。

30B 以下的小模型,能顶多大用

2026年8月22日 · AI 与大模型

笔记本都塞得下的小模型,每个月都在逼近旗舰系统的能力线。哪些活已经可以放心交给它们,哪些还不行,这篇给一个实测分界线。

挑大模型的新标准:从跑分到 Token ROI

2026年8月21日 · AI 与大模型

9 月前后一周之内七家厂商同时发新模型,榜单还没看完价格已经变了。比拼单点能力之外,“每百万 Token 花出去能换来多少实际产出”正在成为选型的第一指标。