流式输出(Streaming)原理与踩坑经验

博主头像 流式输出(Streaming)原理与踩坑经验 本人在日常开发中,遇到流式输出相关的问题,一般都需要靠大模型协助定位问题,归其根本是因为我对流式输出的原理认识不足。所以本篇文章记录我学习流式输出的原理,以及在实际开发中遇到的问题。 整体流程: 大模型生成 token ↓ 打包成 chunk(一个或多个 ...

凌霞 618 年中大促,全线半价,叠加满减!

2026 年中大促正式开启。6 月 16 日至 6 月 30 日,凌霞软件旗下 Halo 建站系统与 1Panel 服务器管理面板全线产品一律 5 折优惠,新购、订阅续期、版本升级、版本变更四类订单均享折扣,无需输码、无需凑单。同期开放两轮大额满减券,可与半价折扣叠加使用,最高额外再省 ¥800。 ...

为什么你的收藏越积越多,却越来越没用?

在 AI 时代,获取知识已经不是瓶颈了。真正的瓶颈是——你积累了那么多东西,但它们从来没有被"编译"过。 信息囤积 ≠ 知识积累 看看你自己的数字生活:微信收藏了几百篇文章,Obsidian 里存了上千条笔记,浏览器书签栏挤得连图标都看不清,聊天记录里散落着各种"稍后看"的截图。 这些东西加起来可能 ...

数据库审计不是记流水账:先锁定高危动作与关键对象,再谈数据集与工具落地

博主头像 很多团队一谈到数据库审计,第一反应就是“把所有 SQL 都记下来”。仿佛日志越全,安全感越足。可真到出事的时候,却发现自己面对的只是海量文本,根本不知道从何查起。真正有价值的数据库审计,必须能够清晰回答四个问题: 谁做了高风险操作? 针对哪个库、哪张表、哪些数据做的? 这个动作是否越权、异常或违反流 ...

How LLMs Actually Work(翻译)

博主头像 本文基于 0xkato 的英文文章 "How LLMs Actually Work" 改写整理,用于中文读者学习参考。 原文:https://www.0xkato.xyz/how-llms-actually-work 标签:Machine Learning · Transformers · LLM ...

虚拟 DOM —— 中间层的智慧

博主头像 操作真实 DOM 有多贵? 先看一段代码: // 把一个 <div> 的背景色改成红色 document.getElementById('box').style.backgroundColor = 'red' 你觉得这一行代码的执行成本是多少? 答案远比你想象的复杂: 1. JS 引擎找到 DOM ...

小米开源编程助手 MIMO Code 简介和简单使用测试

博主头像 〇、前言 2026年6月11日,小米 MiMo 团队正式发布并开源 MiMo Code V0.1.0。 官方宣称:MIMO Code 是面向开发者的新一代 AI 编程助手,支持无限上下文,帮助你更高效地理解、构建与协作。 那么它到底是一个怎样的编程助手,本文将进行一个简单的介绍,供参考。 官网地址: ...

如何更优雅地提供 MCP Resources

本文使用AI辅助编写。 在设计 MCP Server 时,很多人会先想到 tools。比如连接 SQL Server 后,可以提供 list_tables、describe_table、execute_query、get_procedure_definition 等工具。这样确实可以让 AI 查询数 ...

软考系统规划与管理师到底是干嘛的?用“大厂物业经理”的逻辑带你了解软考系规

博主头像 系统规划与管理师 到底是干嘛的?很多考友尤其是做运维的兄弟,经常在“高项”和“系规”之间纠结。今天咱们就用最直白的大白话,把这个系统规划与管理师拆解开看。建议点赞+收藏,下次报名时可以翻出来了解下。 一、 为什么大家都对“系规”有误解? 很多朋友一听到“系统规划与管理师”,第一反应就是:这不就是个高 ...

微调LLM前你需要了解的一些概念-- 反向传播解析

博主头像 01 · 先建立直觉:训练 = 一个反复打分与改作业的循环 假设你在教一个学生做数学题。流程是这样的:题目给他做(前向)、老师打分(loss)、老师指出每一步错在哪、错多少(反向求梯度)、学生根据这些反馈修改自己的解题习惯(优化器更新参数)。 神经网络的训练本质上就是这个循环,只是"学生"换成了一堆 ...

线上 Redis 突然“爆”了,怎么办?

博主头像 凌晨三点,手机疯狂报警——Redis CPU 100%,内存快满了,业务接口一个个超时…… 别慌,这篇文章不堆术语,我会像聊天一样,带你一步步排查问题、稳住现场、顺便把优化思路讲清楚。 一、先搞清楚“爆”是什么意思? “机器爆了”通常指以下几种情况,不同情况处理方式不一样: 现象(你能看到什么) 最 ...

123···100>