存储AI–AI博客聚合
最新聚合的文章
-
《潮水漫过十七岁》对她的感觉
2039年9月21日 星期五 多云 我们班就是每隔两周平移一次座位,这次是平移+微调座位。就是班主任说靠窗那一排有几个同学上课老是说话,要重新调一下。我本来还挺庆幸,觉得自己终于不用跟周扬坐一起了。这
-
历时三年,我的第一款全栈产品 Acrodata 终于上线了!
最近三年的软件行业风云突变,AI 来势汹汹,很多创业公司甚至没有撑过三年,而我却为了一款没有利润的产品硬刚三年,到底值不值?
-
《潮水漫过十七岁》我想买相机
2039年9月14日 星期五 晴 今天放学没直接回家,周扬非拉着我去商场,说里面新开了一家相机店。我说我又不买,他说不买看看总行吧,反正坐公交回去也没什么意思。我本来想拒绝,后来还是去了。其实我早就想
-
给你的 Claude CodeCodex 等 AI Coding Agent 装个桌宠吧
用 clawd-on-desk 给 Claude Code、Codex 等 AI Agent 装个桌宠:关联 Agent、导入 Codex Pet 包换成小八形象,还能自定义任务完成与权限提示音。
-
让大模型稳定返回可用数据:Output Parser、Zod 与 Tool Calling(下)
围绕大模型结构化输出,讲解 StructuredOutputParser、Zod、XML、Tool Calling 与 withStructuredOutput,并分析结构化流的处理方式和常见误区
-
从“等待整段答案”到边生成边展示:大模型流式输出与 SSE 实战(上)
从模型响应流讲到浏览器实时展示,拆解 stream、Node.js Stream、SSE 与 EventSource,串起大模型服务、Node.js 服务 和浏览器之间的完整流式链路
-
0 行权重改动,77% 首字延迟下降:2026 年的推理提速为什么都发生在权重之外
一、旧范式的原罪:decode 是内存墙,不是算力墙 要理解为什么"不碰权重"能省这么多,得先知道 LLM 推理的哪一段卡在哪。 推理分两段,两段的瓶颈完全不同。 算术强度(arithmetic in
-
Jev 爆火一周后,我装了它的开源平替 Laya:路由 0.3 毫秒是真的,推理先把我机器干爆了
全网在聊不说话的AI Jev,装了开源平替Laya:5种语言路由全对0.13-0.39ms;322M权重加载即OOM。官方自曝zero-shot近随机、高棉语0分配95.2%置信,比评论区诚实。
-
把上下文编译进权重:拆解剑桥「无限参数 LLM」,以及它尚未回答的四个问题
一、旧范式的原罪:上下文是「租」来的,不是「买」下的 先把问题定义精确。一个部署后的模型面对的处境是:最值钱的信息往往不在训练集里,而在它正在处理的这轮交互里——用户随口给的一个事实,或者对他某次错误
-
开源微信流,微信聊天记录,可以直接给 Codex 和 Obsidan 了
这是苍何的第 603 篇原创! 大家好,我是苍何。 还记得之前我开源了一个微信 cli,可以读取到微信的聊天记录,并给到 Agent 总结,全网爆火。 虽然这个 CLI 好用是好用,但是有点那啥,所以
-
IT风云录 02 | 中年程序员,看不惯大公司,去小公司了
上一篇承接 [IT风云录 01 | 我在4人的AI小公司,领着比公司年收入还高的薪水] 刚辞职离开的公司,是超过500人的企业,不缺钱,很土豪。再之前的公司也都是几百人的公司,最次也是新三板上市。现在
-
一天一个开源项目(第225篇):NanoJev —— 一个 0.6B 的并行决策模型,让 LLM 直接输出概率分布而不是生成 Token
NanoJev 是 Jev 并行决策模型系统的轻量复刻版,基于 Qwen3-0.6B 骨干网络附加决策头,输入状态和问题,直接输出完整概率分布,零输出 Token 解码。
-
LLM 自动化测试系列(02):统一技术底座——视觉定位 / DOM 语义化 / Computer Use
同一个'找到提交按钮'的任务,不同的开源项目给出了三种完全不同的技术路线:专用视觉定位模型、DOM/无障碍树结构化理解、纯坐标点击的 Computer Use
-
AI会找数据还不够,联合国开放平台把“来源”也接进Agent
让AI回答“哪些国家的清洁水改善最快”很容易,难的是每个数字能否追到机构、年份、统计口径和原始数据集。新上线的UN System Data Commons把分散统计数据接成知识图谱,并允许Agent通过MCP取数。它最值
-
模型下载后为什么还跑不起来?用OpenVINO看懂本地推理流水线
模型仓库里的权重只是“原材料”,不是点击即用的应用。要在自己的CPU、GPU或NPU上运行,还要经历导出、优化、量化、运行时加载和输入输出适配。看懂这条流水线,你遇到“不支持架构、内存不够、接口变了”时,就能定位是哪一层