存储AI–AI博客聚合
最新聚合的文章
-
随着瓦尔·基尔默的AI分身诞生,生成式AI是否正在将好莱坞推向边缘?
已故演员瓦尔·基尔默将通过AI数字孪生出演电影《深入墓地》,推动生成式AI向边缘计算转型。此举标志着企业级AI正从集中云迈向分布式边缘,重塑内容创作与工业智能未来。
-
LLM降本提速三档对比:无缓存、普通缓存、语义缓存(LangChain生产落地)
大模型问答大量同义提问浪费 Token、响应慢。本文分层对比无缓存、普通文本缓存、Redis 语义缓存三套方案,基于 LangChain + 阿里百炼实现语义匹配,同义问句也能命中缓存
-
Claude Code + Codex 怎么分工?别把“允许结束”当成“可以提交”
Claude Code + Codex 怎么分工?别把“允许结束”当成“可以提交” 假设你让 Claude Code 修改一个列表接口:不传每页条数时默认取 20 条,显式传入 0 时应返回参数错误。
-
AI 账单月月上涨,你的企业真的把大模型用对了吗?
不少公司都有这种微妙的感受:自从接入大模型之后,每月的 AI 账单就像没有刹车,悄无声息往上跳。业务部门都说 AI 很好用,需求一个接一个提,可回头看报表,很难说清楚这笔持续增加的开销,到底换回了多少
-
从三套系统到统一数据底座:火山引擎多模态数据湖的规模化实践
一边是 20 亿条已治理存量,一边是单批 1500 万条 查询向量。当多模态数据进入十亿乃至千亿级规模,真正棘手的问题已不只是“能不能存下来”,而是数据能否在持续写入、补列、建索引和多种查询之间保持可
-
我做了个 Skill,一句话生成小程序原型,需求文档都帮你写好了
我决定趁热打铁做一个小红书+小程序变现闭环,今天这篇文章分享的是辅助开发小程序的skill,只需要一句话就能生成可以交互的小程序原型 html 文件和需求文档等成果,可直接投入开发。
-
WorkBuddy + ima 搭建本地知识库
今年开始,我都在高强度的写作,但一直没有把这些文章做成体系,前两天我看到有人用 WorkBuddy + ima 搞了一个知识库,做的非常不错,直接让我激动了,于是就有了这篇干货教程。 这篇从 0 开始
-
手机远控 DeepSeek Harness?四款 DSH Desktop 测评
DSH Desktop 官网:https://www.dshdesktop.cn/ DSH 桌面版,最近是真的多。 折腾到现在,再跟大家介绍“免配置”“双击就能用”,多少有点重复。官方也在推进 Des
-
Ray 的 remote 调用之后:任务怎样衔接,状态留在哪里?
Ray 的 remote 调用之后:任务怎样衔接,状态留在哪里 把一批文本的预处理函数加上 @ray.remote,再逐条调用,程序看起来已经“分布式化”。但下面这个循环仍然是一份工作结束,才提交下一
-
数据放哪儿:从 HashMap 到一致性哈希
全文只有一条线 上一篇 ( Hash 全景:从 HashMap 到一致性哈希,一文吃透哈希核心)讲哈希个人感觉有点乱,啥都有,但又没深入讲解,这一篇专门来说哈希存储。 其实所有哈希分桶方案,都在回答同
-
HarmonyOS 7 精准碰一碰实战:识别触碰坐标,素材精准插入指定位置
引子:碰一碰的最后一公里,是"碰哪传哪" 第一期V哥写碰一碰隔空传送时,落点是"传过去"——手机碰一下电脑,文件飞过去,接收方再自己决定放哪。好用,但差一口气:用户心里想的是"把这张图放到文档里光标那
-
llama.cpp / Ollama / LM Studio:本地 LLM 推理栈的硬核拆解
本地跑大模型的人常问“到底装哪个”——但这个问题本身容易问错。更准确的分层是:llama.cpp 是推理引擎,Ollama 是 daemon+模型仓库+API,LM Studio 是桌面 GUI+本地
-
SafeTensors vs GGUF:大模型权重格式的硬核拆解
如果你在 Hugging Face 上拉过模型,大概率见过 .safetensors;如果你在笔记本上跑过 llama.cpp、Ollama 或 LM Studio,一定见过 .gguf。两者都号称“
-
模型服务热加载实战:如何在不停服的情况下更新模型权重?
模型服务热加载实战:如何在不停服的情况下更新模型权重? 一、引言 “热加载”常被误读成“进程不重启、显存里把旧权重换成新权重”。生产里更稳的定义是:用户请求不中断、在飞请求不丢、新旧权重可并存校验、出
-
vLLM为了新GPU拆掉旧抽象,为什么还要再造一套可移植层
大模型推理框架长期追求“一套代码跑多种芯片”,但新模型的注意力、混合专家和通信方式越来越专用,新GPU又要求更激进的融合内核。vLLM的新答案不是继续扩大万能抽象,而是双轨:热门模型走硬件专用快车,长尾模型和非主流加速器