近期文章

SGLang + DeepSeek-V3 部署五大崩溃:DP Attention CUDA OOM 炸穿 8×H100、flashinfer 编译失败、NCCL SIGSEGV 多节点暴毙——逐一修复指南

SGLang + DeepSeek-V3 部署五大崩溃:DP Attention CUDA OOM 炸穿 8×H100、flashinfer 编译失败、NCCL SIGSEGV 多节点暴毙——逐一修复指南

如果说 vLLM 是推理引擎里的"老牌劲旅",那 SGLang 就是 DeepSeek、xAI、NVIDIA 官方都在用的"新生代杀手"。但它的坑不比 vLLM 少——甚至更隐蔽。


一、为...

66 0
Hindsight 记忆系统 recall 接口 60 秒不返回?——5 层根因诊断 + bge-m3 切换 + 9419 条数据重建 + 本地 100ms 召回完整实战

Hindsight 记忆系统 recall 接口 60 秒不返回?——5 层根因诊断 + bge-m3 切换 + 9419 条数据重建 + 本地 100ms 召回完整实战

> TL;DR:Hindsight(开源 AI Agent 记忆系统,pgvector 向量库)最新版的 recall HTTP 接口在调用时 60 秒后超时返回,且服务端 PG 数据库 in-...

发现更多