Retrieval After RAG: Hybrid Search, Agents, and Database Design — Simon Eskildsen of Turbopuffer

Simon Hørup Eskildsen 从 Shopify 基础设施团队近十年的经验，到为 Readwise 和 Replicate 等公司做“天使工程”，最终因为一个洞察创办了 turbopuffer：AI 搜索显然有用，但成本结构不可持续。

一个 Readwise 实验表明语义推荐有效，但成本是公司全部基础设施费用的 6 倍。Simon 开始在纸巾上计算一种新系统——基于对象存储、NVMe，以及“模型无法仅靠权重压缩世界全部知识”的理念。这个副项目变成了 turbopuffer，从一个简陋的 Rust 二进制文件成长为 Cursor 和 Notion 等公司的工作负载引擎。

关键讨论话题包括：turbopuffer 如何帮 Cursor 降低 95% 成本、为什么 RAG 没有死（混合检索越来越重要）、agent 工作负载如何改变搜索模式（从单次检索到并行批量查询）、以及 Simon 的“P99 工程师”招聘哲学。