Charles
面小红书被问懵：Embedding模型怎么选？SBERT/Cohere/OpenAI怎么比？坐标上海，面小红书搜索推荐后端。第三轮被问：给小红书选Embedding模型，SBERT/Cohere/OpenAI怎么选？面后补齐，分享核心：一、选型六维框架1.领域匹配度：通用模型在垂直场景可能衰减10~20%2.上下文长度：短文本Cohere，长文档OpenAI3.向量维度与存储：384维0.4G/百万条，3072维3.2G/百万条，差8倍4.语言支持：中文BGE-M3(64.8)最优5.延迟与成本：自托管<5ms/条，API $0.02~0.13/百万token6.部署方式：API省心但数据出域，自托管可控需GPU二、三模型一句话中文+数据敏感→BGE-M3自托管(免费)英文+成本敏感→OpenAI 3-small($0.02/百万tok)长文档+多语言→Cohere v4($0.10/百万tok)快速验证→OpenAI 3-large垂直领域微调→SBERT三、小红书实战方案冷启动BGE-small-zh快速嵌入(<0.001元/条)成熟期BGE-M3稠密+BM25稀疏混合检索精排Cohere Rerank兜底自托管比API便宜10~13倍总结：先定场景(中文/英文/长文档)，再定维度与存储，最后算成本。选型没有银弹，只有trade-off。
发布于 江苏
分享
评论
赞
未登录
友善发言
评论
加载中
