4 篇文档带有标签「ai-models」

用输入、输出和训练目标区分三类模型，理解 BERT 架构为什么不等于检索能力或决策能力。

把“选哪个、打几分、是否成立”这类判断交给便宜、输出有类型、能单独测试的决策模型：怎样提问，怎样读概率，现在有哪些托管与本地选项。

区分模型交付物、评估条件和实际任务收益，形成能够复查的选型判断。

理解低比特如何近似权重，区分权重、激活和 KV 缓存量化，读懂 Q4_K_M、MLX、AWQ 这类文件名，并估算真实部署成本。