跳到主要内容
Nick Wang
最近发布
AI
模型与产品选型
本地部署与推理
Agent 工程
检索、上下文与记忆
AI 编程与学习
机器学习与训练
神经网络与生成模型
数据与评估
计算机
数学
实验
联系我
私人区域
更多
其他
随笔
参考书架
全部笔记
GitHub
中文
English
中文
Français
1 篇文档带有标签「tokenization」
查看所有标签
Tokenization 与模型内部的文本表示
沿着文本、token ID、嵌入和上下文表示理解模型输入,并解释分词、位置、补齐与检索向量之间的区别。