跳到主要内容
AI
项目
Market
Lab
关于
笔记
计算机
数学
金融
其他
随笔
参考书架
实验
全部笔记
最近发布
联系
GitHub
中文
English
中文
Français
1 篇文档带有标签「tokenization」
查看所有标签
Tokenization 与模型内部的文本表示
沿着文本、token ID、嵌入和上下文表示理解模型输入,并解释分词、位置、补齐与检索向量之间的区别。