用大模型做开发,最先撞上的不是模型能力,而是三个"物理约束":Token、上下文窗口、采样参数。它们分别决定了你的输入怎么被计费和截断、一次能塞进多少内容、以及输出到底稳不稳定。把这三个概念吃透,后面调提示词、搭 RAG、做 Agent 都会顺很多。 一、To…
#Token
7AA7 技术博客 · #Token 下的全部文章。
欢迎你
7AA7 博客
注册提交后需管理员审核,通过后即可用你设置的密码登录。账号为 5 位以上英文字母 / 数字组合,邮箱用于找回密码。
7AA7 技术博客 · #Token 下的全部文章。
用大模型做开发,最先撞上的不是模型能力,而是三个"物理约束":Token、上下文窗口、采样参数。它们分别决定了你的输入怎么被计费和截断、一次能塞进多少内容、以及输出到底稳不稳定。把这三个概念吃透,后面调提示词、搭 RAG、做 Agent 都会顺很多。 一、To…