用大模型做开发,最先撞上的不是模型能力,而是三个"物理约束":Token、上下文窗口、采样参数。它们分别决定了你的输入怎么被计费和截断、一次能塞进多少内容、以及输出到底稳不稳定。把这三个概念吃透,后面调提示词、搭 RAG、做 Agent 都会顺很多。 一、To…
#Token
7AA7 技术博客 · #Token 下的全部文章。
Welcome
7AA7 Blog
Accounts require administrator approval before you can sign in with the password you set. Username must be 5+ letters or digits; email is used for password recovery.
7AA7 技术博客 · #Token 下的全部文章。
用大模型做开发,最先撞上的不是模型能力,而是三个"物理约束":Token、上下文窗口、采样参数。它们分别决定了你的输入怎么被计费和截断、一次能塞进多少内容、以及输出到底稳不稳定。把这三个概念吃透,后面调提示词、搭 RAG、做 Agent 都会顺很多。 一、To…