• GEO 原理

    拆解 AI 引用内容的底层机制——从 Token、Embedding、注意力到自回归生成,理解技术原理才能做出有效的 GEO 决策。
  • AI 幻觉与 GEO:准确资料能做什么,不能保证什么

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 准确、完整的资料可以在被检索并正确使用时帮助模型生成更有依据的回答,但它不能保证模型不产生幻觉,也不能单独提高页面被引用的概…

  • MoE 的工作原理及其与 GEO 的有限关系

    MoE(Mixture of Experts,混合专家模型)是一种模型架构:不是所有参数同时参与计算,而是对每个输入只激活一部分"专家"模块。这让模型能拥有超大的总参数量(知识容量大)同时保持低推理成本——DeepSeek 等模型正是靠 MoE 实现了"又强又便宜"。 通俗理解 传统模型像一个全科医…

  • AI 幻觉是什么:为什么 AI 会一本正经地胡说八道

    AI 幻觉(Hallucination)是指大语言模型生成看似合理但实际错误的信息——它用自信的语气"编造"了一个不存在的事实、错误的数据或虚假的引用。幻觉的根源是自回归生成的概率本质:AI 不是在"查找事实",而是在"预测最可能的下一个词"。 为什么 AI 会产生幻觉 AI 生成每个词时做的是概率…

  • RLHF 与内容质量:回答偏好不等于来源偏好

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 RLHF、偏好优化和安全训练会影响模型如何回答,但不能据此推出模型在网页来源选择时会系统性偏爱某种文风或所谓 HHH 内容。…

  • 缩放定律与 GEO:模型规模不能预测网页引用

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 缩放定律研究模型性能与计算量、数据量和参数规模之间的关系。它不能推出“模型越大,对网页内容质量要求越高”,也不是 GEO 写…

  • 为什么营销软文在 AI 时代越来越不好使——从 RLHF 对齐训练说起

    营销软文的核心特征——铺垫多、结论少、夸大效果、回避局限——恰好与 AI 经过 RLHF 训练后形成的内容偏好完全相反。这不是某个 AI 产品的策略选择,而是整个大模型训练范式的系统性结果。 营销软文 vs AI 偏好的全面对比 维度 营销软文的写法 AI 偏好的写法 开头 铺垫背景、…

  • Transformer 与 GEO:技术背景不等于引用规则

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 Transformer 是 2017 年提出的一类神经网络架构,也是许多大语言模型的重要基础。理解它有助于建立技术背景,但不…

  • 预训练→SFT→RLHF:一个 AI 模型是怎么被”教育”出来的

    主流大语言模型的训练分三个阶段:预训练(从海量文本中学习语言规律)、SFT 监督微调(学习怎么回答问题)、RLHF 人类偏好对齐(学习什么样的回答是"好"的)。理解这三个阶段,你就知道为什么 AI 对不同类型的内容有不同的偏好。 三阶段解析 阶段一:预训练——"博览群书" 模型在数万亿 Token …

  • Logprobs:Token 概率不是事实置信度

    Logprobs(对数概率)是 AI 在生成每个 Token 时输出的置信度分数——数值越高(越接近 0),AI 对这个词的选择越有信心;数值越低(越负),AI 越不确定。通过分析 Logprobs,可以判断 AI 在回答中对哪些信息"最有把握"、对哪些信息"在猜"。 通俗理解 想象你让 AI 写一…

  • Beam Search:一种保留多条候选序列的解码方法

    Beam Search 是一种生成策略:AI 不是每步只选一个最优 Token 往下走,而是同时保留多个候选序列("束"),最终选择整体概率最高的输出。它在需要高质量输出的场景中比简单贪心搜索表现更好。 通俗理解 贪心搜索(每步选最优)像是在迷宫里每个岔路口都选看起来最好的那条路——但可能走进死胡同…

  • 上下文窗口:AI 一次能”记住”多少内容,以及为什么你的信息会被截断

    口径说明:本文用于解释公开机制或提供诊断框架。不同 AI 产品的索引、检索、重排、生成和来源展示方式可能不同;除明确引用官方资料外,不应把文中建议理解为平台公开的固定权重、通用阈值或引用保证。 上下文窗口(Context Window)是大语言模型一次能处理的最大 Token 数量,它决定了 …

  • 停止条件与最大输出:它们如何限制生成长度

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 大语言模型的输出长度可能受最大生成 Token、停止序列、结束 Token、产品界面限制和安全策略共同影响。句号不是通用的停…

  • Temperature 与 Top-P:不要把采样参数写成引用偏好

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 Temperature 与 Top-P 都属于生成采样参数。两者会共同影响输出的确定性和多样性,但不能由此推出商业 AI 产…

  • Top-P 采样:按累计概率动态截取候选集

    Top-P 采样(也叫核采样 / Nucleus Sampling)是一种动态候选筛选策略:AI 从概率最高的候选开始累加,当累积概率达到 P 值(如 0.9)时停止,只在这些候选中采样。概率集中时候选少,概率分散时候选多——比固定 K 值的 Top-K 更灵活。 通俗理解 Top-K 是"不管什么…

  • Logits 与 Softmax:AI 选择下一个词的概率计算过程

    口径说明:本文用于解释公开机制或提供诊断框架。不同 AI 产品的索引、检索、重排、生成和来源展示方式可能不同;除明确引用官方资料外,不应把文中建议理解为平台公开的固定权重、通用阈值或引用保证。 Logits 是模型为每个候选 Token 计算的原始分数,Softmax 函数将这些分数转化为概率…

  • Temperature 是什么:它如何影响输出随机性

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 Temperature 是生成阶段常见的采样参数,用来调整下一 Token 概率分布的尖锐程度。它会影响输出的随机性和多样性…

  • Top-K 采样:从下一 Token 候选中截取前 K 个

    口径说明:本文用于解释公开机制或提供诊断框架。不同 AI 产品的索引、检索、重排、生成和来源展示方式可能不同;除明确引用官方资料外,不应把文中建议理解为平台公开的固定权重、通用阈值或引用保证。 Top-K 采样是一种生成控制策略:AI 在预测下一个 Token 时,只从概率最高的 K 个候选中…

  • Temperature 会影响引用吗:生成参数与来源选择的边界

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 Temperature 控制生成阶段对候选 Token 概率分布的采样方式。它通常不负责网页检索、候选来源排序或是否展示引用…

  • 自回归生成:AI 是怎么一个字一个字”写出”回答的

    自回归生成(Autoregressive Generation)是 AI 产出文本的方式:不是一次性输出整段话,而是一个 Token 一个 Token 地往外"接龙"——每次产出一个 Token,把它加入已有上下文,再预测下一个最可能的 Token。这个过程决定了 AI 在引用你的内容时,不是复制粘…

  • 多头注意力:不同表示子空间,不是内容评分维度

    口径说明:本文用于解释公开机制或提供诊断框架。不同 AI 产品的索引、检索、重排、生成和来源展示方式可能不同;除明确引用官方资料外,不应把文中建议理解为平台公开的固定权重、通用阈值或引用保证。 多头注意力(Multi-Head Attention)是注意力机制的进阶版本:模型不是用一组注意力来…

  • 自回归生成与复述:清晰表达如何减少误解

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 自回归模型按 Token 逐步生成文本,但不能用一个固定的“单步偏离率”计算长句的复述失真,也没有公开证据证明产品会因为句子…

  • 注意力机制:它能解释什么,不能解释什么

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 注意力机制描述的是模型在特定计算步骤中如何组合 Token 表示。注意力权重不是网页质量分,也不能直接告诉我们模型会引用哪一…

  • Lost in the Middle:长上下文中的位置效应与内容边界

    "中间迷失"(Lost in the Middle)是多项研究发现的一个现象:大语言模型在处理长上下文时,对开头和结尾位置的信息利用率往往高于中间位置。你的核心信息如果恰好落在上下文的中间位置,即使 AI "看见了",也可能没有充分利用。 通俗理解 想象你要一个人在 5 分钟内读完一份 20 页的报…

  • 结论前置为什么有效:信息设计,而不是位置权重

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 结论前置是一种常用的信息设计方法,但不能简单归因于位置编码,也不是“越靠前越一定被AI采用”的铁律。 位置编码不等于位…

  • Embedding 是什么:AI 如何把文字变成坐标

    Embedding(嵌入/向量编码)是将 Token 转化为高维数字向量的过程。每个 Token 被映射为一组几百到几千维的数字坐标,语义相近的词在向量空间中距离更近——这是 AI "理解"语义的数学基础,也是向量检索能工作的根本原因。 通俗理解 想象一个巨大的三维地图。每个词都有一个坐标点: "…

  • 为什么”装修公司”和”家装服务”在 AI 眼里是同一个意思——Embedding 与语义搜索

    在 Embedding 向量空间中,"装修公司"和"家装服务"虽然没有任何字面重叠,但它们的向量坐标非常接近——AI 理解它们表达的是同一个意思。这就是语义搜索的底层原理,也是 GEO 内容必须做语义覆盖而非关键词堆砌的技术原因。 通俗理解 传统搜索引擎像一个死板的图书管理员:你说"装修公司",他只…

  • 自造术语 vs 自然表达:BPE 分词对 GEO 选词的影响

    在 BPE 分词机制下,高频自然表达会被切成紧凑的 Token(语义精准),而自造术语和生僻缩写会被拆成碎片(语义模糊)。GEO 选词的核心原则是:用目标用户最常使用的自然说法作为核心表达。 一组对比 假设你的产品是一款实验室用的精密天平: 你可能想用的表达 BPE 友好度 用户搜索频率 GE…

  • Token 是什么:AI 阅读你内容的最小单位

    Token(词元)是大语言模型处理文本的最小单位——AI 不按"字"或"词"阅读,而是把文本切成 Token。一个中文字约 1-2 个 Token,一个英文单词约 1-3 个 Token。Token 是 AI "理解"你内容的起点,也是 GEO 信息密度计算的基础单位。 通俗理解 人类阅读时以"词"…

  • BPE 分词与品牌名:Token 数不等于语义理解

    专业口径说明:本文依据公开研究和常见工程实现解释相关机制。不同产品的检索、重排、生成与来源选择策略并不相同;本文不还原任何平台未公开的固定权重,也不构成引用结果承诺。 BPE 是一种经典的子词切分方法,但不同模型可能使用不同的分词器和词表。同一个品牌名在不同模型中的 Token 数可能不同,…

  • 一篇 1000 字的文章,AI 看到的是什么——Token 化全过程图解

    Token 化(Tokenization)是 AI 处理你内容的第一步:把连续的文字切割成一个个 Token,每个 Token 被分配一个数字 ID。AI 看到的不是你写的文字,而是一串数字序列——理解这个过程,才能理解为什么"怎么写"和"写什么"一样重要。 一段文字的 Token 化过程 原文:"…