- softmax 函数 对每个分数求幂并除以总分,得到总和为 1 的正值。
- 分数 [2.0, 1.0, 0.1] 变为概率 [0.659, 0.2424, 0.0986]。顺序永远不会改变,因此 argmax 保持不变。
- 对于接近 1000 的输入,简单的公式会溢出并返回
nan。首先减去最大值来修复它,但不会改变结果。 - 将分数除以温度可控制输出的置信度,与 LLM 采样中使用的旋钮相同。
将图像分类为猫、狗或鸟的神经网络不会直接输出概率。它的最后一层产生称为 logits 的原始分数,例如 2.0、1.0 和 0.1,可以是任何实数。 softmax 函数 将这些分数转换为您可以读取、比较和训练的概率分布。它位于大多数分类器的末尾和每个大型语言模型的内部。
下面的所有代码都在带有 NumPy 2.5.5 的 Python 3.13.6 上运行,并且打印输出如图所示。不需要机器学习框架来遵循。
什么是softmax函数?
Softmax 采用 K 个实数向量并返回 K 个概率向量。每个输出都在 0 到 1 之间,所有输出加起来恰好为 1,并且较大的输入总是获得较大的概率。它通常被描述为 argmax 的“软”版本:它不是将所有权重赋予最大分数,而是根据每个分数的大小按比例分配权重。
Softmax公式
对于具有 K 个元素的分数 z 向量,元素 i 的概率为:
softmax(z)_i = exp(z_i) / ( exp(z_1) + exp(z_2) + ... + exp(z_K) )
换句话说:计算每个分数的 e 次方,然后将每个结果除以所有结果的总和。指数使每个值都为正;除法将它们归一化,因此它们的总和为 1。
手工制作的示例
取 logits [2.0, 1.0, 0.1]:
| Logit z | exp(z) | exp(z) / 总计 |
|---|---|---|
| 2.0 | 7.3891 | 0.6590 |
| 1.0 | 2.7183 | 0.2424 |
| 0.1 | 1.1052 | 0.0986 |
| 总计 | 11.2125 | 1.0000 |
第一类的得票率约为 66%。请注意,2.0 的分数仅为 1.0 的两倍,但其概率几乎是 1.0 的三倍。指数会放大差距,这就是为什么 softmax 输出通常看起来很自信。
Python 中的 Softmax 与 NumPy
import numpy as np
def softmax_naive(z):
e = np.exp(z)
return e / e.sum()
logits = np.array([2.0, 1.0, 0.1])
p = softmax_naive(logits)
print(p.round(4), p.sum()) # [0.659 0.2424 0.0986] 1.0
print(np.argmax(logits), np.argmax(p)) # 0 0
代码与表匹配,输出总和为 1,argmax 在 softmax 之前和之后选择相同的类。最后一点在实践中很重要:如果您只需要预测的类别,您可以跳过 softmax 并直接获取 logits 的 argmax。
为什么要使用指数?
为什么不将每个分数除以分数总和呢?因为 logits 可以为负数或零,这将给出负“概率”或除以零。指数始终为正,它严格递增,因此保持排名,并且其导数很简单,这使得梯度下降的训练变得干净。正如我们将看到的,它也与交叉熵损失中的对数自然配对。
溢出问题:当softmax返回NaN时
大的 logits 打破了天真的版本:
softmax_naive(np.array([1000.0, 1001.0, 1002.0]))
# RuntimeWarning: overflow encountered in exp
# RuntimeWarning: invalid value encountered in divide
# [nan nan nan]
softmax_naive(np.array([-1000.0, -1001.0]))
# [nan nan]
exp(1000)远远超出了最大的64位浮点数(约1.8e308),所以变成无穷大,无穷大除以无穷大就是NaN。非常负的 logits 会以另一种方式失败:exp(-1000) 下溢到 0,并且 0 除以 0 也是 NaN。这种大小的 Logits 在健康模型中很少见,但它们确实会出现初始化不良、注意力分数未缩放或训练爆炸的情况,并且一个 NaN 可能会毒害整个训练运行。
数值稳定的 softmax
def softmax(z, axis=-1):
z = np.asarray(z, dtype=float)
e = np.exp(z - z.max(axis=axis, keepdims=True))
return e / e.sum(axis=axis, keepdims=True)
print(softmax([1000, 1001, 1002]).round(4)) # [0.09 0.2447 0.6652]
print(softmax([-1000, -1001]).round(4)) # [0.7311 0.2689]
减去最大值使得最大值恰好为0,因此最大指数为exp(0) = 1,并且没有任何东西可以溢出。总和中至少有一项为 1,因此分母也永远不可能为 0。之前损坏的两个输入现在都给出了合理的答案。每个严肃的库,包括 PyTorch、TensorFlow 和 SciPy,都在内部使用这个技巧。
提示:永远不要发布朴素的两线softmax。稳定版本需要额外减去一次,并消除了一整类 NaN 错误。
为什么减法有效:平移与缩放
print(softmax(logits + 100).round(4)) # [0.659 0.2424 0.0986]
print(softmax(logits * 2).round(4)) # [0.8638 0.1169 0.0193]
将相同的常数添加到每个 logit 会使 softmax 保持不变,因为该常数成为分子和分母之间抵消的公因子 exp(c)。这就是为什么减去最大值是安全的。乘以 logits 则不同:将它们加倍会使顶级的比例从 66% 跃升至 86%。 Softmax 取决于分数之间的差异,并且缩放会拉伸这些差异。
温度:使 softmax 更锐利或更平坦
在 softmax 故意控制拉伸之前,将 logits 除以温度 T:
| 温度 | [2.0, 1.0, 0.1] 的概率 |
|---|---|
| 0.5 | [0.8638, 0.1169, 0.0193] |
| 1.0 | [0.6590, 0.2424, 0.0986] |
| 2.0 | [0.5017, 0.3043, 0.1940] |
| 10.0 | [0.3661, 0.3312, 0.3027] |
低温使分布趋于首选;高温使其变平,趋于均匀。在语言模型中,这正是用可预测答案换取创造性答案的温度设置,正如我们的 LLM 温度指南 所解释的那样。温度还用于知识蒸馏,以暴露教师模型的较软偏好。
批次和轴参数
batch = np.array([[2.0, 1.0, 0.1],
[0.0, 0.0, 0.0],
[5.0, -1.0, 3.0]])
pb = softmax(batch, axis=1)
print(pb.round(4))
# [[0.659 0.2424 0.0986]
# [0.3333 0.3333 0.3333]
# [0.8789 0.0022 0.1189]]
print(pb.sum(axis=1)) # [1. 1. 1.]
print(softmax(batch, axis=0).sum(axis=1).round(4)) # [0.7622 0.2962 1.9417]
真实模型一次处理许多示例,每行一个。 Softmax 必须沿着类轴(此处为 axis=1)运行,因此每行总和为 1。如第二行所示,相等的 logits 给出均匀分布。使用错误的轴是一个无声错误:代码可以运行,但会在示例之间进行标准化,并且行总和为 0.76、0.30 和 1.94。在测试中始终断言行总和为 1。
Softmax 和交叉熵损失
y = 0 # the true class
loss = -np.log(p[y])
print(round(float(loss), 4)) # 0.417
# log-softmax computed directly, without exponentiating twice
logsm = logits - logits.max() - np.log(np.exp(logits - logits.max()).sum())
print(logsm.round(4)) # [-0.417 -1.417 -2.317]
通过最小化交叉熵来训练分类器:分配给正确类别的概率的负对数。概率为 0.659 时,损失为 0.417;完美的预测给出 0。库以一个稳定的步骤计算 log-softmax,而不是采用 softmax 输出的对数,从而避免了 log(0)。这就是为什么 PyTorch 的 CrossEntropyLoss 期望原始逻辑,而不是概率。向其提供 softmax 输出会应用 softmax 两次,这是初学者常见的错误。
Softmax 与 sigmoid
print(1 / (1 + np.exp(-(2.0 - 1.0)))) # 0.7311
print(softmax([2.0, 1.0])[0]) # 0.7311
对于两个类别,softmax 减少为 logits 之间差异的 sigmoid,并且我们的运行在两种情况下都给出了相同的 0.7311。实际规则:
- Softmax:从许多(多类)中准确地选出一个正确的类,例如猫、狗或鸟。
- 每个输出的 Sigmoid:多个标签可以同时为 true(多标签),例如一篇标记为 Python 和测试的文章。
大语言模型中的 Softmax
大型语言模型以词汇表中每个标记一个 logit 结束每个步骤,这可能意味着数万个分数。 Softmax 将它们转换为每个可能的下一个 token 的概率,然后采样选择一个。 Softmax 还出现在每个注意力层内,它将标记之间的相似度分数转换为权重。这些分数在 softmax 之前除以向量大小的平方根,以防止它们变得太大,与上面所示的溢出和饱和问题相同。详细信息请参阅什么是大型语言模型。
Softmax 有多快?
我们在一批 1,000 行、每行 50,257 列(GPT-2 的词汇量)上运行稳定的 NumPy 版本,作为 32 位浮点数。三个运行中最好的一次在我们机器的 CPU 上花费了 874.9 毫秒,每行大约 0.9 毫秒。 GPU 的速度要快得多,并且框架将 softmax 与相邻操作融合在一起,但是巨大词汇量上的指数成本是为什么针对非常大的输出层存在采样 softmax 等技巧的原因。
最后的话
softmax 函数是一个小公式,但有一个大任务:它将任何分数列表转换为干净的概率。求幂、归一化并始终先减去最大值,这样大的 logits 就不会变成 NaN。沿右轴应用它,将其与 log-softmax 配对以实现交叉熵,并在需要更清晰或更柔和的输出时使用温度。有了这些习惯,softmax 将成为您模型中最可靠的路线。有关相关数学,请参阅余弦相似度。
常见问题
softmax 函数有什么作用?
它将原始分数向量(称为逻辑)转换为概率。每个输出都在 0 到 1 之间,所有输出总和为 1,分数越高,概率越高。
为什么我的 softmax 返回 NaN?
大的 logits 取幂时会溢出,无穷大除以无穷大为 NaN。在调用 exp 之前减去最大 logit。结果在数学上是相同的并且在数值上是稳定的。
softmax 和 sigmoid 有什么区别?
对于只有一个正确类别的问题,Softmax 会生成一种总和为 1 的跨类别分布。 Sigmoid 对每个输出独立评分,适用于多个标签可能为真的多标签问题。
softmax 会改变预测类别吗?
不会。Softmax 保持分数的顺序,因此具有最高 logit 的类别也具有最高的概率。如果您只需要标签,logits 的 argmax 就足够了。
softmax 中的温度是多少?
温度是一个除以 softmax 之前的 logits 的数字。低于 1 的值使输出更加自信,高于 1 的值使其更平坦且更接近均匀。
继续学习
需要测试、WordPress 或 SEO 方面的帮助?
我们帮助团队交付更好的软件并发展他们的网站。告诉我们您正在做什么,我们将建议明确的下一步。
更多指南 测试、人工智能和现代开发
喜欢这篇文章吗?选择一个主题并直接跳至我们最新的教程。
HTTP Cookie 解释:安全、HttpOnly、SameSite 和范围
HTTP cookie 解释:Set-Cookie、路径、域、过期、安全、HttpOnly、SameSite、前缀、删除 cookie 和安全会话配方,在本地测试。
阅读文章 →DevOpsGit Rebase Interactive:Squash、Fixup、Reword 和 Autosquash
Git rebase 交互式逐步解释:选择、重写、挤压、修复、编辑、删除、自动挤压、冲突以及使用引用日志撤消 rebase。
阅读文章 →软件测试Alpha 与 Beta 测试:主要区别、退出标准和清单
Alpha 与 Beta 测试的比较:谁测试、每个阶段发现什么、进入和退出标准、如何运行 Beta 以及 Beta 数据的有效示例。
阅读文章 →测试自动化Pytest Monkeypatch:10 个环境变量、时间和 API 的测试示例
Pytest Monkeypatch 解释了 10 个通过的测试:环境变量、函数、配置、时间、睡眠、路径、阻塞网络和错误目标陷阱。
阅读文章 →数据库与 SQLSQL 自动增量:MySQL、PostgreSQL、SQL Server 和 SQLite
MySQL、PostgreSQL、SQL Server 和 SQLite 中的 SQL 自动增量:语法、读取新 ID、为什么出现间隙、ID 重用、重置计数器和限制。
阅读文章 →数据库与 SQLSQL BETWEEN:包含范围和日期陷阱解释
SQL BETWEEN 通过测试的查询进行了解释:包含范围、反向边界、NULL、最后一天日期陷阱、半开范围和索引友好的日期过滤器。
阅读文章 →软件开发JavaScript 模板文字:10 个示例,包括标记模板
JavaScript 模板文字通过 10 个测试示例进行了解释:插值、多行字符串、转义、安全 HTML 和 SQL 的标记模板以及 String.raw。
阅读文章 →软件开发Python heapq:优先级队列、Top N 和堆解释
Python heapq 解释:heappush、heappop、heapify、带仲裁的优先级队列、最大堆、nlargest 和合并,以及针对排序的实际计时。
阅读文章 →软件开发Python 海象运算符 (:=) 用 8 个真实例子解释
Python 海象运算符 := 通过 8 个测试示例进行了解释:if 检查、正则表达式匹配、while 循环、推导式、范围规则、优先级以及何时避免使用它。
阅读文章 →人工智能Softmax 函数解释:公式、Python 代码和稳定版本
softmax 函数解释:公式、工作示例、NumPy 代码、避免 NaN 的稳定版本、温度、交叉熵以及 softmax 与 sigmoid。
阅读文章 →软件开发CORS 解释:预检请求、标头以及如何修复 CORS 错误
CORS 解释:起源、简单请求和预检请求、服务器必须发送的响应标头、凭据以及如何修复常见的 CORS 错误。
阅读文章 →DevOpsGit Diff 解释:分阶段更改、分支和提交
Git diff 解释道:读取输出、比较未暂存和暂存的更改、提交和分支、两点与三点以及有用的标志,所有这些都经过测试。
阅读文章 →测试自动化Pytest Xdist:并行运行测试并缩短测试时间
与 pytest-xdist 并行运行 pytest 测试:安装、-n 选项、分发模式、实际计时以及如何修复并行运行中的共享状态故障。
阅读文章 →软件测试软件测试中的验证与验证:示例和表格
软件测试中的验证与确认通过比较表和经过测试的优惠券示例进行了解释,其中每个规格测试都通过了,但用户仍然失败。
阅读文章 →人工智能BM25 解释:如何使用 Python 代码和混合搜索对关键字搜索结果进行排名
BM25 使用我们运行的纯 Python 实现进行了解释:公式、IDF、术语饱和度、k1 和 b 参数、为什么它优于原始字数统计、它失败的地方,以及如何使用倒数排名融合的混合搜索来解决这个问题。
阅读文章 →软件开发HTTP 方法解释:GET、POST、PUT、PATCH、DELETE,在实时服务器上测试
使用我们运行的小型服务器解释 HTTP 方法:GET、POST、PUT、PATCH、DELETE、HEAD 和 OPTIONS、安全与幂等、PUT 与 PATCH、每个返回的状态代码、405 错误和 API 设计备忘单。
阅读文章 →DevOpsGit Bisect 解释:手动或自动查找破坏代码的提交
Git bisect 用一个经过测试的存储库进行了解释:在 5 次测试运行中找到 41 次错误提交,使用 git bisect run 使其自动化,使用退出代码 125 跳过不可测试的提交,使用自定义术语并安全清理。
阅读文章 →测试自动化pytest 标记解释:自定义标记、skip、skipif、xfail 和 -m 过滤器
使用经过测试的套件解释 pytest 标记:注册自定义标记,仅使用 -m 运行冒烟测试,使用 and 或 not 组合过滤器,正确使用skip、skipif 和 xfail,并使用 –strict-markers 停止标记拼写错误。
阅读文章 →软件测试正面测试与负面测试:差异、24 个真实测试用例和清单
用真实的注册表单解释了正测试和负测试:在 pytest 中运行了 6 个正测试用例和 18 个负测试用例,缺失的守卫捕获了负测试,还有比较表、技术和清单。
阅读文章 →数据库与 SQLSQL ORDER BY 多列:ASC、DESC、NULLS LAST、大小写和自定义顺序
具有多个列的 SQL ORDER BY 通过测试的查询进行解释:混合 ASC 和 DESC、tie-breakers、NULLS FIRST 和 LAST、不区分大小写的排序、使用 CASE 的自定义顺序、存储为文本的数字和使用索引。
阅读文章 →数据库与 SQLSQL 运行总计:SUM OVER、每组总计、移动总和和 RANGE 陷阱
如何使用 SUM() OVER 计算 SQL 运行总计:每组总计、每日累积总计、移动总计、总计百分比、RANGE 与 ROWS 平局陷阱、NULL 以及针对旧子查询方法的 360 倍速度测试。
阅读文章 →软件开发JavaScript 对数组进行排序:数字、对象、字符串以及为什么 10 排在 5 之前
如何在 JavaScript 中正确对数组进行排序:使用比较函数的数字、一个或多个字段的对象、使用 localeCompare 的字符串、日期、自然排序、toSorted、稳定性和速度,所有这些都在 Node 24 上进行了测试。
阅读文章 →软件开发Python 字符串方法:备忘单、真实示例和 strip() 陷阱
Python 字符串方法以及经过测试的示例:split、join、strip、replace、find、startswith、is-methods、casefold、partition 和 translate,以及 strip() 陷阱、连接速度测试和备忘单。
阅读文章 →人工智能余弦相似度解释:公式、工作示例和 Python 代码
余弦相似度解释简单:公式、手工示例、纯 Python 和 NumPy 代码、实际字数统计的余弦距离与欧几里德距离,以及 AI 搜索和 RAG 依赖它的原因。
阅读文章 →软件开发UTF-8 编码解释:文本如何变成字节以及如何修复乱码文本
使用我们在 Python 中运行的字节级示例解释了 UTF-8 编码:字符如何变成 1 到 4 个字节、为什么咖啡馆变成咖啡馆、解码错误、BOM、规范化以及代码和网络的 6 个修复。
阅读文章 →测试自动化pytest 参数化解释:带有测试示例的 7 种模式
pytest 参数化解释了 7 个测试模式:基本情况、可读 id、堆叠装饰器、带有 xfail 和skip 的 pytest.param、间接固定装置和列表中的数据,以及要避免的错误。
阅读文章 →软件测试重新测试与回归测试:与真实错误修复示例的 8 个主要区别
重新测试与回归测试通过在 pytest 中运行的真实错误修复来解释:重新测试确认了修复,回归运行发现了一个新错误。 8 个主要差异、比较表和访谈答案。
阅读文章 →数据库与 SQL删除 SQL 中的重复行:5 种安全方法,逐步测试
如何安全地删除 SQL 中的重复行:找到它们、预览它们,然后使用 ROW_NUMBER、MIN(id)、EXISTS、rowid 或新表删除它们。测试了查询、计时以及如何阻止重复项返回。
阅读文章 →数据库与 SQLSQL RANK、DENSE_RANK 和 ROW_NUMBER:与测试示例的差异
一张表中的 SQL RANK、DENSE_RANK 和 ROW_NUMBER:每个表如何处理平局、每组前 N 个、第二高薪资陷阱和确定性平局,以及我们运行的查询。
阅读文章 →软件开发JavaScript 可选链 (?.) 解释:8 个示例,??默认和陷阱
JavaScript 可选链接可以阻止“无法读取未定义的属性”错误。 8 个属性、数组和方法的测试示例,??与||默认值、短路和 4 个陷阱。
阅读文章 →软件开发Python enumerate() 解释:7 个示例、start=1 和要避免的错误
Python enumerate() 在一个干净的循环中为您提供索引和值。 7 个测试示例、start=1 技巧、字典、文件、速度数字和 3 个要避免的错误。
阅读文章 →人工智能RAG 分块策略解释:固定、重叠、句子、递归和标题、测量
RAG 分块策略在一份文档上与 tiktoken 0.14 进行比较:固定大小、重叠、句子打包、递归拆分和基于标题的分块、测量拆分事实、孤立标题和存储成本。
阅读文章 →软件开发API 幂等性解释:幂等密钥和安全重试,经过测试
API 幂等性通过我们运行的 Python 服务器和客户端进行了解释:丢失的响应导致在没有密钥的情况下产生双重费用,在有密钥的情况下产生单次费用,再加上密钥重用、并发重试和存储规则。
阅读文章 →DevOpsGit Stash 解释:保存、应用、弹出和未跟踪的文件,经过测试
Git stash 用我们在 Git 2.56 上运行的命令进行了解释:推送消息、未跟踪的文件、列表和显示、应用与弹出、保留索引、冲突、存储分支、删除和清除。
阅读文章 →软件测试成对测试解释:全成对如何将 216 次测试减少到 13 次,已测试
成对测试用我们在 Python 3.13 中运行的生成器进行了解释:检查 13 个测试覆盖的 216 种组合、经过验证的覆盖范围、更大的示例以及成对可能错过的三向错误。
阅读文章 →测试自动化测试替身解释:Dummy、Stub、Spy、Mock 和 Fake,以及经过测试的 Python 代码
测试替身通过在 pytest 9.2 中运行的一个 Python 示例进行了解释:dummy、stub、spy、mock 和 fake、何时使用每一种、状态与行为检查,以及 autospec 如何捕获普通 Mock 隐藏的错误。
阅读文章 →数据库与 SQLSQL COALESCE 解释:默认值、NULLIF、IFNULL 与 ISNULL 和陷阱,已测试
SQL COALESCE 解释了我们在 SQLite 3.50 中运行的查询:第一个非空值、空字符串、数学中的 NULL、除以零的 NULLIF、聚合、LEFT JOIN 间隙以及 IFNULL 与 ISNULL。
阅读文章 →数据库与 SQLSQL 自连接解释:员工-经理、配对和行比较,经过测试
SQL 自连接用我们在 SQLite 3.50 中运行的查询来解释:员工和经理,收入比经理多,唯一对,每日变化,两跳链和索引。
阅读文章 →软件开发JavaScript Spread 运算符解释:Spread 与 Rest、副本和陷阱、经过测试
JavaScript 扩展运算符用我们在 Node 24 上运行的代码进行了解释:数组、对象、浅拷贝、剩余参数、Math.max 限制和 reduce 中的性能陷阱。
阅读文章 →软件开发Python functools 解释:lru_cache、partial、reduce、wraps 等,已测试
Python functools 用我们在 Python 3.13 上运行的代码进行了解释:lru_cache 和缓存、partial、reduce、wraps、cached_property、singledispatch 和total_ordering,以及计时和陷阱。
阅读文章 →软件开发Python 集合模块解释:Counter、defaultdict、deque 等,已测试
Python 集合用我们在 Python 3.13 上运行的代码进行了解释:Counter、defaultdict、deque、namedtuple、OrderedDict 和 ChainMap,以及列表与双端队列计时和备忘单。
阅读文章 →人工智能LLM 上下文窗口解释:标记、限制以及如何适应更多、衡量
LLM 上下文窗口用我们使用 tiktoken 测量的令牌计数进行了解释:散文、代码和印地语的单词与令牌、输入和输出预算、修剪聊天记录、RAG 和成本的分块。
阅读文章 →软件开发Webhooks 解释:它们如何工作以及如何安全地接收它们
Webhooks 解释了我们在 Python 中运行的接收器和发送器:推送与轮询、HMAC-SHA256 签名、拒绝篡改和重播的请求、使用回退重试、幂等性和测试技巧。
阅读文章 →DevOpsGit Cherry-Pick 解释:安全地、经过测试地复制您需要的提交
Gitcherry-pick 用我们在 Git 2.56 中运行的命令进行了解释:将修补程序复制到发布分支、新的哈希值和补丁 ID、-x、-n、提交范围、冲突、–abort、–skip 以及稍后的合并。
阅读文章 →测试自动化快照测试解释:它是如何工作的、何时有用、何时有害
快照测试通过我们运行的 pytest 和糖浆演示进行了解释:创建快照、在代码更改后读取差异、屏蔽时间戳、安全更新以及快照何时有帮助或有害。
阅读文章 →软件测试突变测试解释:为什么 100% 覆盖率仍然漏掉了我们的 bug
突变测试用我们构建并运行的一个小型突变工具进行解释:14 个突变体,一个 100% 线覆盖的测试套件,得分为 79%,边界测试达到 100%,加上工具、成本和 CI 技巧。
阅读文章 →数据库与 SQLSQL JSON 函数解释:SQL 中的查询、更新和索引 JSON,已测试
SQL JSON 函数通过我们在 SQLite 3.50 中运行的查询进行解释:json_extract、-> 和 ->> 运算符、json_each、json_set、json_patch、json_group_array、验证、表达式索引和 JSONB。
阅读文章 →数据库与 SQLSQL Pivot 解释:使用 CASE、FILTER 和 PIVOT 将行转换为列
SQL 数据透视用我们在 SQLite 3.50 中运行的查询进行了解释:使用 CASE 和 SUM、FILTER、NULL 与零、总计、动态列、unpivot 和本机 PIVOT 语法进行条件聚合。
阅读文章 →软件开发JavaScript this 关键字解释:每个绑定规则,在 Node 中测试
JavaScript this 关键字解释了我们在 Node 24 中运行的 17 个案例:方法调用、回调中丢失 this、严格模式、箭头函数、bind、call、apply、new、类和计时器。
阅读文章 →软件开发Python pathlib 解释:经过测试的现代方式路径、文件和文件夹
Python pathlib 通过我们在 Python 3.13 上运行的示例进行了解释:使用 /、名称、主干和后缀连接路径、读取和写入文件、mkdir、glob 和 rglob、重命名、Windows 与 POSIX 以及速度。
阅读文章 →软件开发Python itertools 解释:惰性循环、组合和分组、经过测试
Python itertools 通过我们在 Python 3.13 上运行的示例进行了解释:计数、循环、累积、链、groupby、乘积、组合、成对、批处理、tee、内存使用和常见陷阱。
阅读文章 →人工智能即时注入解释:人工智能应用程序如何被欺骗以及如何防御它们
为构建者解释提示注入:直接和间接攻击、关键字过滤器失败的原因(我们的测试阻止了 4 中的 1 个)以及分层防御,包括最小权限、工具允许列表和输出检查。
阅读文章 →DevOpsDNS 记录解释:A、AAAA、CNAME、MX、TXT 和 TTL 以及真实查找
通过我们运行的查找来解释 DNS 记录:解析如何工作、A 和 AAAA、CNAME 规则、MX 和 null MX、用于 SPF 和验证的 TXT、NS、TTL 和缓存以及安全 DNS 更改。
阅读文章 →DevOps功能标志解释:安全发布、逐步推出和标志卫生
通过我们运行的推出模拟解释了功能标志:标志类型、具有稳定散列的百分比推出、终止开关、允许列表、测试两条路径、标志债务和最佳实践。
阅读文章 →测试自动化使用 Python Faker 测试数据生成:真实、可重复且安全的数据
使用 Python Faker 测试数据生成、运行和测量:可重复数据的播种、区域设置、唯一值、域形状记录、Faker 未命中的边缘情况、屏蔽生产数据和速度。
阅读文章 →软件测试左移测试解释:尽早发现错误而不拖慢团队速度
左移测试解释:它意味着什么,为什么早期缺陷成本更低,从需求审查到 CI 检查的实践,测试人员角色的变化,右移,指标和推出计划。
阅读文章 →数据库与 SQLSQL 字符串函数解释:TRIM、SUBSTR、REPLACE、CONCAT 和数据清理
通过我们运行的查询来解释 SQL 字符串函数:连接和 NULL、TRIM、UPPER 和 LOWER、SUBSTR 和 INSTR、REPLACE、填充、Unicode 长度、清理混乱数据和方言差异。
阅读文章 →数据库与 SQLSQL 触发器解释:BEFORE 和 AFTER 触发器、审核日志和陷阱
SQL 触发器用我们运行的触发器进行了解释:BEFORE 与 AFTER、OLD 和 NEW、审核日志、验证、库存更新、WHEN 条件、回滚、方言差异以及何时避免它们。
阅读文章 →软件开发Python JSON 模块解释:转储、加载、自定义类型和常见错误
Python JSON 模块用我们运行的代码进行了解释:转储和加载、文件、类型转换、日期和小数、自定义编码器、object_hook、浮点精度、解析错误和 JSON 行。
阅读文章 →软件开发ES 模块与 CommonJS:JavaScript 导入如何在 Node.js 中工作并经过测试
ES 模块与 CommonJS 用我们在 Node.js 中运行的代码进行了解释:导入和导出语法、require、实时绑定、缓存、顶级等待、动态导入、文件扩展和互操作。
阅读文章 →软件开发Python 正则表达式解释:模式、组、前瞻和陷阱,经过测试
Python 正则表达式用我们运行的模式进行解释:搜索与匹配、findall、组和命名组、贪婪与懒惰、sub、前瞻、标志、Unicode 惊喜和灾难性回溯。
阅读文章 →人工智能LLM 结构化输出解释:从 AI 模型获取可靠的 JSON
LLM 结构化输出通过我们在 Pydantic 中运行的验证进行了解释:JSON 模式和模式、约束解码、模型输出中断的方式、重试循环和语义检查。
阅读文章 →DevOpsSSH 密钥解释:它们如何工作、ssh-keygen、Ed25519 和安全习惯
SSH 密钥用我们生成的密钥进行解释:公钥与私钥、ssh-keygen、Ed25519 与 RSA、指纹、密码、ssh-agent、authorized_keys、配置文件、GitHub 和密钥卫生。
阅读文章 →DevOpsHTTP 缓存解释:缓存控制、ETag 和 304 响应,通过实时测试
使用我们运行的小型服务器解释 HTTP 缓存:Cache-Control 指令、max-age、无缓存与无存储、ETag 重新验证和 304 响应、CDN、缓存清除和测试标头。
阅读文章 →测试自动化API 合约测试解释:在发布之前捕获重大变更
API 合约测试通过我们运行的模式检查进行了解释:什么是合约、消费者驱动的合约、Pact、OpenAPI、哪些更改会破坏消费者,以及它如何适应 CI。
阅读文章 →软件测试基于风险的测试解释:对风险进行评分、构建矩阵并测试重要内容
基于风险的测试逐步解释:识别风险、对可能性和影响进行评分、构建风险矩阵、将风险映射到测试深度、工作示例和常见错误。
阅读文章 →数据库与 SQLSQL 约束解释:NOT NULL、UNIQUE、CHECK 和 FOREIGN KEY,已测试
通过我们运行的测试解释了 SQL 约束:NOT NULL、UNIQUE、CHECK、DEFAULT、PRIMARY 和 FOREIGN KEY、NULL 漏洞、SQLite 的外键设置、命名约束并测试它们。
阅读文章 →数据库与 SQLSQL 日期函数解释:无错误地添加、比较和分组日期
SQL 日期函数通过我们运行的查询进行解释:添加间隔、月末惊喜、日期差异、BETWEEN 陷阱、按天分组、时区、索引和方言差异。
阅读文章 →软件开发Python asyncio 解释:async、await、gather 和 TaskGroup With Real Timings
Python asyncio 用我们计时的代码进行了解释:协程、await、gather、TaskGroup、错误处理、超时、限制并发以及破坏性能的阻塞调用错误。
阅读文章 →软件开发JavaScript 中的 Debounce 与 Throttle:它们如何工作、何时使用、经过测试
JavaScript 中的反跳与节流通过我们在 Node.js 中测量的计时进行了解释:每种方式如何工作、简单实现、前导和尾随调用、真实用例和测试。
阅读文章 →软件开发Python 上下文管理器解释:with 语句、contextlib 和实际用途
Python 上下文管理器用我们运行的代码进行了解释:如何工作、__enter__ 和 __exit__、contextlib.contextmanager、suppress、ExitStack、数据库事务和常见错误。
阅读文章 →人工智能LLM 温度和 Top-p 解释:AI 模型如何选择下一个单词
LLM 温度和 top-p 通过我们运行的模拟进行了解释:概率如何重塑、top-p 保留什么、按任务推荐的设置、确定性和测试 AI 功能。
阅读文章 →DevOpsYAML 解释:语法、挪威问题和我们测试的其他陷阱
YAML 通过解析器测试进行解释:基本语法、列表和地图、挪威问题、版本转换为浮点数、八进制邮政编码、六十进制时间、锚点、多行文本和安全加载。
阅读文章 →DevOpsCron 作业解释:语法、实际计划以及破坏它们的错误
Cron 作业通过我们验证的时间表进行了解释:五个字段、运算符、真实示例、每月或每周的陷阱、环境问题、日志记录、重叠和时区。
阅读文章 →软件测试软件测试中的错误生命周期:每种状态、谁拥有它以及常见错误
错误生命周期解释:从新到已关闭的每个缺陷状态,谁拥有每个步骤,拒绝,推迟和重新打开的错误,工作示例,工作流程设计和有用的指标。
阅读文章 →测试自动化Python 中基于属性的测试:假设发现示例遗漏的错误
基于属性的测试通过我们运行的假设测试进行了解释:属性与示例、策略、收缩、在代码中发现的真正错误、常见属性模式和 CI 技巧。
阅读文章 →数据库与 SQLSQL 分页解释:OFFSET 与 Keyset,百万行测试
SQL 分页通过我们运行的百万行测试进行了解释:LIMIT 和 OFFSET、为什么深层页面变慢、键集(游标)分页、稳定排序、漂移、API 设计和索引。
阅读文章 →人工智能人工智能幻觉解释:语言模型为何会产生幻觉以及如何减少它
人工智能幻觉解释:它们是什么,为什么语言模型产生它们,常见类型,如何通过基础和提示来减少它们,以及我们进行的简单检查。
阅读文章 →DevOps环境变量解释:.env 文件、秘密和配置正确完成
使用我们运行的 Python 示例解释环境变量:读取和设置它们、为什么每个值都是字符串、.env 文件、进程继承、秘密和验证。
阅读文章 →软件开发API 速率限制解释:算法、标头和处理 429 错误
API 速率限制通过我们运行的模拟进行了解释:令牌桶、固定窗口、滑动窗口、429 响应、速率限制标头、带回退的重试和测试限制。
阅读文章 →测试自动化Python 中的模拟:unittest.mock、补丁以及导致测试谎言的错误
使用unittest.mock 在Python 中进行模拟,经过测试:模拟和return_value、side_effect、修补使用名称的位置、spec 和autospec、模拟日期以及常见错误。
阅读文章 →软件测试代码覆盖率解释:行覆盖率与分支覆盖率以及 100% 的真正含义
用真实的coverage.py运行来解释代码覆盖率:行、分支和条件覆盖率,阅读报告,为什么100%覆盖率仍然会错过错误,以及合理的目标。
阅读文章 →数据库与 SQLSQL 中的 DELETE、TRUNCATE 和 DROP:差异、回滚以及何时使用它们
DELETE、TRUNCATE 和 DROP 通过经过测试的 SQL 进行了解释:各自删除什么、回滚、触发器、身份重置、速度,以及 PostgreSQL、MySQL、SQL Server 和 SQLite 有何不同。
阅读文章 →数据库与 SQLSQL 视图解释:创建、使用和避免陷阱(附示例)
SQL 视图通过我们运行的查询进行解释:创建视图、实时结果、隐藏列、性能、可更新和物化视图、破坏的依赖关系和最佳实践。
阅读文章 →软件开发TypeScript 接口与类型:真正的差异,使用编译器进行测试
TypeScript 接口与类型,使用真实编译器进行检查:两者都可以做什么,只有一个可以做什么,声明合并,扩展与交集以及要遵循的简单规则。
阅读文章 →软件开发Python *args 和 **kwargs 解释:灵活的函数和清晰的示例
Python *args 和 **kwargs 用我们运行的代码进行了解释:打包和解包、参数顺序、仅关键字和仅位置参数、装饰器和常见错误。
阅读文章 →软件开发Python Lambda 函数:语法、实际用途以及何时不使用它们
Python lambda 函数用我们运行的代码进行了解释:语法、使用键排序、映射和过滤器、闭包、后期绑定陷阱,以及何时普通 def 是更好的选择。
阅读文章 →人工智能什么是人工智能代理?它们是如何工作的,只需运行一个简单的代理循环
什么是人工智能代理?关于代理循环、工具、内存和护栏的简单指南,以及我们运行的一个小型 Python 循环、真正的风险以及何时简单的聊天机器人是更好的选择。
阅读文章 →DevOps监控与可观察性:真正的区别,包括日志、指标和跟踪
监控与可观察性解释:已知和未知的故障、日志、指标和跟踪、检查事件演练、黄金信号、OpenTelemetry 和有用的警报。
阅读文章 →DevOpsDocker Volumes 与 Bind Mounts:以正确的方式保留容器数据
Docker 卷与绑定挂载解释:为什么容器数据消失、命名卷、绑定挂载、tmpfs、Compose 示例、备份、权限以及何时使用它们。
阅读文章 →测试自动化TDD 与 BDD:主要区别、以两种方式构建的一个功能以及何时使用每种方式
TDD 与 BDD 的解释是通过一种双向构建的折扣功能:使用我们运行的代码进行红绿重构、Given-When-Then 场景、工具、权衡以及何时使用每种方案。
阅读文章 →软件测试用户验收测试 (UAT):流程、清单和真实示例
用户验收测试解释:谁运行它、它与 QA 有何不同、七步流程、UAT 测试用例模板、清单、签核标准和常见错误。
阅读文章 →数据库与 SQLSQL NULL 值解释:IS NULL、COALESCE、NULLIF 和要避免的陷阱
通过我们运行的查询解释了 SQL NULL 值:三值逻辑、IS NULL、COALESCE、NULLIF,聚合、连接和排序如何处理 NULL,以及它悄悄引起的错误。
阅读文章 →数据库与 SQLSQL CASE WHEN 语句:语法、实例和常见错误
SQL CASE WHEN 解释了我们运行的查询:简单和搜索表单、条件顺序、SUM 透视、COUNT 技巧、自定义排序、更新和要避免的 NULL 陷阱。
阅读文章 →软件开发什么是智威汤逊?通过工作示例解释 JSON Web 令牌
什么是智威汤逊? JSON Web Tokens 解释:这三个部分,在我们运行的代码中构建和篡改的令牌,JWT 与会话,存储,刷新令牌和安全错误。
阅读文章 →软件开发JavaScript 事件循环解释:调用堆栈、微任务和计时器以及示例
JavaScript 事件循环用我们运行的代码进行了解释:调用堆栈、任务和微任务队列、为什么 setTimeout 0 不是立即执行、阻塞、饥饿和面试测验。
阅读文章 →软件开发Python 生成器和 Yield 解释:通过真实示例节省内存
Python 生成器和yield 用我们运行的代码进行了解释:它们如何暂停和恢复、测量内存节省、管道、无限序列、yield from、发送和常见陷阱。
阅读文章 →人工智能什么是嵌入?向量和余弦相似度简单解释
什么是嵌入?关于向量、余弦相似度和语义搜索的简单语言指南,其中包含我们运行的一个小示例、常见用途、选择模型和已知限制。
阅读文章 →DevOps蓝绿部署与金丝雀部署:差异、权衡以及如何选择
蓝绿部署与金丝雀部署解释:每种部署的工作原理、成本、风险和回滚、我们测试的稳定用户分桶、数据库迁移、滚动更新以及如何选择。
阅读文章 →测试自动化不稳定的测试:造成这些问题的原因以及如何彻底解决它们
我们运行的演示解释了不稳定的测试:主要原因、如何确认和诊断、正确的时间修复、共享状态和日期以及隔离过程。
阅读文章 →软件测试负载测试与压力测试:差异、指标和 k6 示例
负载测试与压力测试的解释:各自证明什么、峰值和浸泡测试、重要的指标、为什么平均值会误导、k6 个示例以及如何计划测试。
阅读文章 →软件测试测试用例与测试场景:主要区别、示例以及何时使用它们
测试用例与测试场景的解释:清晰的定义、并排的表格、从场景到案例的密码重置功能、模板以及何时使用每个功能。
阅读文章 →数据库与 SQLSQL 查询优化:读取执行计划并修复慢速查询(带计时)
对一百万行进行 SQL 查询优化测试:读取执行计划、添加正确的索引、修复不可控制的过滤器、使用复合索引和键集分页。
阅读文章 →数据库与 SQLSQL UNION 与 UNION ALL:差异、示例和性能测试
SQL UNION 与 UNION ALL 通过我们运行的查询进行了解释:重复、都遵循的规则、真实的数据错误、测量的性能、INTERSECT 和 EXCEPT 以及何时使用它们。
阅读文章 →软件开发JavaScript Fetch API 教程:GET、POST、错误处理和超时
针对本地服务器测试的 JavaScript Fetch API 教程:GET 和 POST、为什么不抛出 404、可重用的帮助程序、查询字符串、超时、CORS 和常见错误。
阅读文章 →软件开发Python 文件处理:读取、写入、CSV、JSON 和 pathlib 以及示例
使用我们运行的代码解释了 Python 文件处理:打开模式、使用、读取大文件、CSV、JSON、pathlib、二进制文件、安全写入、错误处理和常见错误。
阅读文章 →软件开发Python 类和对象:带有实际示例的 OOP 教程
用我们运行的代码解释 Python 类和对象:__init__、方法、类与实例属性、继承、属性、dunder 方法、数据类和常见错误。
阅读文章 →人工智能什么是大语言模型?法学硕士如何运作,在没有炒作的情况下进行解释
什么是大语言模型?法学硕士用简单的语言解释:标记、嵌入、注意力、训练、温度和上下文窗口、一个微小的下一个单词演示和真正的限制。
阅读文章 →DevOps适合初学者的 Linux 命令:带有示例的基本终端指南
适合初学者的 Linux 命令,按任务分组:导航、文件、查看日志、grep、管道、权限、进程和档案,并附有实用的日志分析示例。
阅读文章 →测试自动化Selenium 与 Playwright:主要区别、代码比较以及选择
Selenium 与 Playwright 比较:架构、等待、浏览器和语言支持、调试、两种工具中的相同测试、迁移建议以及如何选择。
阅读文章 →软件测试等价划分:通过实例解释测试设计技术
等效分区解释:如何找到有效和无效分区,年龄、密码和优惠券的工作示例,我们运行的测试,以及为什么将其与边界配对。
阅读文章 →软件测试软件测试中的严重性与优先级:差异、矩阵和实例
软件测试中的严重性与优先级解释:清晰的定义、带有示例的四向矩阵、级别尺度、谁设置每个级别以及如何运行错误分类。
阅读文章 →数据库与 SQLSQL 子查询教程:类型、相关子查询和 EXISTS 以及示例
SQL 子查询教程,其中包含我们运行的查询:标量、IN、FROM 和 SELECT 子查询、相关子查询、EXISTS、NOT IN NULL 陷阱以及子查询与 JOIN 与 CTE。
阅读文章 →数据库与 SQLSQL 事务和 ACID 解释:COMMIT、ROLLBACK 和隔离级别
SQL 事务和 ACID 通过我们运行的银行转账进行了解释:COMMIT、ROLLBACK、保存点、锁、隔离级别、脏读、死锁和最佳实践。
阅读文章 →软件开发Git 命令备忘单:您实际使用的命令,以及示例
Git 命令备忘单按任务分组:设置、暂存、分支、远程、存储、历史记录和撤消错误,以及来自真实演示存储库的输出。
阅读文章 →软件开发JavaScript Promise 解释:then、catch、Promise.all 和常见错误
JavaScript 承诺用我们运行的代码进行了解释:状态、then 和 catch 链、错误处理、Promise.all、allSettled、race 和 any、事件循环和常见错误。
阅读文章 →软件开发Python 字典教程:方法、示例和常见模式
Python 字典教程,包含我们运行的代码:创建、读取和更新字典、关键方法、合并、理解、计数和分组模式以及常见错误。
阅读文章 →人工智能什么是 RAG?通过工作示例解释检索增强生成
什么是RAG?检索增强生成逐步解释:索引、分块、嵌入、检索、一个小型的 Python 工作示例、评估和常见故障。
阅读文章 →DevOpsTerraform 初学者教程:从第一个文件到模块的基础设施即代码
适合初学者的 Terraform 教程:从没有云帐户开始,学习初始化、计划和应用,然后是变量、输出、状态、模块和安全的团队工作流程。
阅读文章 →DevOpsDocker 与 Kubernetes:主要区别、它们如何协同工作以及您需要哪些
Docker 与 Kubernetes 的解释:各自的作用、同一个应用程序同时运行、Docker Compose 和 Swarm 的比较、dockershim 的变化以及如何决定您需要什么。
阅读文章 →测试自动化Pytest 初学者教程:夹具、参数化和真实示例
面向初学者的 pytest 教程,其中包含我们在 pytest 9.2 上运行的测试:断言、固定装置、参数化、conftest、标记、tmp_path、monkeypatch、有用的标志和 CI。
阅读文章 →软件测试软件测试生命周期 (STLC):6 个阶段、进入和退出标准、示例
软件测试生命周期解释:六个 STLC 阶段,包括进入和退出标准、可交付成果、有效的登录功能示例、STLC 与 SDLC 以及敏捷中的 STLC。
阅读文章 →软件开发Git merge 与 rebase 的区别:示例及如何选择
用真实的 log 输出、对比表、rebase 黄金法则和安全的团队工作流,讲清 Git merge 与 rebase 的区别。
阅读文章 →软件开发Python 列表推导式:语法、示例与何时避免使用
Python 列表推导式详解:语法、过滤、if-else、嵌套循环、实测耗时,以及何时普通 for 循环更合适。
阅读文章 →数据库与 SQLSQL JOIN 详解:附示例(INNER、LEFT、RIGHT、FULL)
通过示例表和查询,一步步讲解 SQL JOIN:INNER、LEFT、RIGHT、FULL、CROSS 和 SELF,并介绍常见错误与性能技巧。
阅读文章 →