From 63e21c0bdf828d52437cdf61a54d704fb8d19c96 Mon Sep 17 00:00:00 2001 From: skindhu Date: Thu, 7 Nov 2024 15:35:23 +0800 Subject: [PATCH] add fifth chapter --- cn-Book/5.在无标记数据集上进行预训练.md | 1 + 1 file changed, 1 insertion(+) diff --git a/cn-Book/5.在无标记数据集上进行预训练.md b/cn-Book/5.在无标记数据集上进行预训练.md index 2502efa..f254ce1 100644 --- a/cn-Book/5.在无标记数据集上进行预训练.md +++ b/cn-Book/5.在无标记数据集上进行预训练.md @@ -267,6 +267,7 @@ tensor([ -9.5042, -10.3796, -11.3677, -11.4798, -9.7764, -12.2561]) > $$ ln(0.2)+ln(0.1)+ln(0.05)≈−1.6094+(−2.3026)+(−2.9957)=−6.9077 $$ > > 虽然这个和也是负数,但它不会像直接相乘的结果那样接近于0,避免了数值下溢的问题。**对数的累加性质**允许我们将原本的累乘操作转换为累加,使得计算更加稳定和高效。 +> > > 2. **归属概率在损失函数中的作用** >