diff --git a/Book/3.实现注意力机制.md b/Book/3.实现注意力机制.md index a4e0fc1..b1bf76d 100644 --- a/Book/3.实现注意力机制.md +++ b/Book/3.实现注意力机制.md @@ -284,11 +284,18 @@ Sum: tensor(1.) > > 1. **Softmax 的原理** > -> Softmax 函数的公式如下: +> Softmax 函数的公式如下: +> +> > $$ > \operatorname{softmax}\left(z_{i}\right)=\frac{e^{z_{i}}}{\sum_{j} e^{z_{j}}} > $$ -> +> +> ``` +> $$ +> E = mc^2 +> $$ +> ``` > > >