Bloom Isle

背景 观前思考：为什么 Transformer 能在短短几年内，彻底取代 RNN 和 LSTM，成为 NLP 乃至整个 AI 领域的基石？ 在Transformer之前，NLP领域广泛使用RNN或LSTM进行序列建模和文本生成。RNN和LSTM都是循环结构，它们维护一个不断更新的隐藏状态，将历史信息压缩其中，并根据这个状态和当前输入来预测下一个词。但这样的结构带来了两个突出的问题。 首先是训练速度问题。由于RNN和LSTM必须按时间步依次计算：算完 ht−1h_{t−1}ht−1​ 才能算 hth_tht​​ 。整个序列是高度串行化的，无法像矩阵运算那样充分并行。这使得它们很难利用现代GPU大规模并行的优势，训练速度受到严重制约。 其次是长距离依赖问题。在自然文本中，相距很远的词句之间也可能存在语义关联。然而RNN的信息必须沿时间步逐步传递，在处理长序列时极易出现梯度消失或梯度爆炸。LSTM通过门控机制大幅缓解了这一问题，但信息仍须逐步传递，在足够长的序列上依然会出现衰减，难以真正捕捉远距离的依赖关系。 以上两个问题，前者意味着RNN和LSTM训练慢，后者意味着它们甚至很难训...

说在前面 本系列文章是对 哔哩哔哩up主——湖科大教书匠的计算机网络系列视频的学习笔记。强烈推荐大家观看老师的视频来学习计算机网络的基础知识。 计算机网络概念 网络：网络是由若干节点（Node）和连接这些节点的链路（Link） 组成的 互联网：互联网是由若干网络和连接这些计算机的路由器组成的 因特网：因特网是当今世界上最大的互联网 互联网（internet） 因特网（Internet） 若干网络和路由器互连 当今世界上最大的互联网 任意通信协议 通过 TCP/IP 协议通信 信息传输 电路交换 图1. 简化电路交换示意图 通过电话交换机进行信息传输的方式称为电路交换 一次完整的电路交换方式的通信大致有以下几个流程： 建立连接：一用户若想向另一用户拨号，电信网首先得为这两个用户分配一条物理通信路线，如图1所示。此时在用户A和用户E之间的路线即为建立的连接。 通信：当成功建立连接之后，用户之间便可以进行通信输了。在通信过程中，用户所占用的通信资源并不会被释放 释放连接：当通信完毕，此时需要释放所占用的通信资源，归还给电信网 ...

说在前面 作为本网站的第一篇post，还是很有意义的。当然也是回顾一下我搭建个人博客的方法。 如果你只是想简单搭建个博客用来放文章，那么看完这篇教程就足矣创建一个还算美观且实用性不错的网站 如果你不仅仅满足于套用现成的主题，想深度定制自己的个人网站样式，那么可以把这系列的文章都看完(当然截止2026.8.8，这个系列还是只有这一篇文章 概览 大致讲解一下搭建网站的流程 图1. 个人博客搭建流程图（简要提及所用技术和服务) 我们通过 Github Pages 来为网站提供托管，使用 Cloudflare 免费版来为网站提供 DNS 解析等服务，接着用 Hexo + Butterfly 来生成美观的博客页面。大致流程就是如此。下面来详细解说 流程 P1.域名购买 购买一个自己的域名很不错，除非你想每次看到一个丑陋的 github.io( 域名购买这方面可以去阿里云，腾讯云等等服务商购买。比如我们这里演示阿里云: 图2. 在阿里云查询想要购买的域名。如图所示，价格还是很便宜的 当然，在国内服务商购买的域名得实名认证才能...