RNN结构

目前主流的注意力机制计算流程图

01_单层循环网络

02_单层RNN循环网络内部详细结构

03_GRU的内部结构

04_注意力计算过程_tensorflow版

05_注意力机制的计算_PyTorch版本

06_注意力机制的计算_张量形状的变化过程

注意力计算公式

注意力机制分类：如果query、key、value三者相同，那么就是自注意力机制；否则不是；另外还有软注意力机制和硬注意力机制

有注意力机制的解码器计算过程

英译法_项目开发流程