1结构介绍 是一个seq2seq的任务模型,将输入的时间序列转化为输出的时间序列。 有encoder和decoder两个模块,分别用于编码和解码,结合时是将编码的最后一个输出 当做 解码的第一个模块的输入 encoder模块有两个操作: self-attention、feed-forward decoder模块有三个操作:self-attention
神经网络。《Make Your Own Neural Network》,用非常通俗易懂描述讲解人工神经网络原理用代码实现,试验效果非常好。 循环神经网络和LSTM。Christopher Olah http://colah.github.io/posts/2015-08-Understanding-LSTMs/ 。 seq2seq模型基于循环神经网络序列到序列模型,语言翻译、