自然语言处理

Attention

• AdditiveAttention
• DotProductAttention

MachineTranslation

• Seq2seq
• Bahdanau
• Transformer

NaturalLanguageInference

• AttentionMLP
• BERT

RreTrain

• ALBert（待实现）
• Bart
• Bert
• ELMO
• fastText
• GloVe
• GPT
• RoBERTa
• T5（待实现）
• Word2vec
• XLNet（待实现）

SentimentAnalysis

• BiRNN
• TextCNN

SequenceForcecast

• RNN
• LSTM
• GRU

Text-Classification

• BiRNN
• TextCNN

所需环境

• Anaconda3（建议使用）
• python3.6/3.7/3.8
• pycharm (IDE)
• pytorch 1.20 (pip package)