Transformer 模型主要由两个核⼼部分构成:编码器(Encoder)和解码器(Decoder)。依托这两个关键组件的不同组合和应⽤,Transformer 模型发展出三种主流架构:编码(Encoder-Only)⼤语⾔模型、解码(Decoder-Only)⼤语⾔模型以及编解码(Encoder-Decoder)⼤语⾔模型。