发布时间:2025-12-10 08:01:09 浏览次数:2
通俗的来讲,transformer其实就是一个特征提取器,输入数据经过transformer提取特征然后输出出来就可以了。通过transformer可以将一些特征不突出的信息通过提取,生成有突出点的信息。
transformer的结构总体封起来就是一个大盒子,这个大盒子分成两个功能块,一部分叫做encoder,另一部分叫做decoder。
其实encoder功能块就是抽取特征的,抽取出来的特征就交给解码功能块decoder,decoder块用encoder抽取到的特征去做你要做的任务,类比到常见的机器学习任务,也是这么回事,先做特征,然后由特征去做分类、回归等任务。