自注意力机制

以前的输入都是一个向量，假设输入是一组向量，数目会改变。

输入

文字处理，每个句子中的词汇的数目不同，如何将一个词汇表达成一个向量。onehot

问题非常严重，词汇之间没有关系，比较不相像。

语义扩展，获得对应的向量，一个句子就是一排长度不一的向量。

声音讯号，实际上是一排不同的向量，每一帧代表一个向量。

人际关系，每一个人的相关联系可以用一个向量表示。

一个分子（药物分子）也可以用向量进行表示。一个原子就是一个向量。

输出是什么

输出

每一个向量有一个label，输入几个向量输出几个label