Keras中嵌入层的文档说明如下：
将正整数（索引）转换为固定大小的密集向量。例如
[[4], [20]]->[[0.25, 0.1], [0.6, -0.2]]
我认为这也可以通过将输入编码为长度为vocabulary_size的独热向量，并将其输入到全连接层中来实现。
嵌入层仅仅是这个两步过程的便捷方式，还是在底层有更复杂的操作？
回答：
嵌入层更快，因为它本质上相当于一个做了简化假设的全连接层。
想象一个词到嵌入的层，其权重如下：
w = [[0.1, 0.2, 0.3, 0.4], [0.5, 0.6, 0.7, 0.8], [0.9, 0.0, 0.1, 0.2]]Dense层会将这些权重视为用于进行矩阵乘法的实际权重。嵌入层则简单地将这些权重视为一个向量列表，每个向量代表一个词；词汇表中的第0个词是w[0]，第1个是w[1]，依此类推。
举个例子，使用上述权重和以下句子：
[0, 2, 1, 2]一个简单的基于Dense的网络需要将该句子转换为独热编码
[[1, 0, 0], [0, 0, 1], [0, 1, 0], [0, 0, 1]]然后进行矩阵乘法
[[1 * 0.1 + 0 * 0.5 + 0 * 0.9, 1 * 0.2 + 0 * 0.6 + 0 * 0.0, 1 * 0.3 + 0 * 0.7 + 0 * 0.1, 1 * 0.4 + 0 * 0.8 + 0 * 0.2], [0 * 0.1 + 0 * 0.5 + 1 * 0.9, 0 * 0.2 + 0 * 0.6 + 1 * 0.0, 0 * 0.3 + 0 * 0.7 + 1 * 0.1, 0 * 0.4 + 0 * 0.8 + 1 * 0.2], [0 * 0.1 + 1 * 0.5 + 0 * 0.9, 0 * 0.2 + 1 * 0.6 + 0 * 0.0, 0 * 0.3 + 1 * 0.7 + 0 * 0.1, 0 * 0.4 + 1 * 0.8 + 0 * 0.2], [0 * 0.1 + 0 * 0.5 + 1 * 0.9, 0 * 0.2 + 0 * 0.6 + 1 * 0.0, 0 * 0.3 + 0 * 0.7 + 1 * 0.1, 0 * 0.4 + 0 * 0.8 + 1 * 0.2]]=
[[0.1, 0.2, 0.3, 0.4], [0.9, 0.0, 0.1, 0.2], [0.5, 0.6, 0.7, 0.8], [0.9, 0.0, 0.1, 0.2]]然而，Embedding层只需查看[0, 2, 1, 2]，并直接获取层中索引为零、二、一、二的权重，即可得到
[w[0], w[2], w[1], w[2]]=
[[0.1, 0.2, 0.3, 0.4], [0.9, 0.0, 0.1, 0.2], [0.5, 0.6, 0.7, 0.8], [0.9, 0.0, 0.1, 0.2]]所以结果是相同的，只是希望以更快的方式获得。
Embedding层确实有一些限制：
- 输入需要是[0, vocab_length)范围内的整数。
- 没有偏置项。
- 没有激活函数。
然而，如果你只是想将整数编码的词转换为嵌入，这些限制应该不会有影响。
