提问人:slastine 提问时间:11/13/2023 更新时间:11/13/2023 访问量:33
使用 Keras 从输入向量预测输出向量
Using Keras To Predict Output Vector From Input Vector
问:
我正在使用 Keras 来处理单词嵌入,试图从另一个单词嵌入中预测一个单词嵌入。输入由单词嵌入列表组成,输出由与第一个单词嵌入匹配的单词嵌入列表组成。
虽然我的神经模型预测了单个单词的一致结果,但这些单词似乎与输入单词完全无关且随机。虽然这可能意味着输入和输出词嵌入之间没有模式,但我并不真正相信这是真的。我认为我的代码中存在一些问题。
这是我设置的模型。input_list是从预先训练的词矢量化模型生成的词嵌入列表。output_list是一回事。两者都格式化为 numpy 数组
from tensorflow import keras
from keras.models import Sequential
import keras.layers as layers
import tensorflow as tf
inputTensor = tf.convert_to_tensor(inputList)
outputTensor = tf.convert_to_tensor(outputList)
inputTensor = inputTensor[..., None]
outputTensor = outputTensor[..., None]
model = Sequential()
model.add(layers.Dense(64, input_shape=(inputTensor.shape[1], inputTensor.shape[2])))
model.add(layers.Dense(64, input_shape=(inputTensor.shape[1], inputTensor.shape[2])))
model.add(layers.Dense(64, input_shape=(inputTensor.shape[1], inputTensor.shape[2])))
model.build((None, 850))
model.compile(loss="mean_squared_error", optimizer="rmsprop", metrics=['mean_squared_error'])
850 是每个向量输入的维数 代码运行和编译良好,错误非常低(约 0.00080161)。然而,结果是随机的。我不期望完美的结果,但有 60,000 对训练,所以我希望比“西伯利亚雪橇犬是一种阴唇”更好一些
我对 Keras 很陌生,我假设我的模型有问题。感谢任何可以提供帮助的人!
答: 暂无答案
评论