本文共 1815 字，大约阅读时间需要 6 分钟。

   
   
   
import tensorflow as tf
def attention_3d_block(inputs, TIME_STEPS, SINGLE_ATTENTION_VECTOR):
    # 输入形状为(batch_size, time_steps, input_dim)
    input_dim = int(inputs.shape[2])
    # 调整输入形状以适应注意力机制
    a = tf.keras.layers.Permute((2, 1))(inputs)
    a = tf.keras.layers.Reshape((input_dim, TIME_STEPS))(a)
    # 生成时间步的注意力权重
    a = tf.keras.layers.Dense(TIME_STEPS, activation='softmax')(a)
    if SINGLE_ATTENTION_VECTOR:
        # 将注意力权重降维为单个向量
        a = tf.keras.layers.Lambda(lambda x: tf.keras.backend.mean(x, axis=1), name='dim_reduction')(a)
        a = tf.keras.layers.RepeatVector(input_dim)(a)
    # 调整注意力向量形状以便与输入相乘
    a_probs = tf.keras.layers.Permute((2, 1), name='attention_vec')(a)
    # 计算最终的注意力权重乘积
    output_attention_mul = tf.keras.layers.Multiply()([inputs, a_probs])
    return output_attention_mul
def attention_lstm(TIME_STEPS, INPUT_DIM, lstm_units=32):
    # 清除前一个模型的变量，避免内存溢出
    tf.keras.backend.clear_session()
    # 输入定义，形状为(batch_size, time_steps, input_dim)
    inputs = tf.keras.Input(shape=(TIME_STEPS, INPUT_DIM,))
    # 前向传播
    x = tf.keras.layers.LSTM(lstm_units, return_sequences=True, dropout=0.5)(inputs)
    x = tf.keras.layers.LSTM(lstm_units, return_sequences=True)(x)
    # 应用注意力机制
    attention_mul = attention_3d_block(x, TIME_STEPS, 1)
    # 后向传播
    lstm_out = tf.keras.layers.LSTM(lstm_units, recurrent_regularizer=tf.keras.regularizers.l2())(attention_mul)
    # 将输出展平成向量
    attention_mul = tf.keras.layers.Flatten()(lstm_out)
    # 最终输出层
    output = tf.keras.layers.Dense(1)(attention_mul)
    # 创建模型
    model = tf.keras.Model(inputs=[inputs], outputs=output)
    return model
   
   
   

以上代码定义了两个TensorFlow模型：

代码结构清晰，注释详细，适合用于时间序列预测任务。通过LSTM和注意力机制组合，能够有效捕捉序列数据中的时序特征和关联信息。