反向传播算法简单例题

以下反向传播算法简单例题代码实现的需求是训练一个线性回归模型，并使用反向传播算法来更新模型参数。具体来说，代码实现了以下步骤：

1. 定义输入和输出数据，包括特征矩阵X和目标变量y。
2. 初始化参数theta，包括权重向量和偏置项。
3. 定义损失函数和优化器，包括均方误差损失函数和随机梯度下降优化器。
4. 使用反向传播算法来更新参数theta，包括计算损失函数值、计算误差、更新参数和重新计算预测结果。
5. 打印损失函数值和参数值，并清空参数。

需要注意的是，在实际应用中，需要根据具体的问题和数据集来选择合适的损失函数和优化器，并进行适当的调参和优化。同时，还需要考虑数据预处理、模型选择和参数调整等问题，以提高模型的性能和泛化能力。

import numpy as np  
  
# 定义输入和输出数据  
X = np.array([[1, 2], [3, 4], [5, 6], [7, 8], [9, 10]])  
y = np.array([3, 5, 7, 9, 11])  
  
# 初始化参数  
theta = np.zeros((2, 1))  
  
# 定义损失函数和优化器  
loss_fn = np.mean((X - theta) ** 2)  
optimizer = torch.optim.SGD(theta.numpy(), lr=0.1)  
  
# 训练模型  
for epoch in range(100):  
    # 前向传播  
    y_pred = np.dot(X, theta)  
      
    # 计算损失函数值  
    loss = loss_fn(y_pred, y)  
      
    # 反向传播  
    loss.backward()  
      
    # 更新参数  
    theta = theta - lr * loss  
      
    # 打印损失函数值和参数值  
    print('Epoch [{}/{}], Loss: {:.4f}'.format(epoch+1, 100, loss.item()))  
      
    # 清空参数  
    optimizer.zero_grad()