ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

梯度下降 以y=2x为例

2021-09-17 19:02:01  阅读:146  来源: 互联网

标签:plt network 为例 梯度 random 2x delta np pred


本文内容,参考自:https://peterroelants.github.io/posts/neural-network-implementation-part01/

 

 

import numpy as np
from matplotlib import pyplot as plt

#定义--------------------------------------------------------begin

#训练数据 x
x = np.linspace(0,2,20) #以0.1为间隔,在0-2之间生成20个数据。
data_size = len(x)

#Guassian noise
np.random.seed(5)
noise = np.random.randn(data_size) * 0.2 #高斯分布~ N(0,0.04)

#target y
y = 2 * x + noise #在真实情况下,我们并不知道 y与x的关系。我们要计算求解的正是这个关
系。


#weights w
np.random.seed(6)
w = np.random.randn() #梯度下降求解权重参数w,随机初始化

#learning rate u
u = 0.1

#network
def network(x,w):
    return x*w


def loss(pred,y): #预测值和target值,在此使用MSE
    return np.sum(np.square(y-pred)) / len(pred)

#定义--------------------------------------------------------end

epochs = 20
delta_w_list = []

for i in range(epochs):
    pred = network(x,w)
    plt.plot(x,pred,marker='x',linestyle='--', label=str(i) + 'w:%.3f' % w)
    delta_w = np.sum(2 * x * u * ( pred - y)) / data_size
    delta_w_list.append(delta_w)
    w = w - delta_w
    print (w)

plt.plot(x, delta_w_list, marker='+',linestyle='-',label='delta_w')

plt.plot(x,y,marker='o',linestyle=':',label='target')
plt.legend(loc='upper left')
plt.show()

显示结果图:

 

 

标签:plt,network,为例,梯度,random,2x,delta,np,pred
来源: https://www.cnblogs.com/yibule/p/15305931.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有