标签：random 麦叔 编程 l1 神经网络 l2 l0 delta dot

神经网络：正向传播，反向传播
重构单节点神经网络代码：
#引入类库
from numpy import array,exp,random,dot

def fp(input):

#加载数据
X = array([[0,0,1],[1,1,1],[1,0,1],[0,1,1]])
y = array([[0,1,1,0]]).T
#设置随机权重
random.seed(1)
weights = 2 * random.random((3,1)) - 1
#循环
for it in range(10000):
#利用点乘一次性计算出四个z来
z = dot(X,weights)
#使用sigmoid函数，计算最初的output
output = 1/(1+exp(-z))
#计算结束后与实际关系进行比较得出误差
error = y - output
#计算斜率
slope = output * (1-output)
#计算增量
delta = error * slope
#更新权重
weights = weights + dot(X.T,delta)

print(weights)

多个神经元，多层神经网络
情景分析：a，b同时不去，d不去；a去，b不去，d去；a不去，b去，d去；a，b同时去，d不去

#引入类库
from numpy import array,exp,random,dot

def fp(input):
l1 = 1/(1+exp(-dot(input,w0)))
l2 = 1/(1+exp(-dot(l1,w1)))
#print(l1)
#print(l2)
return l1,l2

def bp(l1,l2,y):
#计算结束后与实际关系进行比较得出误差
error = y - l2
slope = l2 * (1-l2)
l1_delta = error * slope

 l0_slope = l1 * (1-l1)
 l0_error = l1_delta.dot(w1.T)
 
 l0_delta = l0_slope * l0_error
 
 #计算增量
 return l0_delta,l1_delta

#加载数据
X = array([[0,0,1],[0,1,1],[1,0,1],[1,1,1]])
y = array([[0,1,1,0]]).T

#设置随机权重
random.seed(1)
w0 = 2 * random.random((3,4)) - 1
w1 = 2 * random.random((4,1)) - 1

#循环
for it in range(10000):
l0 = X
l1,l2 = fp(l0)
l0_delta,l1_delta = bp(l1,l2,y)
#print(l0_delta)
#print(l1_delta)

w1 = w1 + dot(l1.T,l1_delta)
w0 = w0 + dot(l0.T,l0_delta)

print(fp([[1,1,0]])[1])

标签：random,麦叔,编程,l1,神经网络,l2,l0,delta,dot
来源： https://blog.csdn.net/weixin_39427305/article/details/115794895

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。