深度学习入门
- perceptron(感知机)
- steup function (阶跃函数)
- weight(权重)
- bias(偏差) ,也可以理解为基础兴奋值
- perceptron as a NAND Gate(与非门)
- linear classifier(线性分类器)
- multi-layered perceptron (多层感知机)
- activation function (激活函数)
- sigmoid funciton(S 函数)
-
exp(-x) ,e 是纳皮尔常数 2.7182
-
h(x)函数会将输入信号的综合转换为输出函数,这种函数被称之为“激活函数”
- 激活函数以阈值为界,一旦输入超过阈值,就切换输出,这样的函数称为“阶跃函数”,
感知机使用阶跃函数作为激活函数。 - 神经网络使用 s 函数作为激活函数
- 函数就是给定某个输入后,会返回某个输出的转换器
- numpy 数组进行不等式运算,通过 astype()转换为 int 类型
Sigmoid函数是一种数学函数,可以将任意范围的实数映射到0到1之间的值范围内。它常用于人工神经网络中作为激活函数。最常用的Sigmoid函数是逻辑函数,其形式如下:
f(x) = 1 / (1 + e^-x)
其中x为任意实数。
Sigmoid函数具有“S”形曲线,意味着当输入x从负无穷逐渐增大到正无穷时,函数值从0逐渐增大到1。函数在x=0处拐点,曲线的斜率在拐点处最陡峭,并逐渐在极端的x值处变得较平缓。
Sigmoid函数的一些特性包括:
它是一个连续和可微的函数
它是非线性的,这使得它适用于建模变量之间的复杂关系
它可以将任何输入范围转换为0到1之间的输出范围,这可以解释为概率得分或置信度测量。
参考#
https://www.bilibili.com/video/BV1gA4y1Q7Kj/?spm_id_from=333.337.search-card.all.click&vd_source=b92112731015c20054034d26c9ad8a67
Sigmoid Function clearly explain