第1章 神经网络基础
神经网络是深度学习的基石。本章我们将从最简单的感知机开始,逐步理解神经网络的核心概念。
1.1 什么是感知机
感知机(Perceptron)是 1957 年由 Frank Rosenblatt 提出的一种二分类线性模型。它接收多个输入信号,输出一个信号。
感知机的数学表达式为:
python
import numpy as np
def perceptron(x, w, b):
# 计算加权输入
y = np.dot(x, w) + b
return 1 if y > 0 else 0
1.2 激活函数
激活函数决定了神经元的输出。常见的激活函数包括 Sigmoid、ReLU 和 Tanh。
python
def sigmoid(x):
return 1 / (1 + np.exp(-x))
def relu(x):
return np.maximum(0, x)
1.3 多层感知机
将多个感知机按层排列,就构成了多层感知机(MLP)。每一层的输出作为下一层的输入,通过反向传播算法进行训练。