Abbreviations and symbols

缩写

a b c
AR autoregressive 自回归
BBTT back propagation through time 通过时间的反向传播
BM Boltzmann machine Boltzmann机
BP back propagation 反向传播
b/s bit per second 每秒比特率
BSB bran-state-in-a-box 盒中脑状态
BSS blind source(signal) separation 盲源(信号)分离
cmm correlation matrix memory 相关矩阵记忆
CV cross-validation 交叉验证
DFA deterministic finite-state automata 确定性有限状态自动机
EKF extended Kalman filter 扩展卡尔曼滤波器
EM expectation-maximization 期望最大化
FIR finite-duration impulse response 有限时间冲击响应
FM frequency-modulated(singal) 频率调制(信号)
GCV generalized cross-validation 广义交叉验证
GHA generalized Hebbian algorithm 广义Hebb算法
GSLC generalized sodelobe canceler 广义旁瓣消除器
Hz hertz 赫兹
ICA 独立分量分析
Infomax 最大互信息
Imax 最大互信息的变体
Imin 最大互信息的另一变体
KSOM 核自组织映射
KHA 核Hebb算法
LMS least-mean-square 最小均方
LR 似然比
LS Least-squares 最小二乘
LS-TD Least-squares, temporal-difference 最小二乘,时序差分
LTP 长期增强
LTD 长期衰减
LRT 似然比测试
MAP 最大后验估计
MCA 次分量分析
MCMC Markov Chain Monte Carlo 马尔可夫链蒙特卡洛
MDL 最小描述长度
MIMO 多输入多输出
ML 最大似然
MLP Multilayer perceptron 多层感知器
MRC 模型参考控制
NARMA 非线性自回归平滑平均
NARX 具有外部输入的非线性自回归
NDP 神经动态规划
NW Nadaraya-Watson(估计器)
NWKR Nadaraya-Watson核回归
OBD 最优脑损伤
OBS 最优脑外科
OCR optical character recognition 光学字符识别
PAC 可能近似正确
PCA 主分量分析
PF 粒子滤波器
pdf probability density function 概率密度函数
pmf probability mass function 概率质量函数
QP
RBF
RLS
RLS
RMLP
RTRL
SIMO
SIR
SIS
SISO
SNR
SOM
SRN
SVD
SVM
TD
TDNN
TLFN
VC
VLSI
XOR exclusive OR 异或

符号

a b c
$\mathrm{a}$ action 动作
$\mathbf{a}^T\mathbf{b}$ 向量a和b的内积
$\mathbf{ab}^T$ 向量a和b的外积
$\dbinom{l}{m}$ 二项式系数
$\mathrm{A}\bigcup\mathrm{B}$ A和B的并集
$\mathrm{B}$ 温度的逆
$\mathrm{b}_k$ 神经元k的偏置
$\cos(\mathbf{a},\mathbf{b})$ 向量a的b夹角余弦
$\mathit{c}_{ u, v } (\mathit{u, v})$ 系词的概率密度函数
$\mathit{D}$ 记忆深度
$\mathit{D}_{ f | g }$ 概率密度函数f和g之间的Kullback-Leibler散度
$\tilde{\mathbf{D}}$ 算子D的伴随矩阵
$\mathit{E}$ 能量函数
$\mathit{E}_i$ 统计力学中的状态i的能量
$\mathbb{E}$ 统计期望算子
$\left\langle \mathit{E} \right\rangle$ 平均能量
$\exp$ 指数
$\varepsilon_{av}$ 平均平方误差或平方误差和
$\varepsilon(n)$ 平方误差和的瞬间值
$\varepsilon_{total}$ 总平方误差和
$\mathit{F}$ 自由能量
$\mathscr{F}*$ 经验风险最小的子集(网络)
$\mathbf{H}$ Hessian矩阵
$\mathbf{H}^{-1}$ Hessian矩阵H的逆
$\mathit{i}$ -1的平方根,亦记作j
$\mathbf{I}$ 单位矩阵
$\mathbf{I}$ Fisher信息矩阵
$\mathit{J}$ 均方误差
$\mathbf{J}$ Jacobi矩阵
$\mathbf{P}^{1/2}$ 矩阵P的方根
$\mathbf{P}^{T/2}$ 矩阵P的方根转置
$\mathbf{P}_{n, n-1}$ 卡尔曼滤波理论中的误差协方差矩阵
$\mathit{k}_B$ Boltzmann常数
$\log$ 对数
$\mathit{L}(\mathbf{w})$ 权值向量w的对数似然函数
$\mathscr{L}(\mathbf{w})$ 但样本的权值向量w的对数似然函数
$\mathbf{M}_c$ 可控矩阵
$\mathbf{M}_o$ 可观察矩阵
$\mathrm{n}$ 离散时间
$\mathit{P}_i$ 统计力学中的状态i的概率
$\mathit{P}_{ij}$ 从状态i到状态j的转移概率
$\mathbf{P}$ 随机矩阵
$\mathrm{P}(e|\mathscr{C})$ 从类C中输入时e的条件概率
$\mathrm{P}_\alpha^+$ 假设网络处于钳制状态(正向阶段)时,Blotzmann机的可见神经元状态为α的概率
$\mathrm{P}_\alpha^-$ 假设网络处自有运行条件(负向阶段)时,Blotzmann机的可见神经元状态为α的概率
$\hat{r}_x(j, k; n)$ xi(n)和xk(n)的自相关函数估计
$\hat{r}_{dx}(k; n)$ d(n)和xk(n)的交叉相关函数估计
$\mathbf{R}$ 输入向量的相关矩阵
$\mathrm{t}$ 连续时间
$\mathit{T}$ 温度
$\mathscr{T}$ 训练集(样本)
$\mathrm{tr}$ 表示矩阵迹的算子
$\mathrm{var}$ 方差算子
$\mathit{V}(x)$ 状态向量x的Lyapunov函数
$\mathit{v}_i$ 神经元j的诱导局部域或激活位势
$\mathbf{w}_v$ 突出权值向量的最优值
$\mathscr{w}_{kj}$ 属于神经元k的突触j的突触权值
$\mathbf{w}^*$ 最优向量x的平衡值
$\bar{\mathbf{x}}$ 状态向量x的平衡值
$\left\langle \mathit{x}_i \right\rangle$ “热”意义下状态xj的平均
$\hat{\mathit{x}}$ x的估计,用加字符号^表示
$|\mathit{x}|$ x的绝对值(幅度)
$\mathit{x}^*$ 状态x的复共轭,用*作上标
$||\mathbf{x}||$ 向量x的欧几里得范数
$\mathbf{x}^T$ 向量x的转置,用上标T表示
$\mathit{z}^{-1}$ 单位时间延迟算子
$\mathrm{Z}$ 部分函数
$\delta_j(n)$ 神经元j在时刻n的局部梯度
$\Delta\mathit{w}$
$\nabla$ 梯度算子
$\nabla^2$ 拉普拉斯算子
$\nabla_w\mathit{J}$ J关于w的梯度
$\nabla \centerdot \mathbf{F}$ 向量F的散度
$\eta$ 学习率参数
$\kappa$ 累积量
$\mu$ 策略
$\theta_k$ 神经元k的阀值(偏置bk的负值)
$\lambda$ 正则化参数
$\lambda_k$ 方阵的第k个特征值
$\varphi_k(\centerdot)$ 神经元k的非线性激活函数
$\in$ “属于”符号
$\bigcup$ “并”符号
$\bigcap$ “交”符号
$*$ 卷积符号
$+$ 矩阵伪逆的上标符号
$+$ 更新估计的上标符号