数学

随机过程深度实战:从随机游走、泊松过程与布朗运动到伊藤积分、马尔可夫链与高斯过程的完整工程链路

随机过程是把"不确定性"变成可计算对象的第一性原理工具。我们日常写的神经网络、队列系统、扩散模型、强化学习环境、贝叶斯先验,背后几乎都站着某个随机过程——SGD 的噪声是布朗扰动,MCMC 采样是马尔可夫链,扩散模型的反向去噪是伊藤随机微分方程,PageRank 是平稳分布,主动学习的采集函数是高斯过程。本文用纯 NumPy 从零实现随机游走、泊松过程、布朗运动、伊藤 SDE、马尔可夫链、鞅与高斯…

概率图模型深度实战:从贝叶斯网络、马尔可夫随机场与因子图到变量消去、置信传播与 Chow-Liu 树状结构学习的完整工程链路

概率图模型(Probabilistic Graphical Models, PGM)是不确定性的"通用语言":它用一张图把高维联合分布 $P(x_1,\dots,x_n)$ 拆解成若干局部因子的乘积,既压缩了参数、又显式编码了**条件独立性**。从贝叶斯网络(有向)、马尔可夫随机场(无向)到把二者统一起来的因子图,PGM 是现代统计推理与机器学习的共同底座——VAE 的变分下界、扩散模型的马尔可夫…

凸优化计算实战:从凸集凸函数、次梯度与投影梯度到近端方法、ADMM 与加速梯度的完整工程链路

凸优化是现代机器学习的"底层发动机":从 SGD、Adam 到近端梯度、分布式 ADMM,几乎所有训练算法都可以统一在凸分析的语言下。本文从第一性原理出发,用可运行的 Python 代码把凸集、凸函数、次梯度、投影梯度、近端方法(ISTA/FISTA)、坐标下降与 ADMM 串成一条完整工程链路,并给出与深度学习优化器的精确映射表。全部数值实验均用纯 NumPy 从零实现,不依赖任何优化求解器。

拓扑数据分析深度实战:从单纯复形、Vietoris–Rips 过滤到持久同调与贝蒂数条形码的完整工程链路

拓扑数据分析(Topological Data Analysis,TDA)关心一件事:数据除了有"位置",还有"形状"。一组散点可能围成一圈、串成一条链、或者卷成一个球面——这些连通性、孔洞、空腔是度量坐标变换下几乎不变的不变量,传统统计量(均值、方差、PCA 主方向)看不见,而它们往往正是数据最本质的结构信号。本文从第一性原理出发,不依赖任何 TDA 库(GUDHI / Ripser / Dio…

数值分析计算实战:从方程求根、多项式插值与样条到数值积分、常微分方程求解与特征值迭代的完整工程链路

数值分析是研究"用有限精度算术逼近连续数学问题"的学科——它是所有科学计算的隐形地基。本文不堆砌公式推导,而是从可直接运行的代码出发,把方程求根、线性方程组、插值、数值积分、常微分方程与特征值迭代六条主线逐一实现并验证,最后把它们与 AI / 深度学习中的梯度下降、二阶优化、样条激活、连续时间模型与 SVD/PCA 串成一张映射表。你会发现:那些看似高深的引擎,底层不过是这几条经过百年打磨的数值链…

复杂系统科学深度实战:从元胞自动机、伊辛相变与渗流到无标度网络、洛伦兹吸引子与自组织临界的完整工程链路

复杂系统科学研究由大量简单个体通过局部相互作用涌现出全局秩序的普适规律:临界相变、渗流突变、幂律无标度、确定性混沌与自组织临界。本文用七个可运行的数值实验(元胞自动机、二维伊辛模型、渗流阈值、Barabási–Albert 无标度网络、Gray-Scott 反应扩散图灵斑图、洛伦兹吸引子、Bak–Tang–Wiesenfeld 沙堆)把这套抽象理论落到一个能跑、能量、能复现的工程框架里,并给出它与…

信息论计算实战:从香农熵、互信息与信道容量到霍夫曼编码、汉明纠错与率失真理论的完整工程链路

信息论不是通信工程师的专利,它是所有"从噪声中提取信号、从冗余中压缩信息、从不确定性中做决策"系统的共同数学底座。本文沿着香农 1948 年的原始脉络,把信息论拆成可运行、可验证的工程零件:先建立熵与互信息这套信息度量的"语言",再落地信源编码(霍夫曼)、信道容量(香农极限)、信道编码(汉明纠错)、率失真(有损压缩极限)四条主线,最后把每一块映射回 AI/深度学习——你会发现交叉熵损失、VAE 正…

范畴论深度实战:从范畴、函子与自然变换到单子、Yoneda 引理与 Kleisli 范畴的完整工程链路

范畴论常被误读为"抽象代数之上的另一层抽象",但它的真正价值在于提供一套描述"结构如何被保持、计算如何被组合"的通用语言。本文用纯 Python 从零实现范畴、函子、自然变换、单子与 Yoneda 引理,并逐条用代码验证代数定律,最后落到它与深度学习、Agent 工作流的工程映射。

量子化学计算实战:从 Hückel 分子轨道、Hartree-Fock 自洽场到密度泛函与 Kohn-Sham 的完整工程链路

量子化学是用量子力学求解分子体系电子结构的学科。对习惯"矩阵、特征值、迭代优化"的 AI/ML 工程师而言,它的数学骨架异常熟悉:分子哈密顿量是一张大稀疏矩阵,波函数是它的特征向量,而 Hartree-Fock 自洽场(SCF)本质上就是**不动点迭代**——和训练一个网络求参数不动点同构。本文用可运行代码把三条主干链路从头实现一遍,所有数值都与教科书/文献精确吻合。

计算神经科学深度实战:从 Hodgkin-Huxley 离子通道与漏积分发放神经元到脉冲编码、STDP 可塑性与群体解码的完整工程链路

计算神经科学(Computational Neuroscience)是架在生物学与计算科学之间的一座桥:它用可运行的数学模型回答"一个由几亿到上千亿个神经元构成的网络,如何完成感知、记忆、决策与运动"这一根本问题。它既是现代神经科学的方法论内核,也是今天深度学习的隐秘源头——感知机、Hebb 学习、脉冲神经网络、神经形态计算,乃至注意力与集成编码,都能在生物神经元的动力学里找到原型。本文用一条"生…

运筹优化与线性规划深度实战:从单纯形法、对偶理论与最大流到整数规划与分支定界的完整工程链路

运筹优化(Operations Research)是工程世界里"在约束下求最优"的一门硬科学:给定有限的资源、成排的不等式约束和一个要最大化的目标,它告诉你每个变量该取多少。它既是最古老的数学规划分支之一,也是今天 AI 系统与分布式基础设施的隐形骨架——推理集群的批处理调度受显存与时延约束、微服务网格的流量工程受链路容量约束、训练编排的资源分配受节点槽位约束,这些本质上都是线性规划或整数规划。本…

控制论深度实战:从维纳反馈回路与阿什比必要多样性定律到 AI 自指系统与主动推断的完整工程链路

控制论(Cybernetics)是研究"动物与机器中控制与通信"的科学,由诺伯特·维纳(Norbert Wiener)在 1948 年《Cybernetics: Or Control and Communication in the Animal and the Machine》中奠基。它既是反馈调节的数学语言,也是人工智能的隐秘祖先——神经网络、强化学习、主动推断与大模型对齐,本质上都是控制论思…

博弈论计算实战:从 Minimax 与纳什均衡到 MCTS 与机制设计的完整工程链路

博弈论不是经济学家的专利。当你训练一个 GAN、构造一个对抗样本、让两个智能体在环境中博弈、或者用 RLHF 把大模型对齐到人类偏好时,你正在求解一个博弈。本文给出从形式化建模、经典算法(Minimax/Alpha-Beta、纳什均衡计算、MCTS)到机制设计(Vickrey 拍卖、激励兼容)的一条可运行工程链路,所有核心算法都附可执行的 Python 实现,并落到 AI 场景(GAN、对抗鲁棒性…