我们并不理解算法层面的神经网络
尽管神经网络在实践领域取得了巨大成功，但我们对它们在算法层面的运作方式仍然缺乏深入理解。文章探讨了当前神经科学和机器学习研究中的一个根本性空缺：我们能够看到神经元活动模式，也能训练网络完成复杂任务，却无法将这两者之间建立起清晰的算法级解释。这种理解上的鸿沟不仅限制了基础科学进展，也阻碍了模型的可解释性和安全性发展。
背景速读
一位资深编译器工程师（Alon Zakai，LLVM/Binaryen/Maintainer of Emscripten）写的科普博文。核心观点：虽然我们对神经网络在**硬件/物理实现**（芯片、神经元）和**代码/训练流程**层面已经很熟悉，但在**算法层面**——即网络内部到底在执行什么计算步骤、数据如何变换——目前理解非常有限。
- 背景：计算机科学常按"硬件→算法→软件"三层理解系统。对传统程序，算法层清晰（如排序算法）。对神经网络，我们只知道输入输出和训练方式，却说不清中间层（hidden layers）到底在跑什么"算法"。
- 关键类比：知道CPU指令如何执行（硬件层）、会用Python写神经网络（软件层），但无法用数学或伪代码描述网络内部的"算法步骤"——这就像知道如何造计算机却写不出排序算法。
- 意义：这种理解缺失阻碍了可解释性（explainability）、安全性和可靠改进。作者认为这是AI研究最被忽视的盲区之一。