我们提出了一种方案,利用数值“精确”分层运动方程 (HEOM) 中的准静态亥姆霍兹能量,评估在时间相关外力作用下与热浴耦合的系统的热力学变量。我们计算了不同温度下与非马尔可夫热浴强耦合的自旋系统产生的熵。我们表明,当外部扰动的变化足够缓慢时,系统总会达到热平衡。因此,我们基于 HEOM 计算了等温过程的玻尔兹曼熵和冯诺依曼熵,以及准静态平衡系统的各种热力学变量,例如内部能量、热量和功的变化。我们发现,尽管玻尔兹曼和冯诺依曼情况下的系统熵作为系统-浴耦合强度的函数的特征相似,但总熵产生的特征完全不同。在玻尔兹曼情况下,总熵产生总是正的,而在冯·诺依曼情况下,如果我们选择整个系统的热平衡状态(未分解的热平衡状态)作为初始状态,则总熵产生为负。这是因为冯·诺依曼情况下的总熵产生没有适当考虑系统-浴相互作用的熵贡献。因此,必须使用玻尔兹曼熵来研究完全量子状态下的熵产生。最后,我们检查了 Jarzynski 等式的适用性。
摘要 —本文讨论了新兴的非冯·诺依曼计算机架构及其在计算连续体中的集成,以支持现代分布式应用,包括人工智能、大数据和科学计算。它详细总结了现有和新兴的非冯·诺依曼架构,范围从节能的单板加速器到量子和神经形态计算机。此外,它还探讨了它们在各种社会、科学和工业领域彻底改变数据处理和分析方面的潜在优势。本文对最广泛使用的分布式应用程序进行了详细分析,并讨论了它们在计算连续体中执行的困难,包括通信、互操作性、编排和可持续性问题。
脉冲神经网络的通用模拟代码大部分时间都处于脉冲到达计算节点并需要传送到目标神经元的阶段。这些脉冲是在通信步骤之间的最后一个间隔内由分布在许多计算节点上的源神经元发出的,并且相对于其目标而言本质上是不规则的和无序的。为了找到这些目标,需要将脉冲发送到三维数据结构,并在途中决定目标线程和突触类型。随着网络规模的扩大,计算节点从越来越多的不同源神经元接收脉冲,直到极限情况下计算节点上的每个突触都有一个唯一的源。在这里,我们通过分析展示了这种稀疏性是如何在从十万到十亿个神经元的实际相关网络规模范围内出现的。通过分析生产代码,我们研究了算法更改的机会,以避免间接和分支。每个线程都承载着计算节点上相等份额的神经元。在原始算法中,所有线程都会搜索所有脉冲以挑选出相关的脉冲。随着网络规模的增加,命中率保持不变,但绝对拒绝次数会增加。我们的新替代算法将脉冲均匀地分配给线程,并立即根据目标线程和突触类型对它们进行并行排序。此后,每个线程仅完成向其自身神经元的脉冲部分的传递。无论线程数如何,所有脉冲都只被查看两次。新算法将脉冲传递中的指令数量减半,从而将模拟时间缩短了 40%。因此,脉冲传递是一个完全可并行的过程,具有单个同步点,因此非常适合多核系统。我们的分析表明,进一步的进展需要减少指令在访问内存时遇到的延迟。该研究为探索延迟隐藏方法(如软件流水线和软件诱导预取)奠定了基础。
令 H 为有限维希尔伯特空间,B(H)为作用于 H 的有界算子空间。密度算子ρ∈B(H)(在量子信息论文献中称为量子系统 H 上的状态)为正,迹为1。量子系统之间的动力学通过完全正迹保持映射(也称为量子通道)建模,该映射将密度算子映射到密度算子。对于张量积希尔伯特空间 HA ⊗HB 上的两个二分密度算子ρ和σ,如果存在线性完全正迹保持(CPTP)映射Φ:B(HB) → B(HB),使得σ=id⊗Φ(ρ),则称σ被ρ量子优化。这一概念已在不同背景下以各种形式进行了研究[23,4,3,2,16]。直观地看,量子主导化描述了从 B 系统观察到的无序性。这可以从条件熵的数据处理不等式 H ( A | B ) 中看出,
1A COSTANZO ANGELO DI VITA GIORGIA LOPEZ DIEGO MAIO NICOLO' VENTURA FEDERICO 1B ABRAMO FRANCESCO GRESTA NICOLO' LEONARDI ALFIO MUSUMECI FRANCESCO PARISI ANDREA 1C IMBROSCIANO GIULIA PERDICARO FABRIZIO SCALIA DARIO SIRACUSA FRANCESCO 1D CALTABIANO DAMIANO COCO GIUSEPPE FRANCESCO JUROR FRANCESCO NUNZIO MARANO ANDREA
类脑计算是借鉴脑科学基本原理,打破 “ 冯诺依曼 ” 架构束缚的新型计算技术。本研究组将从理论和器件两个方向对类脑计算展开协同 研究。 理论方面:研究类脑计算架构、模型和算法,探索基于类脑计算的类脑智能的基础理论;借鉴神经元模型、神经环路传导、神经编码 及认知、学习、记忆、决策等神经机制,逐步建立和完善类脑处理信息处理的数学 / 计算原理和模型;构建类脑计算和智能的统一理论 框架。为类脑计算器件及系统的发展提供理论基础。 器件方面:基于新材料和新技术,研究新型高性能类脑神经器件,解决一致性差、可靠性差、规模化难等痛点;研究基于类脑神经器 件的网络架构,构建大规模阵列,开展外围电路的研发与设计;研究基于新型类脑器件的感知和计算架构,发展感存、存算、感存算 一体系统。
细胞自动机 (CA) 是数学的一个分支,它探索控制自主单元(称为细胞)行为的简单规则如何导致复杂的突发模式。计算领域的先驱约翰·冯·诺依曼在 CA 的发展中发挥了重要作用。尽管冯·诺依曼以现代计算机的基础架构(“冯·诺依曼架构”)而闻名,但他晚年对 CA 着迷不已。他死后出版的著作《计算机与大脑》深入探讨了他对简单、分散的规则如何产生类似于生物过程的智能行为的思考。
人们普遍认为,现代计算机本身就是一台思维机器,它处在即将被冠以控制论的丰富内容之中,这一点比人们通常认为的要多得多。现代计算机的基本架构以从可寻址高速存储器中检索数字编码指令为中心,最早在约翰·冯·诺依曼的《EDVAC 报告初稿》中描述。冯·诺依曼在 1945 年初撰写这份材料时,正忙于与一个试图成立“目的论学会”的团体进行讨论,以探索生物体和机器实质上等同的激进思想。冯·诺依曼用生物学术语“神经元”描述了数字计算机逻辑的构建块,后来被称为门。这一说法受到沃伦·麦卡洛克和沃尔特·皮茨工作的启发,他们断言,真正的神经元就像二进制开关一样工作,因此在功能上等同于图灵机和形式逻辑中表达的语句。冯·诺依曼进一步利用生物学隐喻,将他计划中的计算机的组成部分称为器官,将其内部存储单元称为内存。