复杂的,时间演变的现象,从气候到大脑活动,由动态系统(DS)控制。 DS重建(DSR)试图从观察到的数据中推断出这些模型的生成代理模型,再现它们的长期行为。 现有的DSR方法需要对观察到的任何新系统进行目的培训,缺乏LLM已知的零射门和上下文推理能力。 在这里,我们介绍了DynaMix,这是一种为DSR预训练的新型多变量ALRNN专家组合架构,这是第一个能够将零镜头初始化为域外DS的DSR模型。 仅仅从提供的背景信号来看,没有任何再训练,DynaMix忠实地预测了新型DS的长期演变,其中现有的时间序列(TS)基础模型(如Chronos)失败 - 参数数量的一小部分和数量级的推理时间更快。 DynaMix在长期统计方面优于TS基础模型,并且通常也优于短期预测,即使在现实世界的时间序列上,如流量或天气数据,通常用于训练和评估TS模型,但不包括DynaMix训练语料库的所有部分。 我们说明了 TS 模型针对 DSR 问题的一些故障模式,并得出结论,基于 DS 原理的模型可能具有巨大的潜力,也可以用于推进 TS 预测领域。
我们提出了具有Toeplitz矩阵形式的可学习参数的深入库普曼分层模型,用于分析时间序列数据动态的过渡。 提出的模型具有理论的坚固性和灵活性。 由于Toeplitz矩阵的通用属性和模型背后的繁殖属性,我们展示了它的普遍性和概括性属性。 此外,建议的模型的灵活性使模型能够适应来自非自主动态系统的时间序列数据。 在训练模型时,我们将Krylov子空间方法应用于高效计算,该方法在库普曼运算符和数值线性代数之间建立了新的连接。 我们还从经验上证明,拟议的模型优于非自主系统多个库普曼运算符的特征值估计的现有方法。
深度选择性状态空间模型(SSM)以输入依赖性、时间变化的参数为特征,具有显著的表达能力,但对稳定性分析提出了挑战,特别是不连续的闸门信号。 在本文中,我们通过被动性和输入状态稳定性(ISS)的镜头研究了连续时间选择性SSM的稳定性和规律性。 我们确定内在的能量耗散保证了过去状态的指数式遗忘。 至关重要的是,我们证明非受迫系统动力学具有底层最小二次能量函数,其定义矩阵表现出强大的AUC_loc规律性,容纳不连续的闸门。 此外,假设通用二次存储函数可确保所有输入的被动性,我们得出参数化的LMI条件和内核约束,这些限制闸门机制,使循环模型的“不可逆转的遗忘”形式化。 最后,我们为全球国际空间站提供了充分的条件,将均匀的局部分散性与整个系统的稳健性联系起来。 我们的研究结果为理解和设计稳定可靠的深度选择性SSM提供了严格的框架。
在本文中,我们研究(a)同步对基本细胞自动机动力学的影响。 在我们的研究框架内,我们选择了五个不同的更新方案,从定期更新模式的家族中选择:并行、顺序、块顺序、块并行和本地时钟。 我们衡量复杂性的主要尺度是每个规则动力学中极限周期的最大周期。 在这方面,我们介绍了非洲经委会规则格局的分类。 我们将最基本的规则分为三种不同的制度:常数、线性和超多项式。 令人惊讶的是,虽然有些规则在更广泛的更新方案下表现出更复杂的行为,但其他规则在所有考虑的更新方案中表现出类似的行为。 尽管我们能够在大多数情况下在极限周期的最大周期内得出上限和下限,但对一些规则的分析仍然开放。 为了补充88基本规则的研究,我们引入了基于两个主要测量的数值模拟框架:配置的能量和密度。 在这种情况下,我们观察到一些规则根据更新方案表现出显着的可变性,而另一些规则保持稳定,证实了在理论分析中获得的分类所观察到的结果。
对Z类不同组的亚移的研究,如Z^d,d≥2,近年来一直是深入研究的主题。 这些调查揭示了动力学和递归理论之间的显著联系。 关于这些系统动态的不同问题已经用递归理论术语回答。 在这项工作中,我们进一步探索了这种联系。 我们使用可计算分析框架来探索公制空间上有效的动态系统类别,并将这些系统与有限类型(SFT)在组上的子移位联系起来。 我们证明,一般公制空间上的每一个有效的动力系统都是拓扑尺寸为零的有效动力学系统的拓扑因素。 我们将这一结果与现有的模拟结果相结合,以获得作为SFTs因素的系统的新示例 我们还研究一种称为Medvedev度的组子移的共轭不变性。 这种不变性是算法性质的复杂性度量。 我们为任意有限生成组的子移位开发这些度的基本理论。 使用这些工具,我们能够对SFT和几个组上的其他子移类的这种不变值进行排序。 此外,我们建立了这些度与所有子移空间中隔离点的分布之间的联系。 在研究梅德韦杰夫亚移位度的激励下,我们还考虑了图形上的组的翻译类动作。 我们证明每个连接的、局部的有限和无限图形都承认Z的翻译,并且当图形有一两个端时,这个动作可以完全选择过渡。 这概括了 Seward 关于 Z 在有限生成的组上的翻译类操作的结果。
我们证明了一个叠加定理,用于广泛类别的非线性无限维系统的输入到输出稳定性(IOS),输出包括连续时间和离散时间系统。 它包含,作为一个特例,叠加定理的输入状态稳定性(ISS)的无限维系统和IOS叠加定理从文献中已知的普通微分方程的系统。 为了实现这一结果,我们介绍了并研究了具有输出的无限维系统的几个新颖的稳定性和吸引力概念:我们证明了具有输出的系统的统一极限属性的标准,其中几个对于具有全态输出的系统已经是新的,我们为满足输出拉格朗日稳定性(OL)和IOS的系统提供了叠加定理,为OL提供了足够的条件,并在IOS和输入/输出到状态稳定性方面表征了ISS。 最后,通过反例,我们说明了叠加定理从文献扩展到具有输出的无限维系统的方式上遇到的挑战。
通过深度学习预测多尺度混沌动力学系统仍然是一个艰巨的挑战,这是由于神经网络的光谱偏差,这阻碍了长期预测中精细尺度结构的准确表示。 当模型自动递归时,这个问题会加剧,导致错误和不稳定。 在这项工作中,我们引入了一种新的方法来减轻光谱偏差,我们称之为Binned Spectral Power(BSP)损失。 BSP损失是一种频率域损失函数,自适应地权衡预测数据集中较大和较小的错误。 与专注于点错位的传统损失不同,我们的BSP损失明确惩罚不同尺度的能量分布偏差,促进稳定和物理一致的预测。 我们证明BSP损失减轻了深度学习中众所周知的光谱偏差问题。 我们进一步验证了数据驱动的高维时间序列预测的方法,即一系列基准混沌系统,这些系统通常由于光谱偏差而难以解决。 我们的结果表明,BSP损失显着提高了神经预测模型的稳定性和光谱精度,而无需进行架构修改。 通过直接定位光谱一致性,我们的方法为更稳健的深度学习模型铺平了道路,用于对混沌动态系统进行长期预测。
多体机械系统具有丰富的内部动力学,可以利用来制定高效的控制目标。 对于机器人应用中的定期调节任务,这促使非线性正常模式理论扩展到黎曼流形,并导致Eigenmanfolds的定义。 这个定义是几何的,这对机器人技术中的通用性有利,但也掩盖了Eigenmanfolds与非线性动力学文献的大量结果的联系。 我们弥合了这一差距,表明Eigenmanfolds是Lyapinov亚中心流形(LSM)的实例,并且它们相对于LSM的更强的几何特性来自保守机械系统的时间对称性。 这直接导致Eigenmanfolds的局部存在和独特性结果。 此外,我们表明,额外的空间对称性为Eigenmanfolds提供了罗森堡流形的更强特性,这对于控制应用是有利的,并且我们为其存在和独特性提供了足够的条件。 这些理论结果在两个具有非恒定惯性张量的机械系统上得到数值证实:双钟摆和5连挂钟。
对等元素的几何解释与欧几里得3空间的正交旋转和姿态动力学有关。 在等式元素和经典罗德里格斯参数之间进行鉴定。 使用修改的罗德里格斯参数开发了一组新的等元素,从而消除了这些元素以前版本中存在的逆行赤道轨道的坐标奇点。 与前身相比,使用新元素对两点边界问题的收敛进行数值验证收敛,从而设置了一个低推力轨迹优化问题。
这项研究介绍了使用Neurochaos Learning(NL)的新型增强回归模型,其中来自Neurochaos Learning框架的Tracemean特征与传统回归算法集成:线性回归,岭回归,拉索回归和支持矢量回归(SVR)。 我们的方法使用十个不同的现实生活数据集和表单的合成生成数据集y = mx + c + ε进行了评估。 结果表明,结合Tracemean特征(NL架构中神经元的混乱神经痕迹的平均值)显着增强了回归性能,特别是在Augmented Lasso Regression和Augmented SVR中,其中10个现实生活数据集中有6个显示出更高的预测准确性。 在模型中,Augmented Chaotic Ridge Regression实现了最高的平均性能提升(11.35数据集表明,随着样本量增加,增强模型的平均平方误差(MSE)持续下降并收敛到最小平均正方形误差(MMSE)。 这项工作展示了回归任务中混沌启发的特征的潜力,为更准确和计算高效的预测模型提供了途径。
疫苗犹豫的兴起导致麻疹和百日咳等疫苗可预防疾病的死灰复燃,同时对COVID-19疫苗接种的普遍怀疑和拒绝。 虽然将个人分类为支持或反对疫苗提供了疫苗态度的方便二分法,但疫苗犹豫要复杂得多,动态性。 它涉及态度波动的摇摆人 - 那些可能同时表现出支持疫苗态度的人和另一种反疫苗态度的人。 在这里,我们通过利用已知的亲vax和抗vax Twitter用户的数据集(n =1.35亿)和一个大型COVID-19 Twitter数据集(n = 35亿;包括对1,563,472个独特个体的密切分析)来识别和分析多色感染作为干预的潜在目标。 我们使用顶级共同传播问题重建了一个不断发展的多路性情绪景观,根据它们与疫苗接种的概念重叠,将它们定性为单色和多色传染。 我们展示切换器是深思熟虑的:它们更温和,参与更广泛的主题,并在其网络中占据更多中心位置。 对他们的信息消费的进一步审查表明,他们的话语经常涉及进步问题,如气候变化,这可以作为多色传染干预的途径,以促进支持疫苗的态度。 使用数据驱动的干预模拟,我们展示了利基连接的悖论,其中多铬与碎片化,非重叠的社区产生最高级别的扩散,支持疫苗的态度。 我们的工作提供了利用多铬传染的协同搭便车效应的见解,以推动基于网络的干预中所需的态度和行为变化,特别是克服疫苗犹豫。
神经科学和机器学习的快速发展已经建立了数据驱动的随机动力学系统建模,作为理解和控制高维时空过程的强大工具。 我们引入了随机的下一代存储库计算(NG-RC)控制器,该框架将NG-RC的计算效率与随机分析集成在一起,以便在多尺度随机系统中实现强大的事件触发控制。 控制器的渐近稳定性通过扩展的随机LaSalle定理得到了严格的证明,为非线性随机动力学的振幅调节提供了理论保证。 受添加剂和乘法噪声的随机范德波尔系统上的数值实验验证了该算法,证明了其在不同时间尺度和噪声强度上的收敛率。 为了将理论见解与现实世界的应用联系起来,我们部署了控制器来调节从癫痫脑EG数据重建的病理动力学。 这项工作推进了一个理论上保证的可扩展框架,用于对随机系统的自适应控制,在工程,神经科学和超越方面具有广泛的数据驱动决策潜力。
从时间依赖的数据样本中模拟概率分布的连续时间动态是许多领域的基本问题,包括数字健康。 目的是分析生物标志物(如葡萄糖)的分布如何随着时间的推移而演变,以及这些变化如何反映糖尿病等慢性疾病的进展。 在本文中,我们提出了一种新的概率模型,该模型基于高斯分布的混合物,以捕获来自连续时间随机过程的样品如何随着时间的推移而演变。 为了模拟潜在的分布随着时间的推移而变化,我们引入了一个时间依赖性函数,该函数由神经普通微分方程(Neural ODE)参数化,并使用最大平均判别(MMD)进行非参数估计。 拟议的模型是高度可解释的,可以检测微妙的时间变化,并保持计算效率。 通过模拟研究,我们表明它在估计精度方面与最先进的,可解释性较低的方法(如标准化梯度流和非参数内核密度估计器)的性能具有竞争力。 最后,我们展示了我们的方法在数字临床试验数据上的效用,展示了干预措施如何改变葡萄糖水平的时间依赖性分布,并从新的数学和临床角度对对照组进行了严格的比较。
Hopfield模型提供了一个数学上理想化但有见地的框架,用于理解人类大脑中的记忆存储和检索机制。 这种模式启发了四十年来对学习和检索动力学,容量估计和记忆之间的顺序转换的广泛研究。 值得注意的是,外部输入的作用和影响在很大程度上未被充分探索,从对神经动力学的影响到它们如何促进有效的记忆检索。 为了弥补这一差距,我们提出了一种新的动态系统框架,其中外部输入直接影响神经突触并塑造霍普菲尔德模型的能量景观。 这种基于可塑性的机制为内存检索过程提供了清晰的能量解释,并证明对高度混合的输入进行正确分类是有效的。 此外,我们将该模型集成到现代Hopfield架构的框架内,使用此连接来阐明当前和过去的信息在检索过程中如何组合。 最后,我们将经典和新模型嵌入到被噪声破坏的环境中,并比较其在内存检索过程中的稳健性。
神经普通微分方程(Neural ODEs)是残余神经网络(ResNets)的连续时间模拟,近年来引起了人们的关注。 同样,神经延迟差分方程(Neural DDEs)可以解释为密集连接残余神经网络(DenseResNets)的无限深度限制。 与传统 ResNet 架构相比,DenseResNets 是前馈网络,允许跨所有层的快捷连接。 这些额外的连接在网络架构中引入了内存,这在许多现代架构中是典型的。 在这项工作中,我们探讨了神经DDE中的记忆容量如何影响通用近似属性。 研究内存容量的关键参数是Lipschitz常数的K τ产品和DDE的延迟。 在非增强型架构的情况下,网络宽度不大于输入和输出维度,神经ODE和经典的前馈神经网络不能具有通用近似属性。 我们表明,如果记忆容量 Kτ 足够小,神经 DDE 的动力学可以通过神经 ODE 近似。 因此,内存容量小的非增强神经DDE也缺乏通用近似特性。 相反,如果内存容量 Kτ 足够大,我们可以建立神经 DDE 的通用近似属性,用于连续函数。 如果神经 DDE 架构被增强,我们可以扩展通用近似的参数区域。 总体而言,我们的结果表明,通过增加内存容量Kτ,具有正延迟 τ>0 的DDE的无限维相位空间不足以保证直接跳跃过渡到通用近似,但仅在一定内存阈值后,通用近似成立。
在本文中,我们根据观察到的轨迹数据研究了Motsch-Tadmor模型中非对称相互作用内核的数据驱动识别。 正在考虑的模型由一类半线性演化方程控制,其中相互作用内核定义了一个规范化的、状态依赖的拉普拉西亚运算符,该运算符管理集体动力学。 为了解决由此产生的非线性反向问题,我们提出了一个变体框架,该框架使用管辖方程的隐式形式重新制定内核标识,将其减少到子空间识别问题。 我们建立了一个可识别结果,该结果表征了交互内核可以独特地恢复到规模的条件。 为了有力地解决逆向问题,我们开发了一种稀疏的贝叶斯学习算法,该算法包含用于正则化的信息先验,量化不确定性,并实现原则性模型选择。 对具有代表性的相互作用粒子系统进行广泛的数值实验,证明了拟议框架在一系列噪声水平和数据机制中的准确、稳健性和可解释性。
注意力机制在人工智能中被广泛用于增强性能和可解释性。 在本文中,我们研究了其在模拟经典动力系统方面的效用 - 特别是嘈杂的捕食者捕食者(Lotka-Volterra)系统。 我们在扰动的时间序列数据上训练一个简单的线性注意力模型来重建系统轨迹。 值得注意的是,学习的注意力权重与Lyapunov函数的几何结构一致:高注意力对应于平坦的区域(扰动的影响较小),低注意力与陡峭区域一致(扰动影响较大)。 我们进一步证明,基于注意力的加权可以作为灵敏度分析的代理,在没有明确系统方程知识的情况下捕获关键相位空间属性。 这些结果表明,人工智能衍生的关注新颖地用于可解释的、数据驱动的非线性系统分析和控制。 例如,我们的框架可以支持昼夜节律的生物建模和动态环境的可解释机器学习的未来工作。
我们介绍了Latent Diffeomorphic Dynamic Mode Decomposition(LDDMD),这是一种用于分析非线性系统的新数据还原方法,将动态模式分解(DMD)的可解释性与递归神经网络(RNN)的预测能力相结合。 值得注意的是,LDDMD保持简单,增强了可解释性,同时有效地建模和学习具有内存的复杂非线性系统,从而实现准确的预测。 这体现在其在流流预测中的成功应用。
建设道德机器可能涉及赋予他们自我评估和忏悔自己的情感能力。 虽然道歉代表了潜在的战略互动,但内疚作为一种行为特征的明确演变仍然知之甚少。 我们的研究深入研究了两种形式情感内疚的共同演变:社会内疚需要成本,要求代理人努力理解他人的内部状态和行为;非社会内疚,只涉及对自己的状态的认识,不会产生社会成本。 从进化博弈论中汲取方法,我们通过分析性研究,并通过广泛的基于数值和基于代理的模拟,内疚是否以及如何进化和部署,这取决于代理系统的底层结构。 我们的研究结果表明,在格子和无规模网络中,与非结构混合的人群相比,有利于情绪内疚的策略在更广泛的内疚和社会成本中占主导地位,因此导致更高水平的合作。 在结构化人群中,社会和非社会内疚可以通过与情感倾向的策略相结合而茁壮成长,从而为剥削者提供保护,特别是对于成本较低的非社会策略。 这些见解揭示了内疚与合作的复杂相互作用,增强了我们对道德人工智能的理解。
为了评估随机动力系统 (SDSs) 概率预测的质量，评分规则会根据预测分布和测量状态分配一个数值分数。在本文中，我们提出了一种 ϵ-对数评分，它通过考虑半径为 ϵ 的邻域来推广著名的对数评分。我们通过优化概率测度空间上的期望分数来表征 SDS 的概率可预测性。我们表明概率可预测性是由邻域半径、过程噪声的微分熵和系统维度量化决定的。对于任何预测器，我们提供了期望分数的近似值，误差为 𝒪(ϵ)。除了期望分数外，我们还分析了分数在单个轨迹上的渐近行为。具体来说，我们证明了当过程噪声独立同分布时，轨迹上的分数可以收敛到期望分数。此外，相对于轨迹长度 T 的收敛速度在概率意义上为 𝒪(T^-1/2)。最后，给出了数值示例来阐述结果。
