离线增强学习(RL)旨在根据历史数据改善目标政策而不是行为政策。离线RL的一个主要问题是分配转移导致Q值估计的分布转移。大多数现有的作品都集中在行为克隆(BC)或最大化Q学习方法以抑制分布转移。BC方法试图通过将目标策略限制为离线数据来减轻转移,但它使学习的策略高度保守。另一方面,最大化Q学习方法采用悲观的机制来通过根据动作的不确定性来最大化Q值和惩罚Q值来产生动作。但是,生成的措施可能是算法的,从而导致预测的Q值高度不确定,这反过来又将误导该策略以生成下一个动作。为了减轻分配转移的不利影响,我们建议通过统一Q学习和行为克隆以应对探索和剥削难题来隐含和明确地限制政策。对于隐式约束方法,我们建议通过致力于使目标策略和行为策略的行动无法区分的生成对抗网络统一行动空间。对于显式约束方法,我们会提出多重重要性采样(MIS),以了解每个状态行动对的优势权重,然后将其用于抑制或充分使用每个状态行动对。D4RL数据集上的广泛实验表明,我们的方法可以实现出色的性能。MAZE2D数据上的结果表明,MIS与单个重要性采样更好地解决了异质数据。我们还发现MIS可以有效地稳定奖励曲线。关键字:Q学习,行为克隆,悲观机制,多重重要性采样。
- 培训语言模型以人为反馈的指示 - 直接偏好优化:您的语言模型是秘密的奖励模型 - 精细的人类反馈为语言模型培训提供了更好的奖励 - 开放问题和从人类反馈>的强化基本限制
两种常见的顺序决策方法是人工智能规划 (AIP) 和强化学习 (RL)。每种方法都有优点和缺点。AIP 具有可解释性,易于与符号知识集成,并且通常很高效,但需要预先指定逻辑域,并且对噪声敏感;RL 只需要指定奖励,并且对噪声具有鲁棒性,但样本效率低下,不易获得外部知识。我们提出了一种将高级规划与 RL 相结合的综合方法,保留了可解释性、迁移和效率,同时允许对低级规划操作进行鲁棒学习。我们的方法通过在 AI 规划问题的状态转换模型和马尔可夫决策过程 (MDP) 的抽象状态转换系统之间建立对应关系,从 AIP 运算符定义分层强化学习 (HRL) 中的选项。通过添加内在奖励来学习选项,以鼓励 MDP 和 AIP 转换模型之间的一致性。我们通过比较 MiniGrid 和 N 室环境中 RL 和 HRL 算法的性能来展示我们的集成方法的优势,展示了我们的方法相对于现有方法的优势。
[1] R. Sutton和A. Barto,《加固学习简介》,麻省理工学院出版社,1998年。[2] C. Szepesvari,《增强学习算法》,Morgan&Claypool Publishers,2010年。[3] C. Watkins,从延迟的奖励中学习,博士学位论文,剑桥大学,英格兰,1989年。[4] M. Wiering和M. Van Otterlo,加固学习:最新的ART,Springer,2014年。[5] M. Puterman,马尔可夫决策过程:离散随机动态编程,Wiley,1994年。[6] D. P. Bertsekas,动态编程和最佳控制,第一卷和II,雅典娜科学,2017年。[7] W. B. Powell,近似动态编程,Wiley,2011年。[8]选定的纸
我们考虑在马尔可夫决策过程中学习,在马尔可夫决策过程中,我们没有明确地赋予重新功能,但是我们可以在这里遵守专家,以展示我们想学习的任务。此设置在应用程序(例如驾驶任务)中很有用,很难写下明确的奖励功能,以准确地指定应如何交易不同的desiderata。我们认为专家试图最大程度地发挥奖励功能,该奖励功能可作为已知功能的线性组合,并给出了一种学习专家所展示的任务的算法。我们的al-gorithm基于使用“逆增强学习”来试图恢复未知的奖励功能。我们表明,我们的算法终止了少数迭代,即使我们可能永远无法恢复专家的奖励功能,算法的策略也将达到与专家接近的绩效,在此,在此,相对于Expt exptt的未知奖励函数,在这里可以衡量。
为了优化激光诱导的石墨烯(LIG)JANUS膜,本研究研究了膜孔结构,聚二甲基硅氧烷(PDMS)涂层序列以及银(AG)纳米颗粒对膜蒸馏(MD)性能的影响。这项研究旨在增强石墨烯的光热特性,同时使用固有的电导率进行同时照相和电热MD。在相同的照片和电热功率输入中操作,lig janus membrane用较小的毛孔(即闪亮的一面)处理膜面部的膜膜,可改善53.6%的透气性能,并降低特定能量的特定能量35.4%,而与膜相比,用较大的毛孔(i.e.e.e.e.e.e.e.e.e.e)来治疗膜面孔。PDMS涂层序列的效果也取决于孔结构。对于具有较小孔结构的面部,激光照射前的涂层PDM(PDMS-BLSS)与激光照射后的涂层PDMS相比,与涂层PDMS相比,磁通量的提高高达24.5%,特异性能量降低了19.7%(PDMS-ALS)。至于孔结构较大的面部,激光照射前的涂层PDM(PDMS-BLDS)导致与辐照后涂层PDMS相比,与涂层PDMS相比,通量降低高达20.8%,比能量增加了27.1%(PDMS-ALDS)。带有Ag纳米颗粒的LIG JANUS膜导致光热特性提高,将通量提高43.1 - 65.8%,并使特定能量降低15.2 - 30.5%,同时维持相似的电热热特性。进行同时进行照相和电热量MD表明,只有Ag掺杂的Janus Lig膜产生协同作用,从而使组合加热模式的通量高于在单个加热模式下运行时获得的通量的求和。
Bozorgmehry Boozarjomehry,G。(2025)。通过模仿学习和强化学习工程设计自动化(硕士论文,加拿大卡尔加里大学,卡尔加里大学)。从https://prism.ucalgary.ca检索。
