I. 引言随着火星立方体一号 (MarCO) 任务的成功和小型化技术的进步,小型卫星不再局限于在低地球轨道 (LEO) 运行。相反,通过低推力小型卫星进行深空探索、技术演示和有针对性的科学任务可能很快就会成为现实。事实上,即将到来的任务,如月球冰立方、LunaH-map 和 NEA Scout,将把小型卫星作为次要有效载荷搭载在 Artemis 1 上,部署到多体重力环境内的各种位置[1-3]。然而,混沌多体系统中航天器的轨迹和机动设计本质上是一个高维问题,而且由于结合了与低推力小型卫星相关的约束而变得更加复杂:有限的推进能力、运行调度约束以及固定但不确定的初始条件。虽然存在多种基于最优控制和动态系统理论 (DST) 的数值方法,用于在多体系统的近似动力学模型中构建低推力轨迹和机动剖面,但自主和稳健设计策略的开发需要一种替代方法。强化学习 (RL) 是天体动力学界越来越感兴趣的一类用于实现轨迹和机动设计的自主性的算法。RL 算法通常涉及代理与环境交互,通过对动态状态采取行动来最大化奖励函数。代理会探索环境,直到确定了决定每个状态下最佳动作的策略。如果制定得当,这些算法可以探索许多状态-动作对以确定最佳动作,同时限制对次优动作的探索。RL 方法已用于天体动力学中各种应用和动力学模型的轨迹和机动设计。例如,Dachwald 探索使用人工神经网络和进化算法设计配备低推力航天器到水星的转移 [ 4 ]。Das-Stuart、Howell 和 Folta 近期提出的方法利用 RL 和基本动力学结构来设计圆形限制三体问题 (CR3BP) 中周期轨道之间的复杂转移轨迹 [ 5 ]。此外,Scorsoglio、Furfaro、Linares 和 Massari 还使用演员-评论家深度强化学习 (DRL) 方法来开发地月空间近直线轨道航天器的对接机动 [ 6 ]。最近,Miller 和 Linares 应用著名的近端策略优化 (PPO) 算法来设计地月系统中遥远逆行轨道之间的转移,通过 CR3BP 进行建模 [ 7 ]。这些研究的成功为天体动力学界继续探索和扩展 RL 在多体轨迹设计策略中的应用奠定了宝贵的基础。具体来说,本文以这些先前的研究为基础,重点关注实施基于 RL 的轨迹设计方法的一个重要组成部分:制定一个奖励函数,该函数既反映了设计目标,也反映了影响恢复机动轮廓操作可行性的约束。该分析是在低推力 SmallSat 的轨迹设计背景下进行的,以快速访问位于与 CR3BP 中的周期轨道相关的稳定流形上的附近参考轨迹。
COMP 549 受大脑启发的人工智能 3 P - MATH 222、MATH 223 和 MATH 323;或同等学历。 COMP 551*** 应用机器学习 4 P - MATH 323 或 ECSE 205 或同等课程 COMP 559 计算机动画基础 4 P - MATH 222、MATH 223、COMP 206、COMP 250 COMP 562 机器学习理论 4 P - MATH 462 或 COMP 451 或(COMP 551、MATH 222、MATH 223 和 MATH 324)或 ECSE 551。ECSE 310 计算热力学 3 P - ECSE 200、ECSE 205、ECSE 222 ECSE 325 数字系统 3 P - ECSE 324 ECSE 405 天线 3 P - ECSE 206、ECSE 354 ECSE 412 离散时间信号处理 3 P - ECSE 206 ECSE 415介绍。计算机视觉 3 P - ECSE 205,(ECSE 206 或 ECSE 316)ECSE 420 并行计算 3 P - ECSE 427 ECSE 421 嵌入式系统 3 P - ECSE 324 ECSE 422 容错计算 3 P - ECSE 324 和(ECSE 250 或 COMP 250)ECSE 423 光子学基础 3 P - ECSE 354 ECSE 424 人机交互 3 P - (ECSE 324 和 ECSE 250)或(ECSE 324 和 COMP 250)或(COMP 251 和 COMP 273)ECSE 425 计算机架构 3 P - ECSE 324 ECSE 427 操作系统 3 P - (ECSE 324 或 COMP 273)ECSE 430光子器件与系统 3 P - ECSE 354,MIME 262 ECSE 431 VLSI CAD 简介。 3 P - ECSE 324、ECSE 331 ECSE 435 混合信号测试技术 3 P - ECSE 206、ECSE 335 ECSE 436 信号处理硬件 3 P - ECSE 206、ECSE 324、ECSE 325 ECSE 446 真实图像合成 3 P - (ECSE 205 和 ECSE 250)或(ECSE 202 和 ECSE 205 和 COMP 250)ECSE 450 电磁兼容性 3 P - ECSE 222、ECSE 331、(ECSE 353 或 ECSE 354)ECSE 451 EM 传输和辐射 3 P - ECSE 354 ECSE 460 电气设备 3 P - ECSE 464 ECSE 463 * 电力发电 3 P - (ECSE 362 或ECSE 461) ECSE 464 电力系统分析 3 P - ECSE 362 ECSE 465** 电力电子系统 3 P - ECSE 331、ECSE 362 ECSE 466 配电系统 3 P - ECSE 362 ECSE 467 电力通信 3 P - ECSE 464 ECSE 468 电力工业 3 P - ECSE 362 ECSE 469 电力保护 3 P - ECSE 464 ECSE 472 电路仿真和建模基础 3 P - ECSE 206、ECSE 331 ECSE 500 系统数学基础 3 ECSE 501 线性系统 3 C - ECSE 500 或获得讲师许可 ECSE 507 优化与最优控制 3 P - (ECSE 343 或 ECSE 543 或 ECSE 501 或 COMP 540 或获得讲师许可)ECSE 508 多智能体系统 3 P - ECSE 205 或同等学历 ECSE 509 概率与随机信号 2 3 P - (ECSE 206 或 ECSE 316),ECSE 205 ECSE 510 随机系统的过滤与预测 3 P - ECSE 500,ECSE 509 或同等学历 ECSE 516 非线性和混合控制系统 3 P - ECSE 500,ECSE 501 或同等学历 ECSE 519 半导体纳米结构与纳米光子器件 3 P - ECSE 354,(ECSE 433 或 ECSE 533) ECSE 521 数字通信 1 3 P - ECSE 408;C- ECSE 509 ECSE 526 人工智能 3 P - ECSE 324 ECSE 532 计算机图形学 4 P - ECSE 324 ECSE 543 电气工程中的数值方法 3 P - ECSE 324、ECSE 331、ECSE 251 ECSE 544 计算摄影 4 P - ECSE 205 和(ECSE 206 或 ECSE 316)ECSE 551*** 工程师机器学习 4 P - (ECSE 250 或 COMP 250)和(ECSE 205 或 MATH 323); C- ECSE 343 或 ECSE 543 或 MATH 247 ECSE 552 深度学习 4 P - (ECSE 551 或 COMP 551) ECSE 554 应用机器人 4 P - ECSE 205、COMP 206、ECSE 250 和(ECSE 343 或 MATH 247)或同等学历。 ECSE 556 网络生物学中的机器学习 4 ECSE 557 自主智能系统伦理学简介 3 P - (ECSE 202 或 ECSE 250 或 COMP 250)和(ECSE 205 或 MATH 323)或经讲师许可; C - COMP 451 或 COMP 551 或 ECSE 551 或经讲师许可
COMP 370 数据科学概论 3 P - COMP 206, COMP 250 或 ECSE 250 COMP 549 脑启发人工智能 3 P - MATH 222, MATH 223, MATH 323 COMP 551*** 应用机器学习 4 P - MATH 323 或 ECSE 205 或同等学历 COMP 559 计算机动画基础 4 P - MATH 222, MATH 223, COMP 206, COMP 250 COMP 562 机器学习理论 4 P - MATH 462 或 COMP 451 或(COMP 551, MATH 222, MATH 223, MATH 324)或 ECSE 551 ECSE 310 计算热力学 3 P - ECSE 200, ECSE 205, ECSE 222 ECSE 325 数字系统 3 P - ECSE 324 ECSE 405 天线 3 P - ECSE 206, ECSE 354 ECSE 412 离散时间信号处理 3 P - ECSE 206 ECSE 415 简介。计算机视觉 3 P - ECSE 205,(ECSE 206 或 ECSE 316)ECSE 420 并行计算 3 P - ECSE 427 ECSE 421 嵌入式系统 3 P - ECSE 324 ECSE 422 容错计算 3 P - ECSE 324 和(ECSE 250 或 COMP 250)ECSE 423 光子学基础 3 P - ECSE 354 ECSE 424 人机交互 3 P - (ECSE 324 和 ECSE 250)或(ECSE 324 和 COMP 250)或(COMP 251 和 COMP 273)ECSE 425 计算机架构 3 P - ECSE 324 ECSE 427 操作系统 3 P - (ECSE 324 或 COMP 273)ECSE 430光子器件与系统 3 P - ECSE 354,MIME 262 ECSE 431 VLSI CAD 简介。 3 P - ECSE 324、ECSE 331 ECSE 435 混合信号测试技术 3 P - ECSE 206、ECSE 335 ECSE 436 信号处理硬件 3 P - ECSE 206、ECSE 324、ECSE 325 ECSE 446 真实图像合成 3 P - (ECSE 205 和 ECSE 250)或(ECSE 202 和 ECSE 205 和 COMP 250)ECSE 450 电磁兼容性 3 P - ECSE 222、ECSE 331、(ECSE 353 或 ECSE 354)ECSE 451 EM 传输和辐射 3 P - ECSE 354 ECSE 460 电气设备 3 P - ECSE 464 ECSE 463 * 电力发电 3 P - (ECSE 362 或ECSE 461) ECSE 464 电力系统分析 3 P - ECSE 362 ECSE 465** 电力电子系统 3 P - ECSE 331、ECSE 362 ECSE 466 配电系统 3 P - ECSE 362 ECSE 467 电力通信 3 P - ECSE 464 ECSE 468 电力工业 3 P - ECSE 362 ECSE 469 电力保护 3 P - ECSE 464 ECSE 472 电路仿真和建模基础知识 3 P - ECSE 206、ECSE 331; ECSE 597 不能参加 ECSE 500 系统数学基础 3 ECSE 501 线性系统 3 C - ECSE 500 或获得讲师许可 ECSE 507 优化与最优控制 3 P -(ECSE 343 或 ECSE 543 或 ECSE 501 或 COMP 540 或 MATH 247 或获得讲师许可) ECSE 508 多智能体系统 3 P - ECSE 205 或同等学历 ECSE 509 概率与随机信号 2 3 P -(ECSE 206 或 ECSE 316),ECSE 205 ECSE 510 随机系统的过滤与预测 3 P - ECSE 500、ECSE 509 或同等学历 ECSE 516 非线性和混合控制系统 3 P - ECSE 500、ECSE 501 或同等学历 ECSE 519 半导体纳米结构与纳米光子器件 3 P - ECSE 354,(ECSE 433 或 ECSE 533) ECSE 521 数字通信 1 3 P - ECSE 408 或 ECSE 511;C- ECSE 509 ECSE 526 人工智能 3 P - ECSE 324 ECSE 532 计算机图形学 4 P - ECSE 324 ECSE 534 模拟微电子学 3 P - ECSE 335 ECSE 543 电气工程中的数值方法 3 P - ECSE 324、ECSE 331、ECSE 251 ECSE 544 计算摄影 4 P - ECSE 205、ECSE 206 ECSE 551*** 工程师机器学习 4 P - (ECSE 250 或 COMP 250) 和 (ECSE 205 或 MATH 323); C- ECSE 343 或 ECSE 543 或 MATH 247 ECSE 552 深度学习 4 P - (ECSE 551 或 COMP 551) ECSE 554 应用机器人 4 P - ECSE 205、COMP 206、ECSE 250、(ECSE 343 或 MATH 247)或同等学历 ECSE 556 网络生物学中的机器学习 4 P - 讲师许可 ECSE 562* 低碳发电工程 4 P - (ECSE 362 或 ECSE 461) ECSE 563 电力系统运行与规划 3 P - ECSE 362 ECSE 565** 电力电子学概论 3 P - ECSE 335、ECSE 362 ECSE 575 异构集成系统 3 P - ECSE 335 或讲师许可 PHYS 346 专业 量子物理学 3 P - PHYS 230、PHYS 232 或 PHYS 251 PHYS 434 光学 3 C - PHYS 342 或 PHYS 352,或经导师许可
COMP 370 数据科学概论 3 P - COMP 206、COMP 250 或 ECSE 250 COMP 549 脑启发人工智能 3 P - MATH 222、MATH 223、MATH 323 COMP 551*** 应用机器学习 4 P - MATH 323 或 ECSE 205 或同等学历 COMP 559 计算机动画基础 4 P - MATH 222、MATH 223、COMP 206、COMP 250 COMP 562 机器学习理论 4 P - MATH 462 或 COMP 451 或(COMP 551、MATH 222、MATH 223、MATH 324)或 ECSE 551 ECSE 310 计算热力学 3 P - ECSE 200、ECSE 205、ECSE 222 ECSE 325 数字系统 3 P - ECSE 324 ECSE 405 天线 3 P - ECSE 206, ECSE 354 ECSE 412 离散时间信号处理 3 P - ECSE 206 ECSE 415 简介。计算机视觉 3 P - ECSE 205,(ECSE 206 或 ECSE 316)ECSE 420 并行计算 3 P - ECSE 427 ECSE 421 嵌入式系统 3 P - ECSE 324 ECSE 422 容错计算 3 P - ECSE 324 和(ECSE 250 或 COMP 250)ECSE 423 光子学基础 3 P - ECSE 354 ECSE 424 人机交互 3 P - (ECSE 324 和 ECSE 250)或(ECSE 324 和 COMP 250)或(COMP 251 和 COMP 273)ECSE 425 计算机架构 3 P - ECSE 324 ECSE 427 操作系统 3 P - (ECSE 324 或 COMP 273) ECSE 430 光子器件与系统 3 P - ECSE 354,MIME 262 ECSE 431 VLSI CAD 简介。3 P - ECSE 324、ECSE 331 ECSE 435 混合信号测试技术 3 P - ECSE 206、ECSE 335 ECSE 436 信号处理硬件 3 P - ECSE 206、ECSE 324、ECSE 325 ECSE 446 真实图像合成 3 P - (ECSE 205 和 ECSE 250)或(ECSE 202 和 ECSE 205 和 COMP 250)ECSE 450 电磁兼容性 3 P - ECSE 222、ECSE 331、(ECSE 353 或 ECSE 354)ECSE 451 EM 传输和辐射 3 P - ECSE 354 ECSE 460 电器 3 P - ECSE 464 ECSE 463 * 发电 3 P - (ECSE 362 或 ECSE 461) ECSE 464 电力系统分析 3 P - ECSE 362 ECSE 465** 电力电子系统 3 P - ECSE 331, ECSE 362 ECSE 466 配电网络 3 P - ECSE 362 ECSE 467 电网行为 3 P - ECSE 464 ECSE 468 工业电力 3 P - ECSE 362 ECSE 469 电网保护 3 P - ECSE 464 ECSE 472 电路仿真与建模基础 3 P - ECSE 206, ECSE 331; ECSE 597 无法参加 ECSE 500 系统数学基础 3 ECSE 501 线性系统 3 C - ECSE 500 或获得讲师许可 ECSE 507 优化与最优控制 3 P -(ECSE 343 或 ECSE 543 或 ECSE 501 或 COMP 540 或 MATH 247 或获得讲师许可) ECSE 508 多智能体系统 3 P - ECSE 205 或同等学历 ECSE 509 概率与随机信号 2 3 P -(ECSE 206 或 ECSE 316),ECSE 205 ECSE 510 随机系统的过滤与预测 3 P - ECSE 500、ECSE 509 或同等学历 ECSE 516 非线性和混合控制系统 3 P - ECSE 500、ECSE 501 或同等学历 ECSE 519 半导体纳米结构与纳米光子器件 3 P - ECSE 354,(ECSE 433 或 ECSE 533)ECSE 521 数字通信 1 3 P - ECSE 408 或 ECSE 511; C- ECSE 509 ECSE 526 人工智能 3 P - ECSE 324 ECSE 532 计算机图形学 4 P - ECSE 324 ECSE 534 模拟微电子学 3 P - ECSE 335 ECSE 543 电子工程中的数值方法 3 P - ECSE 324、ECSE 331、ECSE 251 ECSE 544 计算摄影 4 P - ECSE 205、ECSE 206 ECSE 551*** 工程师机器学习 4 P - (ECSE 250 或 COMP 250)和(ECSE 205 或 MATH 323); C- ECSE 343 或 ECSE 543 或 MATH 247 ECSE 552 深度学习 4 P - (ECSE 551 或 COMP 551) ECSE 554 应用机器人 4 P - ECSE 205、COMP 206、ECSE 250、(ECSE 343 或 MATH 247)或同等学历 ECSE 556 网络生物学中的机器学习 4 P - 讲师许可 ECSE 562* 低碳发电工程 4 P - (ECSE 362 或 ECSE 461) ECSE 563 电力系统运行与规划 3 P - ECSE 362 ECSE 565** 电力电子概论 3 P - ECSE 335、ECSE 362 ECSE 575 异构集成系统 3 P - ECSE 335 或讲师许可 PHYS 346 专业 量子物理 3 P - PHYS 230、PHYS 232 或 PHYS 251 PHYS 434 光学 3 C - PHYS 342 或 PHYS 352,或经讲师许可