基于强化学习的海事边缘网络卸载策略研究

来源 :大连海事大学 | 被引量 : 0次 | 上传用户:mypika
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着我国海洋事业的不断发展,无人船被广泛应用于对未知海域及危险海域的环境监测、海洋调查、安防救援,越来越多的资源密集型任务,如水面救生打捞等也出现在无人船的业务需求中。这些变化增加了无人船的能耗并对完成任务的时延提出了更高的要求。移动边缘计算通过在网络边缘部署计算节点或服务器使得用户降低时延成为可能。强化学习可以在智能体与环境交互过程中通过学习策略以达到回报最大化或者实现特定目标,能够有效地解决移动边缘计算网络卸载决策的问题。本文针对海事边缘计算网络,利用强化学习方法分别设计单无人船和无人船编队两种场景下的任务卸载决策方案,以优化海事移动边缘计算网络中无人船的计算任务执行效率。本文的研究工作总结如下:(1)针对单无人船卸载计算场景,周边的大型船舶作为海事移动边缘计算网络的计算节点为单无人船提供低延迟的卸载服务。无人船通过将延迟敏感型任务卸载到附近的边缘计算节点来降低任务完成时延,在卸载时面临变化的无线信道和边缘节点计算资源,同时还要考虑自身设备的能量约束。针对计算任务选择本地计算或是卸载至哪个边缘计算节点的问题,本文首先介绍了单无人船卸载场景的信道与通信模型、任务模型、时延模型和能耗模型,其次以最小化时延为目标提出了一种基于多臂赌博机的自适应卸载决策算法UCB-AOD。仿真结果表明提出的算法在不同的位置数和任务数情况下相比其他多种边缘计算卸载策略,可以自适应的根据信道情况和边缘计算节点的计算资源情况确定卸载策略,获得更低的时延。(2)海事边缘网络下受主船管理的无人船编队卸载决策场景中,主船作为基站船充当边缘计算节点,在每个时间帧通过为无人船编队分配带宽完成卸载决策并提供计算资源进行卸载。但是受到信道环境和无人船任务队列的影响,无人船很难将所有计算任务全部卸载,队列拥塞将会导致任务被丢弃而造成损失。针对无人船编队卸载问题,文中建立了信道与通信模型以及任务队列模型,然后建立了以最大化整个无人船编队卸载奖励变量为目标的优化问题,进一步提出一种基于深度强化学习中深度确定性策略梯度的卸载决策算法DDPG-OD。仿真结果表明提出的算法在不同的任务到达率和信道情况下有良好的表现。
其他文献
目的分析良性胃部疾患及胃癌患者的外周血胃蛋白酶原Ⅰ(PGⅠ)、胃蛋白酶原Ⅱ(PGⅡ)、癌胚抗原(CEA)、糖蛋白抗原19-9(CA19-9)及糖蛋白抗原72-4(CA72-4)水平变化,探讨这些血清
会议
在全域旅游快速发展的趋势下,全国的县域旅游资源得到了重新开发。而在新媒体全盛发展时期中,如何利用新媒体提升县域旅游目的地的旅游形象成为一个热门话题。本轮以"县域文
随着经济发展,建筑工业化已成为新的发展趋势。如何节能环保、加快建造速度是建筑业发展迫切需要解决的问题,在这种背景下,我国开始大力发展装配式建筑。本文以上海浦江基地四期装配式建筑项目施工安全控制为研究对象,对影响其施工安全的因素进行分析,提出定性和定量控制的措施,达到减少安全事故发生的目的。主要的研究内容如下:首先,本文对装配式建筑项目施工的关键的环节与装配式建筑施工安全的影响因素进行了分析。通过对
获得地下介质的物理属性(如地震波速、地震Q值等)可以帮助我们更好地理解区域构造、断层结构、地震孕震区结构等。地震层析成像是一类非常重要的探测地球结构的技术。一般来
随着科学技术的发展,人们对高精度导航定位的需求日益增大。相对于其他的导航定位系统,GPS卫星定位系统依旧是使用范围最为广泛的导航技术之一。然而,在某些对精度有较高要求和信号容易受到遮挡的场景中,GPS卫星定位系统依旧存在定位精度和可靠性无法得到充分保证的应用局限性。伪卫星可以成为GPS运作当中的一项有效的补充,可以改善导航性能和几何精度,同时,伪卫星也可以独立组网。但是伪卫星与GPS卫星组合系统或
二连探区低渗储层资源丰富,但存在岩性复杂、孔隙类型多样、储层发育特征认识困难等特点,发展先进地层测试技术提升勘探成效、研究测试评价解释技术增强储层地质认识和对储层措施改造的技术支撑,正确客观判断储层物性、措施选层和措施设计,避免措施选层的盲目性和主观性。为了精细识别储层和判定措施改造的有效性,本文以乌里雅斯太、巴音都兰两个区块为例,通过地层测试手段,获取储层动态信息,利用评价解释技术建立测试曲线分
本研究旨在探讨熟悉真实的学习环境对英语学习提供的情境供给及其对英语写作学习成绩的影响。50名大学生作为被试参与了实验并被分为两组:实验组和对照组。两组学生在不同的学习环境(熟悉的或不熟悉的)下执行相同的英语写作学习任务。首先两组实验被试需要先学习与主题相关的词汇和句型,然后利用熟悉或者不熟悉环境下可用的学习资源完成5个英语写作任务。此外,为了辅助学生的学习,本研究开发了一个可供学生使用平板电脑(实
诉讼当事人事案解明义务是指在某些诉讼案件中赋予不负证明责任当事人对案件事实的陈述说明义务、提交证据义务和忍受勘验、鉴定检查义务,以此来促进不负有证明责任的当事人
随着大数据、智能工厂、机器学习、3D打印等等概念不断的提出,以及智能化相关产品的出现,智能化使人类对未来充满无限的想象。智能化同时势必会改变传统的生产方式、生产关系、以及组织形式。智能化生产的特点对劳动替代的影响,相比传统生产更加广泛,深远。伴随智能化的进步,可编程、重复性、低水平劳动岗位会被智能化替代。劳动者在这次劳动替代过程中应该何去何从,成为了大家关注焦点。本文通过研究不同时代生产方式的特征
采矿方法对于矿山企业来说十分重要,如果采矿方法不合理,轻则导致矿山经济效益的损失,重则影响矿山安全,产生地质灾害。有了合理的采矿方法,必须要进一步确定科学的采场结构参数才能发挥出最大的开采效率。合理的采场结构参数能够保证回采工作的安全与稳定,同时也能进一步提高生产效率,为矿山带来良好的效益。本文以云锡风流山塘子凹34#矿群的矿床地质和赋存条件作为研究对象,针对其薄矿体所选用的浅孔留矿法进行优化研究