
为了进一步促进研究生学术交流,拓宽研究生学术视野,营造良好的学术氛围,足球竞猜平台
主办的“沿途青年说”第24讲于10月18日下午16:00-17:20在线上(腾讯会议:392-986-363)举行。本次主讲人为20级研究生罗钧明和谭淼泉,主题分别为基于可编程数据平面的机器学习技术和分布式机器学习的自适应同步策略。

罗钧明提出了一种使用BNN进行网络内分类的方法,解决了在可编程数据平面中部署神经网络的问题,并将其部署到智能网卡中以验证我们的想法。结果表明,在流量分类和异常检测中,准确率分别达到91.7%和96.4%以上。
此外,由于单个PDP很难支持完整的ML,因此ML的分布式部署框架可能是一种很有前途的方法,将神经网络(NN)的神经元分布到多个交换机中。在这个方向上,网络内神经网络提出了一些感兴趣的用例,例如网络遥测和异常/入侵检测。

谭淼泉同学基于PS-Worker架构下提出了A2S。在A2S中,快worker和慢worker由最快worker和最慢worker之间的梯度过时值进行区分。快worker执行松弛同步训练方案,而慢worker则执行异步方案。该方法改善了梯度过时的同时维持较高的训练速度,消除了掉队者。此外,这种松弛同步行为会招致慢梯度,这种慢梯度会损害模型的准确率和稳定性。于是,我们在该同步中采用了一种差异化加权的梯度聚合方法,从而可减少这种慢梯度带来的影响。此外,通过推导遗憾界(regret bound),我们理论上证明了A2S的收敛性。同时,实验结果也表明,A2S的准确率最高提高了2.64%,训练速度最高提升了41%。
罗钧明
2020级足球竞猜平台
电子与通信工程专业硕士
导师:刘外喜
主要研究方向:软件定义网络
主要科研成果:EI检索论文一篇
谭淼泉
2020级足球竞猜平台
电子与通信工程专业硕士
导师:刘外喜
主要研究方向:分布式机器学习的通信压缩和同步架构加速技术研究
主要科研成果:SCI论文一篇