基于YOLO11⁃RHO的无人机航拍图像小目标检测算法

doi:10.12422/j.issn.1672-6952.2026.04.010

摘要/Abstract

摘要：

无人机航拍图像中小目标存在像素占比低、易受复杂背景干扰且尺度变化大等问题，导致现有检测易出现漏检与精度不足的情况。为此，在YOLOv11算法的基础上提出了面向无人机航拍场景的YOLO11⁃RHO改进算法。首先，在骨干网络中引入带有频率先验初始化的重参数化卷积（Online Convolutional Re⁃parameterization，OREPA），利用空间频率选择性增强模型对高频边缘和纹理信息的表征能力；其次，采用RepNCSPELAN4_high模块优化梯度传递路径，构建梯度直达通路以减轻小目标特征在深层网络中的衰减；再次，在特征融合网络中集成HFFB分层特征融合块，结合空间与通道解耦的自适应注意力机制，强化小目标表征，实现多尺度信息对齐；最后，面向轻量与实时部署进行整体设计。在VisDrone2019数据集上的对比实验与消融实验结果表明，改进模型性能优异，mAP@0.5=0.401，mAP@0.50∶0.95=0.245；同时，保持了轻量化架构（参数量为6.22 M，计算量为15.1 GFLOPs），有效兼顾了高检测精度与边缘端实时运行的需求，满足了端侧实际部署的要求。

关键词: 无人机, 小目标检测, YOLOv11, 重参数化卷积, RepNCSPELAN4, 特征融合

Abstract:

Small objects in UAV aerial images have low pixel proportions, are vulnerable to interference from complex backgrounds, and exhibit large scale variations, which often lead to missed detections and insufficient accuracy in existing methods. Therefore, an improved algorithm, YOLO11⁃RHO, is proposed for UAV aerial imagery based on YOLOv11. First, online convolutional re⁃parameterization (OREPA) with frequency⁃prior initialization is introduced into the backbone network to enhance the model's representation of high⁃frequency edge and texture information through spatial⁃frequency selectivity. Second, the RepNCSPELAN4_high module is used to optimize gradient propagation paths and construct a direct gradient pathway, thereby alleviating the attenuation of small⁃object features in deep network layers. Third, a hierarchical feature fusion block (HFFB) is integrated into the feature⁃fusion network. By combining a spatial⁃ and channel⁃decoupled adaptive attention mechanism, the block strengthens small⁃object representation and achieves multiscale information alignment. Finally, the overall architecture is designed for lightweight real⁃time deployment. Comparative and ablation experiments on the VisDrone2019 dataset show that the improved model achieves excellent performance, with mAP@0.5=0.401 and mAP@0.50∶0.95=0.245. It also maintains a lightweight architecture with 6.22 M parameters and 15.1 GFLOPs, effectively balancing high detection accuracy with real⁃time edge⁃device operation and satisfying practical end⁃side deployment requirements.

Key words: UAV, Small-object detection, YOLOv11, Re-parameterized convolution, RepNCSPELAN4, Feature fusion

中图分类号:

TP391

岳思洋, 佐安帆, 石元博, 黄越洋, 刘思妍. 基于YOLO11⁃RHO的无人机航拍图像小目标检测算法[J]. 辽宁石油化工大学学报, 2026, 46(4): 79-87.

Siyang YUE, Anfan ZUO, Yuanbo SHI, Yueyang HUANG, Siyan LIU. YOLO11⁃RHO: A Small⁃Object Detection Algorithm for UAV Aerial Images[J]. Journal of Liaoning Petrochemical University, 2026, 46(4): 79-87.

图/表 8

参考文献 26

[1]	王晓红，胡豫.复杂背景下的无人机图像小目标检测［J］.计算机工程与应用，2023，59（15）：107⁃114.
	WANG X H，HU Y.UAV image small object detection on complex background［J］.Computer Engineering and Applications，2023，59（15）：107⁃114.
[2]	王青松，乔延平，李嘉恩.基于改进YOLOv8s的轻量化交通标志检测模型［J］.辽宁大学学报（自然科学版），2025，52（4）：329⁃337.
	WANG Q S，QIAO Y P，LI J E.Lightweight traffic sign detection model based on improved YOLOv8s［J］.Journal of Liaoning University（Natural Sciences Edition），2025，52（4）：329⁃337.
[3]	赵子杰，王毅，唐瑞卿，等.基于改进YOLOv11的无人机目标检测算法［J］.计算机应用，2025，45（S2）：329⁃334.
	ZHAO Z J，WANG Y，TANG R Q，et al.UAV target detection algorithm based on improved YOLOv11［J］.Journal of Computer Applications，2025，45（S2）：329⁃334.
[4]	孙佳宇，徐民俊，张俊鹏，等.优化改进YOLOv8无人机视角下目标检测算法［J］.计算机工程与应用，2025，61（1）：109⁃120.
	SUN J Y，XU M J，ZHANG J P，et al.Optimized and improved YOLOv8 target detection algorithm from UAV perspective［J］.Computer Engineering and Applications，2025，61（1）：109⁃120.
[5]	WAN Z Y，LAN Y Z，XU Z D，et al.DAU⁃YOLO：A lightweight and effective method for small object detection in UAV images［J］.Remote Sensing，2025，17（10）：1768.
[6]	程亮，董子健，白湧沨，等.基于改进YOLOv11的电气设备红外图像识别实验研究［J］.实验室研究与探索，2026，45（3）：29⁃34.
	CHENG L，DONG Z J，BAI Y F，et al.Experimental study on infrared image recognition of electrical equipment based on improved YOLOv11［J］.Research and Exploration in Laboratory，2026，45（3）：29⁃34.
[7]	廖宁生，曹天秀，刘科言，等.复合特征与多尺度融合的无人机小目标检测算法［J］.计算机工程与应用，2025，61（3）：111⁃120.
	LIAO N S，CAO T X，LIU K Y，et al.Small target detection algorithm for UAV based on composite feature and multi⁃scale fusion［J］.Computer Engineering and Applications，2025，61（3）：111⁃120.
[8]	石祥滨，金士玲，王银斌.无人机可见光图像拼接算法的研究［J］.辽宁大学学报（自然科学版），2013，40（2）：113⁃116.
	SHI X B， JIN S L， WANG Y B.Research on UAV visible image mosaic algorithm［J］.Journal of Liaoning University （Natural Sciences Edition），2013，40（2）：113⁃116.
[9]	李彬，李生林.改进YOLOv11n的无人机小目标检测算法［J］.计算机工程与应用，2025，61（7）：96⁃104.
	LI B，LI S L.Improved YOLOv11n small object detection algorithm in UAV view［J］.Computer Engineering and Applications，2025，61（7）：96⁃104.
[10]	石祥滨，刘东琦，于泳浩.一种改进的Zernike矩的雷达图像目标识别方法［J］.辽宁大学学报（自然科学版），2012，39（2）：160⁃164.
	SHI X B，LIU D Q，YU Y H.A radar image target recognition method based on improved Zernike moments［J］.Journal of Liaoning University（Natural Sciences Edition），2012，39（2）：160⁃164.
[11]	HUO X Z，SUN G，TIAN S W，et al.HiFuse：Hierarchical multi⁃scale feature fusion network for medical image classification［J］.Biomedical Signal Processing and Control，2024，87（Part A）：105534.
[12]	CHEN D Q，XU K，SUN W B，et al.REU⁃YOLO： A context⁃aware UAV⁃based rice ear detection model for complex field scenes［J］.Agronomy，2025，15（9）：2225.
[13]	LIANG X Z，LI M Y，LIN Y E，et al.GACFNet：A global attention cross⁃level feature fusion network for aerial image object detection［J］.Computers and Electrical Engineering，2025，123（Part A）：110042.
[14]	ZHAO D W，SHAO F M，LIU Q，et al.A small object detection method for drone⁃captured images based on improved YOLOv7［J］.Remote Sensing，2024，16（6）：1002.
[15]	冯丽丹，王闯，祁军，等.基于改进YOLOv7的管道缺陷检测技术研究［J］.辽宁石油化工大学学报，2024，44（4）：82⁃90.
	FENG L D，WANG C，QI J，et al.Research on pipeline defect detection technology based on improved YOLOv7［J］.Journal of Liaoning Petrochemical University，2024，44（4）：82⁃90.
[16]	况瑞杰，李祥，刘宇，等.基于LEM⁃YOLO的轻量化多尺度无人机林火烟雾检测［J］.激光与光电子学进展，2025，62（14）：425⁃436.
	KUANG R J，LI X，LIU Y，et al.LEM⁃YOLO⁃based lightweight multi⁃scale detection of forest fire smoke in UAV imagery［J］.Laser & Optoelectronics Progress，2025，62（14）：425⁃436.
[17]	董一兵，曾辉，侯少杰.LMUAV⁃YOLOv8：低空无人机视觉目标检测轻量化网络［J］.计算机工程与应用，2025，61（3）： 94⁃110.
	DONG Y B，ZENG H，HOU S J.LMUAV⁃YOLOv8：Lightweight network for object detection in low⁃altitude UAV vision［J］.Computer Engineering and Applications，2025，61（3）：94⁃110.
[18]	任永富.基于轻型注意力卷积网络的无人机遥感影像多目标检测［J］.测绘技术装备，2022，24（4）：89⁃94.
	REN Y F.Multi⁃target detection of UAV remote sensing image by light attention convolutional network［J］.Geomatics Technology and Equipment，2022，24（4）：89⁃94.
[19]	ZHAO Z H，LIU X Y，HE P. PSO⁃YOLO：A contextual feature enhancement method for small object detection in UAV aerial images［J］.Earth Science Informatics，2025，18（2）：258.
[20]	李珺，丁彬彬，史维娟，等.HM⁃YOLO：融合多尺度特征的轻量化航拍图像检测算法［J］.计算机工程与应用，2026，62（1）：87⁃100.
	LI J，DING B B，SHI W J，et al.HM⁃YOLO： Lightweight aerial image detection algorithm fusing multi⁃scale features［J］. Computer Engineering and Applications，2026，62（1）：87⁃100.
[21]	CHENG Y T，WANG T，ZHANG W S.Real⁃time UAV small object detection：An efficient approach using SGFNet and dynamic loss optimization［J］.Digital Signal Processing，2026，168（Part B）：105543.
[22]	GAO Y L，XIN Y B，YANG H，et al.A lightweight anti⁃unmanned aerial vehicle detection method based on improved YOLOv11［J］.Drones，2025，9（1）：11.
[23]	陈卫彪，贾小军，朱响斌，等.基于DSM⁃YOLO v5的无人机航拍图像目标检测［J］.计算机工程与应用，2023，59（18）： 226⁃233.
	CHEN W B，JIA X J，ZHU X B，et al.Target detection for UAV image based on DSM⁃YOLO v5［J］.Computer Engineering and Applications，2023，59（18）：226⁃233.
[24]	SU R，YU B，SUN Y F，et al.Missed transplanting rate evaluation method for tobacco seedling transplanter based on UAV imagery and improved YOLOv5s［J］.Frontiers in Plant Science，2025，16：1659559.
[25]	贺智轩，陈里里，王翔，等.DMF⁃YOLOv11：基于改进YOLOv11n的无人机航拍图像目标检测算法［J］.计算机工程与应用，2025，61（14）：88⁃100.
	HE Z X，CHEN L L，WANG X，et al.DMF⁃YOLOv11：Target detection algorithm for UAV images based on improved YOLOv11n［J］.Computer Engineering and Applications，2025，61（14）：88⁃100.
[26]	范博淦，王淑青，陈开元.基于改进YOLOv8的航拍无人机小目标检测模型［J］.计算机应用，2025，45（7）：2342⁃2350.
	FAN B G，WANG S Q，CHEN K Y.Small target detection model for UAV aerial photography based on improved YOLOv8［J］.Journal of Computer Applications，2025，45（7）：2342⁃2350.

参数	数值
Epochs	300
Batch Size	8
Optimizer	SGD
Initial Learning Rate	0.010
Image Size	640
Momentum	0.937

参数	数值
Epochs	300
Batch Size	8
Optimizer	SGD
Initial Learning Rate	0.010
Image Size	640
Momentum	0.937

序号	A	B	C	P	R	mAP@0.5	mAP@0.50∶0.95	参数量/M	计算量/GFLOPs
1				0.436	0.329	0.330	0.195	2.58	6.3
2	√			0.442	0.325	0.327	0.191	4.16	4.7
3		√		0.495	0.368	0.382	0.230	4.15	13.3
4			√	0.484	0.360	0.376	0.225	3.14	13.5
5	√	√		0.498	0.361	0.376	0.226	5.29	11.9
6	√		√	0.487	0.364	0.376	0.224	4.73	11.9
7		√	√	0.500	0.365	0.378	0.226	3.74	14.8
8	√	√	√	0.516	0.385	0.401	0.245	6.22	15.1

序号	A	B	C	P	R	mAP@0.5	mAP@0.50∶0.95	参数量/M	计算量/GFLOPs
1				0.436	0.329	0.330	0.195	2.58	6.3
2	√			0.442	0.325	0.327	0.191	4.16	4.7
3		√		0.495	0.368	0.382	0.230	4.15	13.3
4			√	0.484	0.360	0.376	0.225	3.14	13.5
5	√	√		0.498	0.361	0.376	0.226	5.29	11.9
6	√		√	0.487	0.364	0.376	0.224	4.73	11.9
7		√	√	0.500	0.365	0.378	0.226	3.74	14.8
8	√	√	√	0.516	0.385	0.401	0.245	6.22	15.1

算法	P	R	mAP@0.5	mAP@0.50∶0.95	参数量/M	计算量/GFLOPs
YOLOV11n	0.436	0.329	0.330	0.195	2.58	6.3
Faster⁃R⁃CNN	0.346	0.368	0.309	0.131	63.20	370.0
SSD	0.221	0.358	0.240	0.119	12.30	63.2
YOLOV10n	0.442	0.342	0.342	0.198	2.26	6.5
YOLOV5s	0.504	0.380	0.388	0.232	9.10	23.8
YOLOV8s	0.498	0.361	0.376	0.226	5.29	11.9
BDAD⁃YOLO‎^[4]	0.456	0.328	0.361	0.207	3.20	10.8
BDS⁃YOLO^‎[26]	0.348	0.337	0.378	0.227	3.87	12.4
YOLO11⁃RHO	0.516	0.385	0.401	0.245	6.22	15.1