车辆周围环境的识别方法、装置及相关设备
技术领域
本申请涉及计算机技术,尤其涉及自动驾驶技术。
背景技术
目前,辅助驾驶技术已日趋成熟,很多车辆中都设置有辅助驾驶技术。而辅助驾驶技术中的前车碰撞预警更是被广泛用于驾驶场景中,且会应用在一些小型的车载设备中,比如行车记录仪、行车盒子、车载导航系统等。
目前的前车碰撞预警需要进行环境检测,可以基于传统的图像特征加分类器识别车辆周围的环境,还可以基于深度学习的端对端检测,识别车辆周围的环境。
但是,传统的方案所需计算量小,但是检测准确度低,而深度学习的方案准确度高,但是计算量大,对算力要求也较高。
而一些小型的车载设备一般配置的是低算力芯片,准确度较高的环境识别方法不适于这些小型车载设备,因此,提供一种识别车辆周围环境准确且算力较低的方法,是本领域技术人员亟需解决的技术问题。
发明内容
本申请提供一种车辆周围环境的识别方法、装置及相关设备,以提供识别结果准确、且算力低的识别方案。
本申请第一方面提供一种车辆周围环境的识别方法,包括:
获取车辆周围的环境图像,利用预设识别网络对所述环境图像进行处理,得到多个中间特征图;
根据所述中间特征图确定目标特征图;
对所述目标特征图进行卷积处理,得到分类结果,并根据所述分类结果确定所述环境图像中包括的环境信息。
本申请第二方面提供一种车辆周围环境的识别装置,包括:
特征提取模块,用于获取车辆周围的环境图像,利用预设识别网络对所述环境图像进行处理,得到多个中间特征图;
确定模块,用于根据所述中间特征图确定目标特征图;
分类模块,用于对所述目标特征图进行卷积处理,得到分类结果,并根据所述分类结果确定所述环境图像中包括的环境信息。
本申请第三方面提供一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如第一方面所述的车辆周围环境的识别方法。
本申请第四方面提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如第一方面所述的车辆周围环境的识别方法。
本申请第五方面提供一种行车记录仪,包括:图像采集装置、处理装置;
所述图像采集装置将采集的图像发送到所述处理装置;
所述处理装置基于接收的所述图像执行如第一方面所述的车辆周围环境的识别方法。
本申请第六方面提供一种导航系统,所述导航系统应用于车辆上;
所述导航系统与设置在所述车辆上的图像采集装置连接;
所述导航系统接收所述图像采集装置将采集的图像,并基于接收的所述图像执行如第一方面所述的车辆周围环境的识别方法。
上述申请中的一个实施例具有如下优点或有益效果:
本申请提供的车辆周围环境的识别方法、装置及相关设备,包括:获取车辆周围的环境图像,利用预设识别网络对环境图像进行处理,得到多个中间特征图;根据中间特征图确定目标特征图;对目标特征图进行卷积处理,得到分类结果,并根据分类结果确定环境图像中包括的环境信息。本申请提供的方案中,利用预设识别网络识别环境图像,能够得到较准确的识别结果,在识别过程中充分利用了中间特征,使得对环境图像进行识别的过程计算量较少,且通过特征识别的方式得到的环境信息结果较为准确,从而能够提供一种计算量少且识别结果准确的方案。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1为本申请一示例性实施例示出的应用场景示意图;
图2为本申请一示例性实施例示出的车辆周围环境的识别方法的流程图;
图3为本申请另一示例性实施例示出的车辆周围环境的识别方法的流程图;
图4为本申请一示例性实施例示出的卷积块示意图;
图5为本申请一示例性实施例示出的对环境图像进行识别的流程示意图;
图6为本申请一示例性实施例示出的车辆周围环境的识别装置的结构图;
图7为本申请另一示例性实施例示出的车辆周围环境的识别装置的结构图;
图8为本申请一示例性实施例示出的电子设备的结构图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
目前,很多小型车载设备中也可以搭载简单的辅助驾驶功能,比如可以在小型车载设备中搭载前车碰撞预警的技术,使得小型车载设备能够具有预警功能。
实现前车碰撞预警的前提是能够对车辆周围的环境进行识别,进行环境检测有两类方法,一种基于传统的图像特征加分类器,例如hog+svm,第二种是基于深度学习的端对端检测,例如faster-rcnn和yolo,这两种方法都输出障碍物的矩形框。
其中,传统图像方案计算量小,但是检测准确度低,特别是在复杂场景大雾/雨天/夜晚检测率很低。深度学习的方案检测率高泛化能力强,受复杂场景影响干扰较少,但是所需要的计算量较大。
而小型车载设备配置的是低算力芯片,准确度较高的环境识别方法不适于这些小型车载设备。
本申请提供的车辆周围环境识别方案中,通过预设识别网络对环境图像进行识别,并充分利用网络识别环境图像得到的中间特征,根据中间特征得到目标特征,再对目标特征进行处理得到环境图像中包括的环境信息。本申请提供的方案中,由于充分利用了中间特征,使得对环境图像进行识别的过程计算量较少,且通过特征识别的方式得到的环境信息结果较为准确,从而能够提供一种计算量少且识别结果准确的方案。
图1为本申请一示例性实施例示出的应用场景示意图。
如图1所示,在车辆中可以设置一车载设备11,该车载设备11可以是车辆出厂时就具备的,也可以是用户自行购买后安装到车辆上的。车载设备11比如可以是车载导航、行车记录仪、行车盒子等。
车载设备11可以与一图像采集设备12连接。一种实施方式中,图像采集设备12可以与车载设备11集成设置,比如车载设备是行车记录仪时,行车记录仪上可以设置有一摄像头。另一种实施方式中,图像采集设备12可以与车载设备11分开设置,比如车载设备11可以设置在驾驶舱内,图像采集设备12可以安装在前挡风玻璃处,二者可以通过有线或无线的方式连接。
图中仅示意性的表示出一个图像采集设备12,但是根据需求,可以设置多个与车载设备11连接的图像采集设备12。比如可以设置朝向不同的摄像头,从而能够采集更丰富的车辆周围的图像。
图像采集设备12可以拍摄车辆周围的图像,并将其发送给车载设备11,使得车载设备11能够对该图像进行处理,确定车辆周围的环境信息。
图2为本申请一示例性实施例示出的车辆周围环境的识别方法的流程图。
如图2所示,本申请提供的车辆周围环境的识别方法,包括:
步骤201,获取车辆周围的环境图像,利用预设识别网络对环境图像进行处理,得到多个中间特征图。
其中,本实施例提供的方法可以由具备计算能力的电子设备来执行,比如可以是一车载设备,例如图1中所示出的车载设备11。
具体的,车载设备可以获取车辆周围的环境图像,该环境图像可以是图像采集设备拍摄的图像,也可以是对图像采集设备拍摄的图像进行处理后的图像。
图像采集设备可以设置在车辆上,比如图1所示出的图像采集设备12,从而能够拍摄车辆的外部环境。图像采集设备可以将拍摄的图像发送给车载设备,再由车载设备对其进行处理。
一种实施方式中,车载设备可以将接收的图像作为环境图像,并基于本实施例提供的方法对该环境图像进行处理。另一种实施方式中,车载设备可以对该图像进行预处理得到环境图像,比如压缩、剪裁等,再基于本实施例提供的方法预处理后的图像进行处理。
其中,车载设备中可以预先设置有预设识别网络,该预设识别网络可以是预先训练得到的。比如,预先采集大量的环境图像,并在环境图像中标注出环境信息,从而利用这些带有标注信息的环境图像对网络进行训练。
具体的,预设识别网络可以对环境图像进行卷积计算,从而提取环境图像中包括的特征。
进一步的,预设识别网络中可以包括多个卷积块,第一个卷积块可以对环境图像进行卷积计算得到一中间特征图,将得到的中间特征图传输给下一个卷积块,由下一个卷积块对中间特征图进行卷积计算,得到另一个中间特征图,并继续将得到的中间特征图向后传播,从而使每个卷积块都能够输出对应的中间特征图。
实际应用时,每个卷积块中都可以包括至少一个卷积层,用于对输入该卷积块的图像进行卷积计算。
步骤202,根据中间特征图确定目标特征图。
其中,可以选择部分或全部的中间特征图,并对这些中间特征图进行处理,得到一目标特征图。
比如,可以对被选择的中间特征图进行采样,使得各个中间特征图的尺寸一致,再对其进行叠加处理,从而得到一目标特征图。再比如,可以在预设识别网络中的设置中间卷积层,该中间卷积层可以对中间特征图进行卷积处理,再对卷积得到的特征进行叠加处理,得到目标特征图。
例如,预设识别网络中,包括多个用于提取中间特征图的卷积块,还具有对中间特征图进行卷积处理的中间卷积层。可以设置一个中间卷积层也可以设置于中间特征图对应的多个中间卷积层。比如,根据3个中间特征图确定目标特征图,则可以设置与这三个中间特征图分别对应的3个中间卷积层。
具体的,还可以在预设识别网络中设置检测头,该检测头可以接收通过中间卷积层处理后的特征图,检测头可以将接收的特征图进行采样处理,再对采样后的特征图进行叠加得到目标特征图。
步骤203,对目标特征图进行卷积处理,得到分类结果,并根据分类结果确定环境图像中包括的环境信息。
具体的,得到目标特征图之后,可以对该目标特征图进行卷积计算,从而得到分类结果。
进一步的,可以在预设识别网络的检测头中设置一分类卷积层,通过该分类卷积层对目标特征图进行卷积计算,得到分类结果。
实际应用时,分类结果中可以包括多种数据,比如障碍物类型,再比如障碍物在环境图像中的位置,再比如分类结果的置信度。可以根据分类结果中包括的数据设置对应的卷积核,例如,需要识别的障碍物类型包括车辆和行人,则可以设置这两个类型对应的卷积核,再例如,需要检测障碍物在环境图像中的位置,则可以设置与确定位置相关的卷积核,还可以设置一用于确定置信度的卷积核。
其中,利用分类卷积层中的卷积核对目标特征图进行卷积时,目标特征图中每个被卷积的部分都可以对应于一分类结果。比如卷积核是1*1的,则目标特征图中的每个像素点都对应一分类结果。该分类结果中可以包括:障碍物类型信息、障碍物位置、置信度。针对每个障碍物类型都可以输出对应的分类结果,比如识别一个像素点对应的障碍物是人时,可以输出一组分类结果,再比如识别一个像素点对应的障碍物是车时,可以输出另一组分类结果。
具体的,可以根据分类结果中包括的置信度选择最终的分类结果,进而得到环境图像中包括的环境信息,比如,针对一个像素点对应的多个分类结果中,选择置信度最高的分类结果作为该像素点的识别结果。结合目标特征图中各个像素点对应的识别结果,能够确定出最终的环境信息。
进一步的,车载设备可以基于识别结果进行前车碰撞预警,比如,识别到距离车辆较近的位置有车辆或行人时,可以进行报警。
本实施例提供的方法用于识别车辆周围的环境,该方法由设置有本实施例提供的方法的设备执行,该设备通常以硬件和/或软件的方式来实现。
本实施例提供的车辆周围环境的识别方法,包括:获取车辆周围的环境图像,利用预设识别网络对环境图像进行处理,得到多个中间特征图;根据中间特征图确定目标特征图;对目标特征图进行卷积处理,得到分类结果,并根据分类结果确定环境图像中包括的环境信息。本申请提供的方法中,充分利用了中间特征,使得对环境图像进行识别的过程计算量较少,且通过特征识别的方式得到的环境信息结果较为准确,从而能够提供一种计算量少且识别结果准确的方案。
图3为本申请另一示例性实施例示出的车辆周围环境的识别方法的流程图。
如图3所示,本申请提供的车辆周围环境的识别方法,包括:
步骤301,获取车辆的图像采集装置拍摄图像,对图像进行预处理得到环境图像。
其中,本实施例提供的方法可以由具备计算能力的电子设备来执行,比如可以是一车载设备,例如图1中所示出的车载设备11。
具体的,车辆上可以设置图像采集装置,例如可以是摄像头。该图像采集装置可以与车载设备连接,将采集的图像发送给车载设备。
进一步的,车载设备可以对接收的图像进行预处理,从而得到符合预设识别网络输入数据要求的尺寸的环境图像。例如,输入预设识别网络的数据尺寸应当为320*320*3,则车载设备可以对接收的图像进行处理,得到一尺寸为320*320*3。其中的3为3个通道,即RGB(红绿蓝)三个通道。针对每个通道图像的尺寸都是320*320。320*320是指像素尺寸。
实际应用时,图像采集装置采集的图像尺寸与该图像采集装置参数有关,有可能采集的图像不符合需求尺寸,此时,可以对图像进行预处理,得到符合需求尺寸的环境图像。
其中,具体可以对图像进行剪裁和/或压缩处理,得到与需求尺寸一致的环境图像。
这种实施方式中,可以避免由于输入网络架构的图像尺寸不统一引起的识别不准确的问题。
步骤302,预设识别网络中的第一个卷积块对环境图像进行处理,并输出一中间特征图。
具体的,预设识别网络中包括多个卷积块,卷积块呈链式连接结构;卷积块中包括至少一个卷积层。
图4为本申请一示例性实施例示出的卷积块示意图。
如图4所示,预设识别网络中可以包括多个卷积块,这些卷积块呈链式连接结构依次连接。第一个卷积块41对输入网络的图片进行处理并输出一中间特征图,该中间特征图被输入到下一个卷积块42中,由下一个卷积块42对输入的图进行处理,并继续向下一个卷积块43输出中间特征图,直到最后一个卷积块4n输出中间特征图。
进一步的,将环境图像输入预设识别网络后,由预设识别网络中的第一个卷积块对该环境图像进行处理,得到中间特征图。具体由第一个卷积块中的卷积层对环境图像进行卷积处理。比如,该卷积块中可以包括一个卷积层,则利用该卷积层对环境图像进行卷积计算能够得到一中间特征图。再比如,该卷积块中可以包括两个卷积层,则利用这两个卷积层对环境图像进行卷积计算能够得到一中间特征图,具体由第一个卷积层对环境图像进行处理输出一特征,再由第二个卷积层对该特征进行卷积计算得到中间特征图。
步骤303,根据链式连接结构将中间特征图输入下一个卷积块,下一个卷积块对输入的中间特征图进行处理,并输出另一中间特征图。
第一个卷积块输出中间特征图后,该中间特征图可以被输入到下一个卷积块。该中间特征图作为输入数据输入下一个卷积块,由下一个卷积块对输入的中间特征图进行卷积计算。
其中,该卷积块中也可以包括至少一个卷积层,通过该卷积块中的卷积层对输入的中间特征图进行卷积计算,并输出另一中间特征图。
具体的,该中间特征图继续被输入到另一个下一个卷积块,直到预设识别网络中最后一个卷积块输出中间特征图。例如,预设识别网络中包括n个卷积块,则环境图像被输入到卷积块1中,卷积块1对输入的图像进行卷积处理,输出一中间特征图到卷积块2,卷积块2对输入的图像进行卷积处理,输出一中间特征图到卷积块3,依此类推,直到卷积块n输出中间特征图。
在这种实施方式中,通过多个卷积块能够提取多个中间特征,从而从多个维度提取环境图像中包括的特征。
步骤304,在中间特征图中确定多个检测特征图,并使用预设卷积层对每个检测特征图进行卷积处理,得到多个待合并特征图。
进一步的,可以将全部或部分的中间特征图作为检测特征图,利用检测特征图确定目标特征图。
实际应用时,预设识别网络中可以包括7个卷积块。可以将链式连接结构中第四个卷积块输出的中间特征图、第五个卷积块输出的中间特征图、第七个卷积块输出的中间特征图确定为所述检测特征图。
其中,环境图像的需求尺寸可以为320*320*3,因此,输入第一个卷积块的环境图像的尺寸可以是320*320*3。
第一个卷积块对输入的320*320*3的环境图像进行卷积处理后,能够输出一尺寸为160*160*16的中间特征图。该160*160*16的中间特征图被输入到第二个卷积块中。例如,第一个卷积块中可以包括一个卷积层,该卷积层包括16个3*3的卷积核,卷积时的步长可以是2。
第二个卷积块对输入的160*160*16的图像进行卷积处理后,能够输出一尺寸为80*80*24的中间特征图。该80*80*24的中间特征图被输入到第三个卷积块中。
第三个卷积块对输入的80*80*24的图像进行卷积处理后,能够输出一尺寸为40*40*36的中间特征图。该40*40*36的中间特征图被输入到第四个卷积块中。
第四个卷积块对输入的40*40*36的图像进行卷积处理后,能够输出一尺寸为20*20*60的中间特征图。该20*20*60的中间特征图被输入到第五个卷积块中。
第五个卷积块对输入的20*20*60的图像进行卷积处理后,能够输出一尺寸为10*10*108的中间特征图。该10*10*108的中间特征图被输入到第六个卷积块中。
第六个卷积块对输入的10*10*108的图像进行卷积处理后,能够输出一尺寸为5*5*204的中间特征图。该5*5*204的中间特征图被输入到第七个卷积块中。
第七个卷积块对输入的5*5*204的图像进行卷积处理后,能够输出一尺寸为1*1*396的中间特征图。
在这种实施方式中,该网络架构所需的计算量较小,从而使得本实施例提供的方法能够应用于小型车载设备中。
其中,可以将第四个卷积块输出的20*20*60的中间特征图、第五个卷积块输出的10*10*108的中间特征图、第七个卷积块输出的1*1*396中间特征图,作为检测特征图。
在这种实施方式中,通过七个卷积块能够提取到用于识别环境图像的特征,这种轻型的网络结构计算量更小。
实际应用时,还可以设置预设卷积层,通过预设卷积层分别对检测特征图进行卷积处理,得到与每个检测特征图对应的待合并特征图。预设卷积层可以是预设识别网络中的一部分,可以连接在用于输出检测特征图的卷积块之后。
一种实施方式中,可以设置一个预设卷积层,并利用该预设卷积层分别对检测特征图进行卷积处理;另一种实施方式中,可以设置与每个检测特征图对应的预设卷积层,并基于对应关系,利用预设卷积层对检测特征图进行卷积处理。
其中,设置的预设卷积层中包括245个1*1的卷积核,利用这样的预设卷积核对检测特征图进行卷积处理,能够得到245维的待合并特征。例如,针对20*20*60的检测特征图进行卷积处理,能够得到20*20*245的待合并特征图;针对10*10*108的检测特征图进行卷积处理,能够得到10*10*245的待合并特征图;针对1*1*396的检测特征图进行卷积处理,能够得到1*1*245的待合并特征图。
在这种实施方式中,利用预设卷积层对检测特征图进行处理,能够从不同的检测特征图中提取出维度相同的待合并特征,从而能够对其进行合并处理。
步骤305,对多个待合并特征图进行合并处理,得到目标特征图。
其中,得到多个待合并特征图之后,可以对这些待合并特征图进行合并处理,从而得到目标特征图。
具体的,由于各个卷积块中的卷积层不同,设置的卷积核数量、尺寸也可能不同,那么各个卷积块输出的中间特征图尺寸也会不同,相应的,根据中间特征图得到的待合并特征图尺寸也可能不同。
进一步的,为了能够对待合并特征图进行合并处理,那么可以基于预设规则对待合并特征图进行处理,使各个待合并特征图符合预设尺寸,再对尺寸相同的各个特征图进行叠加,得到目标特征图。例如,可以对待合并特征图进行上采样,得到符合预设尺寸的特征图。
预设规则例如可以包括插值上采样,还可以包括对特征图中的特征值进行复制等方式。
实际应用时,可以将尺寸最大的合并特征图的尺寸作为预设尺寸。针对其他待合并特征图,可以根据预设规则对其进行处理。再将符合预设尺寸的特征图进行叠加,得到目标特征图。
在这种实施方式中,可以将待合并特征的尺寸调整一致,从而能够对其进行叠加处理。
其中,待合并特征图的尺寸包括20*20*245、10*10*245、1*1*245时,可以将20*20*245作为预设尺寸,再对10*10*245、1*1*245的待合并特征图进行处理,得到20*20*245的特征图。比如,针对10*10*245的待合并特征图,可以进行插值上采样处理,得到20*20*245的特征图。针对1*1*245的待合并特征图,可以将特征值进行复制,得到20*20*245的特征图。可以将1*1*245看作245个1*1的特征图,可以对每个1*1的特征进行复制,铺满20*20的尺寸,从而得到20*20*245的特征图。
具体的,处理后的待合并特征图尺寸一致,可以进行叠加,得到目标特征图。例如,将三个20*20*245的特征图进行叠加,进而得到目标特征图。
在这种实施方式中,可以根据需求选取一些中间特征图,并根据选取的中间特征图确定目标特征图,能够充分利用提取的中间特征,进而得到更加准确的识别结果,而且这种实施方式能够结合已有的中间特征得到所需要的目标特征,不需要再次进行计算就能够得到所需要的特征,从而降低计算量。
步骤306,使用全连接层对目标特征图进行处理,输出与目标特征图中每个像素点对应的分类结果。
进一步的,预设识别网络中还可以设置全连接层,可以利用全连接层对目标特征图进行处理,从而输出分类结果。
实际应用时,可以在全连接层中设置1*1的卷积核,利用该卷积核对目标特征图进行逐点卷积计算,进而得到每个像素点对应的分类结果。
其中,分类结果中可以包括障碍物类型信息、障碍物在原图中的位置信息、置信度。可以针对每种信息都设置对应的卷积核。例如,包括3种障碍物类型,分别为行人、路障、车辆,障碍物在原图中的位置信息包括4个信息,分别为横坐标、纵坐标、长、宽,则需要设置(3+4+1)个卷积核,一个卷积核用于识别一种信息。
这种实施方式中,针对不同信息设置对应的卷积核,从而能够提高识别结果的准确性。
具体的,可以针对每种障碍物类型输出一识别结果,比如针对像素(m,n),可以输出3种分类结果,分别为障碍物类型为行人时障碍物在原图中的位置信息、置信度,障碍物为路障时障碍物在原图中的位置信息、置信度,障碍物为车辆时障碍物在原图中的位置信息、置信度。
进一步的,可以用1、0的形式来表达识别的障碍物类型,比如,共包括三种障碍物类型,分别为行人、路障、车辆,则可以使用c1、c2、c3分别表示行人、路障、车辆,用(c1=1、c2=0、c3=0)表示一像素点对应的识别结果为行人,用(c1=0、c2=1、c3=0)表示一像素点的识别结果为路障,用(c1=0、c2=0、c3=1)表示一像素点的识别结果为车辆。在这种情况下,针对一个像素点能够输出三组结果,每组结果包括8个值。
在这种实施方式中,目标特征图是基于多个中间特征图确定的,通过对目标特征图进行卷积处理,能够充分利用多个中间特征图得到分类结果。
步骤307,根据分类结果中包括的置信度,确定环境图像中包括的环境信息。
实际应用时,可以利用分类结果种包括的置信度,确定环境图像种包括的信息。比如,可以将置信度最高的结果作为最终识别结果,并结合各个像素点的最终识别确定环境图像种包括的环境信息。
车载设备可以基于识别结果进行前车碰撞预警,比如,识别到距离车辆较近的位置有车辆或行人时,可以进行报警。
在这种实施方式中,可以根据置信度,在多个分类结果中筛选出最终的识别结果,从而得到准确度较高的环境信息。
图5为本申请一示例性实施例示出的对环境图像进行识别的流程示意图。
如图5所示,将环境图像51输入预设识别网络之后,可以由该网络种的卷积块52对环境图像进行处理,并输出中间特征图到下一个卷积块53,卷积块53继续进行处理得到一中间特征图,并继续向后传播,直到最后一个卷积块58输出中间特征图为止。
卷积块55、卷积块56、卷积块58输出的中间特征图分别经过预设卷积层,得到三个待合并特征图。
此后,在检测头59种,对三个待合并特征图进行调整,使其尺寸一致并进行叠加得到目标特征图。在检测头中还可以设置上述全连接层,针对目标特征图,可以用全连接层中的N个1*1的卷积核对其进行卷积处理,得到最后的分类结果。
图6为本申请一示例性实施例示出的车辆周围环境的识别装置的结构图。
如图6所示,本申请提供的车辆周围环境的识别装置,包括:
特征提取模块61,用于获取车辆周围的环境图像,利用预设识别网络对所述环境图像进行处理,得到多个中间特征图;
确定模块62,用于根据所述中间特征图确定目标特征图;
分类模块63,用于对所述目标特征图进行卷积处理,得到分类结果,并根据所述分类结果确定所述环境图像中包括的环境信息。
本申请提供的车辆周围环境的识别装置,包括:特征提取模块,用于获取车辆周围的环境图像,利用预设识别网络对环境图像进行处理,得到多个中间特征图;确定模块,用于根据中间特征图确定目标特征图;分类模块,用于对目标特征图进行卷积处理,得到分类结果,并根据分类结果确定环境图像中包括的环境信息。本申请提供的装置中,充分利用了中间特征,使得对环境图像进行识别的过程计算量较少,且通过特征识别的方式得到的环境信息结果较为准确,从而能够提供一种计算量少且识别结果准确的方案。
本实施例提供的车辆周围环境的识别装置的具体原理和实现方式均与图2所示的实施例类似,此处不再赘述。
图7为本申请另一示例性实施例示出的车辆周围环境的识别装置的结构图。
如图7所示,本申请所示出的车辆周围环境的识别装置,在上述实施例基础上,所述预设识别网络包括多个卷积块,所述卷积块呈链式连接结构;所述卷积块中包括至少一个卷积层;
所述特征提取模块61具体用于:
利用所述预设识别网络中的第一个所述卷积块对所述环境图像进行处理,并输出一中间特征图;
根据所述链式连接结构将所述中间特征图输入下一个所述卷积块,下一个所述卷积块对输入的中间特征图进行处理,并输出另一中间特征图;
继续执行所述根据所述链式连接结构将所述中间特征图输入下一个所述卷积块的步骤,直到所述预设识别网络中最后一个所述卷积块输出所述中间特征图。
所述确定模块62包括:
卷积单元621,用于在所述中间特征图中确定多个检测特征图,并使用预设卷积层对每个所述检测特征图进行卷积处理,得到多个待合并特征图;
合并单元622,用于对多个所述待合并特征图进行合并处理,得到所述目标特征图。
可选的,所述合并单元622具体用于:
根据预设规则对所述待合并特征图进行调整,得到符合预设尺寸的特征图;
将所述符合预设尺寸的特征图进行叠加,得到所述目标特征图。
可选的,所述卷积块的数量为7;
所述卷积单元621具体用于:
将所述链式连接结构中第四个卷积块输出的中间特征图、第五个卷积块输出的中间特征图、第七个卷积块输出的中间特征图确定为所述检测特征图。
可选的,所述预设卷积层包括245个1*1的卷积核。
可选的,所述分类模块63具体用于:
使用全连接层对所述目标特征图进行处理,输出与所述目标特征图中每个像素点对应的分类结果。
可选的,所述分类结果中包括以下至少一种信息:
障碍物类型信息、障碍物在原图中的位置信息、置信度;
其中,所述全连接层中包括N个卷积核,所述N个卷积核中包括用于确定所述障碍物类型信息的卷积核、用于识别所述位置信息的卷积核、所述置信度的卷积核。
可选的,所述分类模块63具体用于:
根据所述分类结果中包括的所述置信度,确定所述环境图像中包括的所述环境信息。
可选的,所述环境图像的尺寸为320*320*3;
第一个所述卷积块输出的中间特征图的尺寸为160*160*16;
第二个所述卷积块输出的中间特征图的尺寸为80*80*24;
第三个所述卷积块输出的中间特征图的尺寸为40*40*36;
第四个所述卷积块输出的中间特征图的尺寸为20*20*60;
第五个所述卷积块输出的中间特征图的尺寸为10*10*108;
第六个所述卷积块输出的中间特征图的尺寸为5*5*204;
第七个所述卷积块输出的中间特征图的尺寸为1*1*396。
可选的,所述特征提取模块包括图像预处理单元611,用于:
获取所述车辆的图像采集装置拍摄图像,对所述图像进行预处理得到所述环境图像。
可选的,所述图像预处理单元611具体用于:
对所述图像进行剪裁和/或压缩处理,得到与需求尺寸一致的所述环境图像。
本实施例提供的车辆周围环境的识别装置的具体原理和实现方式均与图3所示的实施例类似,此处不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图8所示,是根据本申请实施例的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图8所示,该电子设备包括:一个或多个处理器801、存储器802,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图8中以一个处理器801为例。
存储器802即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的车辆周围环境的识别的方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的车辆周围环境的识别方法。
存储器802作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的车辆周围环境的识别方法对应的程序指令/模块(例如,附图6所示的特征提取模块61、确定模块62和分类模块63)。处理器801通过运行存储在存储器802中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的车辆周围环境的识别方法。
存储器802可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据电子设备的使用所创建的数据等。此外,存储器802可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器802可选包括相对于处理器801远程设置的存储器,这些远程存储器可以通过网络连接至电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
电子设备还可以包括:输入装置803和输出装置804。处理器801、存储器802、输入装置803和输出装置804可以通过总线或者其他方式连接,图8中以通过总线连接为例。
输入装置803可接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置804可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
本申请还提供一种行车记录仪,包括图像采集装置、处理装置;
所述图像采集装置将采集的图像发送到所述处理装置;
所述处理装置基于接收的所述图像执行如图2或图3所示出的任一种车辆周围环境的识别方法。
其中,图像采集装置例如可以是摄像头,图像采集装置与处理装置可以集成在一起,也可以分体设置。二者可以通过有线连接,也可以通过无线连接,例如通过蓝牙连接。
本申请还提供一种导航系统,所述导航系统应用于车辆上;
所述导航系统与设置在所述车辆上的图像采集装置连接;
所述导航系统接收所述图像采集装置将采集的图像,并基于接收的所述图像执行如图2或图3所示出的任一种车辆周围环境的识别方法。
其中,图像采集装置可以是设置在车辆上的摄像头,该摄像头可以是车辆出厂时就设置的,还可以是根据需求后期配置的,该图像采集装置还可以是其他设备上的辅助设备,例如是行车记录仪上的摄像头,或者是提供倒车影像功能的摄像头。
图像采集装置与导航系统可以通过有线或者无线的方式连接。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请申请的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
- 上一篇:石墨接头机器人自动装卡簧、装栓机
- 下一篇:移动对象识别方法、装置及设备