一种可定制化嵌入式ai模型落地硬件架构
技术领域
本发明涉及计算机
技术领域
,具体涉及一种可定制化嵌入式AI模型落地硬件架构。背景技术
目前,人工智能算法通常由性能强大的GPU或者AI芯片处理器组成的复杂庞大的硬件设备来完成,这样的硬件设备成本高,功耗高,一般用于服务器的加速,或者通过网络来使用这些硬件设备在云端完成人工智能算法后将结果传回本地。后来慢慢出现了人工智能算法由本地嵌入式硬件设备来完成,这样就能把人工智能应用于消费设备中,实现嵌入式人工智能设备,比如智能手机、车载摄像头等。
嵌入式人工智能对硬件的成本、功耗、体积都有很高的要求,同时需要在实现实时性嵌入式功能上再在本地实现实时的人工智能算法,而且嵌入式硬件设备是一种灵活性和定制化设计很高的硬件设备,需要满足各种丰富的外部接口和功能。但是,目前的基于GPU和通用的AI芯片的硬件架构,由于针对的大多是复杂的应用场景,体积大,功耗高,成本高,很难满足嵌入式人工智能的这些需求。
发明内容
本发明提供一种可定制化嵌入式AI模型落地硬件架构,能够解决上述很难满足嵌入式人工智能的技术问题。
本发明解决上述技术问题的技术方案如下:
一种可定制化嵌入式AI模型落地硬件架构,包括:
可定制化电源模块、可定制化探测器模块、可定制化AI处理器模块、可定制化调试模块、可定制化外设模块,
所述可定制化电源模块用于为所述可定制化探测器模块、所述可定制化AI处理器模块、所述可定制化调试模块和所述可定制化外设模块供电;
所述可定制化探测器模块用于采集数据;
所述可定制化AI处理器模块用于根据需求和场景而定制化的处理器来完成不同的AI模型算法对采集数据的处理和不同的嵌入式功能;
所述可定制化的调试模块,用于为所述可定制化AI处理器模块提供在线调试;
所述可定制化外设模块,可以根据需求和场景来定制不同的外设功能与外部通信。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化电源模块、所述可定制化探测器模块、所述可定制化AI处理器模块、所述可定制化调试模块、所述可定制化外设模块均设置在PCB板上。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述PCB板在本地实时完成实时的嵌入式功能和实时的AI模型算法后,通过所述可定制化的外设模块应用到不同的应用场景中。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化AI处理器模块是单个处理器模块。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化AI处理器模块是集成电路实现的。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述集成电路是现场可编程门阵列FPGA或特定应用的集成电路ASIC。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化的调试模块,根据需求和场景定制化的调试接口完成不同的调试方式。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化外设模块,是外设接口。
本发明的有益效果是:本发明实施例提供的一种可定制化嵌入式AI模型落地硬件架构,包括:可定制化电源模块、可定制化探测器模块、可定制化AI处理器模块、可定制化调试模块、可定制化外设模块,可定制化电源模块用于为其它模块供电;可定制化探测器模块用于采集数据;可定制化AI处理器模块用于根据需求和场景而定制化的处理器来完成不同的AI模型算法对采集数据的处理;可定制化的调试模块,用于为所述可定制化AI处理器模块提供在线调试;可定制化外设模块,可以根据需求和场景来定制不同的外设功能与外部通信。本申请中的各个模块可以通过灵活的定制来满足不同的AI模型落地本地实现和不同嵌入式应用场景的需求,实现复杂的AI模型算法、嵌入式功能,满足本地实时性的AI处理和嵌入式处理能力。
附图说明
图1为本发明实施例提供的一种可定制化嵌入式AI模型落地硬件架构示意图一。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
为了能够更清楚地理解本申请的上述目的、特征和优点,下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,所描述的实施例是本公开的一部分实施例,而不是全部的实施例。此处所描述的具体实施例仅仅用于解释本公开,而非对本申请的限定。基于所描述的本申请的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本申请的范围之内并且形成不同的实施例。
图1为本发明实施例提供的一种可定制化嵌入式AI模型落地硬件架构示意图一。
本发明实施例提供了一种可定制化嵌入式AI模型落地硬件架构,结合图1,包括:
可定制化电源模块101、可定制化探测器模块102、可定制化AI处理器模块103、可定制化调试模块104、可定制化外设模块105,
所述可定制化电源模块101用于为所述可定制化探测器模块102、所述可定制化AI处理器模块103、所述可定制化调试模块104和所述可定制化外设模块105供电;
所述可定制化探测器模块102用于采集数据;
可定制化的探测器模块为探测器模块,采集获取需要处理的数据,也可根据方案需求来定制。
所述可定制化AI处理器模块103用于根据需求和场景而定制化的处理器来完成不同的AI模型算法对采集数据的处理和不同的嵌入式功能。
所述可定制化的调试模块104,用于为所述可定制化AI处理器模块提供在线调试;
所述可定制化外设模块105,可以根据需求和场景来定制不同的外设功能与外部通信。
具体的,本申请实施例中可定制化的电源模块为整个架构提供稳定的供电,同时可以根据方案场景来定制;可定制化的探测器模块为探测器模块,采集获取需要处理的数据,也可根据方案需求来定制;可定制化的AI处理器模块为整个架构的核心模块,对获取的数据实时完成AI的核心算法和实时的嵌入式功能,也可根据方案需求来选择定制不同的处理器;可定制的调试模块为系统提供调试Debug通信的接口,也可根据方案需求来定制不同的调试接口;可定制化的外设模块主要为嵌入式功能需求的一些外设功能模块也可根据方案需求来定制。各个模块可以通过灵活的定制来满足不同的AI模型落地本地实现和不同嵌入式应用场景的需求,实现复杂的AI模型算法、实现复杂的嵌入式功能,满足本地实时性的AI处理和嵌入式处理能力。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化电源模块101、所述可定制化探测器模块102、所述可定制化AI处理器模块103、所述可定制化调试模块104、所述可定制化外设模块105均设置在PCB板上。
具体的,本申请实施例中的可定制化电源模块101、可定制化探测器模块102、可定制化AI处理器模块103、可定制化调试模块104、可定制化外设模块105,5个模块集成到单个硬件PCB板上,实现体积小,功耗低,集成嵌入式处理和本地AI处理能力。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述PCB板在本地实时完成实时的嵌入式功能和实时的AI模型算法后,通过所述可定制化的外设模块105应用到不同的应用场景中。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化AI处理器模块103是单个处理器模块。
具体的,本申请实施例中通过单个处理器模块既实现本地实时嵌入式处理能力,又实现本地实时人工智能处理能力。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化AI处理器模块103是集成电路实现的。
具体的,本申请实施例通过集成电路在本地实时完成人工智能算法,并将人工智能算法结果用于本地的嵌入式控制处理等。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,所述集成电路是现场可编程门阵列FPGA或特定应用的集成电路ASIC。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化的调试模块104,根据需求和场景定制化的调试接口完成不同的调试方式。
在一些实施例中,上述一种可定制化嵌入式AI模型落地硬件架构中,
所述可定制化外设模块105,是外设接口。
下文结合具体的两个实施例介绍本发明。
第一个实施例:定制化的电源模块为定制化的AI处理器模块、定制化的探测器模块、定制化的调试模块调试、定制化的外设的供电,具体的可由便携式的电源提供电源输入源,比如,锂电池、移动电源等;定制化的探测器模块为MIPI的摄像头模块,连接摄像头采集图像数据;定制化的AI处理器模块,由可编程的FPGA器件ZYNQ实现图像分类AI算法和图像传输的功能,同时ZYNQ完成分类结果后的控制功能,比如,用于工业检测的异常样本分拣;定制化的调试模块,为JTAG模块,为FPGA的提供在线调试功能;定制化的外设接口,为HDMI、UART、GPIO等接口,将图像和结果传输到显示器上。
第一个实施例提出的可定制化嵌入式AI模型落地硬件架构,通过定制各个模块,在PCB板上实现图像分类的功能,同时实现实时视频传输的功能,体积小,功能强大,成本低,可以应用到多种嵌入式应用领域中。
第二个实施例:定制化的电源模块为定制化的AI处理器模块、定制化的探测器模块、定制化的调试模块调试、定制化的外设的供电,具体的可由便携式的电源提供电源输入源,比如,锂电池、移动电源等;定制化的探测器模块为MIPI的摄像头模块,连接摄像头采集图像数据;定制化的AI处理器模块,由可编程的FPGA器件ZYNQ实现目标检测AI算法和图像传输的功能,同时ZYNQ上移植Linux系统,实现复杂的GUI界面用于交互、安防的异常监控和报警;定制化的调试模块,为网络接口模块,为FPGA的提供在线调试功能,同时还可以通过网络更新配置数据等;定制化的外设接口,为网络接口,将图像和结果通过网络传输到显示器上;同时调试功能和外设接口,可以通过一个网络接口来完成。
第二个实施例提出的可定制化嵌入式AI模型落地硬件架构,通过定制各个模块,在PCB板上实现目标检测的功能,同时实现实时视频传输的功能,体积小,功能强大,成本低,可以应用到多种嵌入式应用领域中。
本领域的技术人员能够理解,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
虽然结合附图描述了本申请的实施方式,但是本领域技术人员可以在不脱离本申请的精神和范围的情况下做出各种修改和变型,这样的修改和变型均落入由所附权利要求所限定的范围之内以上,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
以上,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
- 上一篇:石墨接头机器人自动装卡簧、装栓机
- 下一篇:一种面向数据密集型应用的动态可重构处理器