注视对象检测装置

文档序号:8333 发布日期:2021-09-17 浏览:78次 英文

注视对象检测装置

技术领域

本发明涉及确定乘车人的注视区域并将对象物作为注视事件提示给该乘车人的注视对象检测装置。

背景技术

作为移动工具的汽车便利性优异,并且能够乘坐汽车前往各种场所。此时如果驾驶过程中在车外存在引起兴趣的物体,则乘车人往往会注视该注视对象。

对此,以往提出有确定乘车人的注视区域并自动地拍摄存在于该注视区域的对象物的技术。例如在专利文献1中,公开有即使在不进行会话的情况下,也能够对驾驶场景影像等信息适当地进行分割并记录的信息记录装置。另外,在专利文献2中,提出有基于视线检测装置检测出的乘车人的视线的方向来确定注视区域,并且判定乘车人表现出兴趣的对象物的方向并自动地进行拍摄的拍摄装置。

现有技术文献

专利文献

专利文献1:日本特开2008-018853号公报

专利文献2:日本特开2013-255168号公报

发明内容

技术问题

不限于上述的专利文献,当前的技术不能认为适当地满足了市场的需求,存在下述的课题。

例如在上述的专利文献1中,在注视行为检测过程中不使用包含车速的车辆行驶信息,难以进行例如高速移动时的乘车人的注视检测。另外,在上述的专利文献2中,虽然通过车速传感器取得本车辆的速度,但是限于用于推定注视对象物与车辆之间的相对距离,例如在本车转弯且对象物也移动的情况下等,难言能够适当地确定应该向乘车人进行提示的注视对象。

本发明是以上述的课题为一例而完成的,目的在于提供能够与各种行驶环境相应地更加适当地检测乘车人所注视的注视对象的车辆的注视对象检测装置。

技术方案

为了解决上述课题,本发明的一实施方式的搭载于车辆的注视对象检测装置,(1)检测搭乘车辆的乘车人的注视对象,具有:检测所述乘车人的视线的视线检测部;取得所述车辆与所述注视对象之间的相对速度的相对速度信息取得部;取得所述车辆与所述注视对象之间的相对位置的相对位置信息取得部;计算所述车辆行驶的本车轨迹的曲率的曲率运算部;分别基于所述相对速度、所述相对位置以及所述曲率中的至少一个使判定所述注视对象的判定阈值可变的阈值调整部;以及基于所述阈值调整部可变的判定阈值确定所述注视对象作为注视事件的注视判定部。

应予说明,在上述的(1)中所述的注视对象检测装置中,(2)优选还具有:判定所述乘车人对于检测出的所述注视事件的兴趣水平的兴趣水平判定部;以及向所述乘车人提示所述注视事件的提示部,所述提示部与判定出的所述兴趣水平相应地使所述注视事件的提示方式不同。

另外,在上述的(2)中所述的注视对象检测装置中,(3)优选所述提示部以通过声音的输出或者图像的显示中的至少某一方作为所述提示方式来提示所述注视事件。

另外,在上述的(3)中所述的注视对象检测装置中,(4)优选还具备进行所述车辆的驱动控制的车辆控制部,所述车辆控制部与所述兴趣水平判定部的判定结果相应地使所述驱动控制不同。

另外,在上述的(1)~(4)中的任一项所述的注视对象检测装置中,(5)优选还具有检测所述判定出的注视对象的属性的属性检测部,向所述乘车人提示所述注视事件的提示部进一步与所述属性相应地使所述注视对象的提示方式不同来向所述乘车人提示所述注视对象。

另外,在上述的(1)~(5)中的任一项所述的注视对象检测装置中,(6)优选还具有检测所述乘车人的座位位置的落座位置检测部,所述阈值调整部与检测出的所述座位位置相应地使所述判定阈值可变。

另外,在上述的(6)中所述的注视对象检测装置中,(7)优选在所述车辆转弯时,所述阈值调整部以增大针对存在于转弯侧的注视对象的判定阈值的方式,使存在于所述车辆的行进方向右侧的注视对象所用的所述判定阈值和存在于所述车辆的行进方向左侧的注视对象所用的所述判定阈值彼此不同。

另外,在上述的(1)~(7)中的任一项所述的注视对象检测装置中,(8)优选所述判定出的注视事件按每位进行了注视的乘车人进行区分并保存于保存装置。

技术效果

根据本发明,能够根据各种行驶环境更加适当地检测乘车人所注视的对象。

附图说明

图1是第一实施方式的注视对象检测装置的系统构成图。

图2是第一实施方式的注视对象检测方法的流程图。

图3是保存有包含由第一实施方式的注视对象检测装置所确定的注视事件的判定注视对象信息的数据库的构成例。

图4是第二实施方式的注视对象检测装置的系统构成图。

图5是说明在第二实施方式的注视对象检测方法中使用的判定阈值的确定方案的示意图。

图6是第三实施方式的注视对象检测装置的系统构成图。

图7是第三实施方式的注视对象检测方法的流程图。

图8是保存有包含由第三实施方式的注视对象检测装置所确定的注视事件的判定注视对象信息的数据库的构成例之一。

图9是保存有包含由第三实施方式的注视对象检测装置所确定的注视事件的判定注视对象信息的数据库的构成例之二。

符号说明

100 注视对象检测装置

10 视线检测部

20 曲率运算部

25 转向角信息取得部

30 相对速度信息取得部

40 阈值调整部

50 注视判定部

60 落座位置检测部

70 兴趣水平判定部

80 提示部

90 属性检测部

VC 车辆控制部

具体实施方式

接着关于用于实施本发明的优选的实施方式进行说明。另外,关于以下详述的构成以外的构成,也可以适当地补充包含车载相机和/或各种车辆传感器的公知的车辆结构和/或拍摄系统。例如在乘车人的视线检测和/或注视区域的判定过程中,只要不违背本实施方式的主旨,就能够应用在上述的日本特开2008-018853号公报和/或日本特开2013-255168号公报中例示的检测、判定技术。

[第一实施方式]

<注视对象检测装置100>

在图1中表示第一实施方式的注视对象检测装置100的系统构成图。

本实施方式的注视对象检测装置100具有检测搭乘车辆的乘车人的注视对象的功能,具有通过例如搭载于二轮驱动或四轮驱动的车辆且后述的摄像装置V自动拍摄车外的图像的功能等。

此处,本实施方式中所谓的“注视对象”指乘车人所注视着的物、人、建筑物、广告和/或事等对象。另外,“注视事件”指上述的注视对象中的被关注了超过后述的判定阈值T的时间的物、人、建筑物、广告和/或事等对象。

更具体地,注视对象检测装置100构成为包含控制装置CTL、拍摄装置V、提示装置P、外部通信装置C、传感器类S、导航装置N以及保存装置M等。应予说明,以下作为搭载注视对象检测装置100的车辆的例子,以四轮的汽车作为例子进行说明。

拍摄装置V在本实施方式中包含车外相机V1和车内相机V2。其中车外相机V1为包括一个或多个车外拍摄用的车载相机的公知的车外拍摄用的车载相机。优选地,这样的车外相机V1分别具有平移机构或倾斜机构等公知的倾斜机构以便能够拍摄车外的全方位。应予说明,倾斜机构不一定是必须的,例如也可以由多个广角相机构成拍摄装置V以便能够对前后左右分别独立地进行拍摄。

另外,车内相机V2包括一个或多个用于拍摄乘车人的面部的相机。为了切实地检测各乘车人的视线,优选如驾驶座用、副驾驶座用、左后部座位用、右后部座位用那样设置多个车内相机V2以便与各个乘车人相对应。这样的车内相机V2能够应用通过可见光或红外线取得各个乘车人的面部图像的公知的车内相机。

提示装置P在本实施方式中构成为包含车载的公知的扬声器SP和显示器DP。其中显示器DP也可以兼用作后述的导航装置N的监视器。另外,本实施方式的提示装置P也可以构成为能够介由乘车人拥有的智能手机等移动设备、近距离无线通信等公知的无线通信装置进行通信。由此,提示装置P也能够介由乘车人的智能手机等来提示注视事件。

关于外部通信装置C而言,例如能够例示能够利用以利用了上述智能手机的分组通信和/或公知的互联车的信息通信服务为代表的新时代的汽车无线通信技术,来进行与外部的各种信息通信的公知的通信装置。由此,例如也能够介由互联网等网络NT向车外发送与后述的注视事件相关的信息。

传感器类S包含分别公知的、检测车辆的速度的速度传感器和/或检测加速度的加速度传感器、或者检测方向盘的转角(转向角)的转向角传感器等。在本实施方式中,通过该转向角传感器检测出的转向角信息由后述的转向角信息取得部25取得。另外在本实施方式中,通过该速度传感器检测出的本车辆的车速由后述的相对速度信息取得部30取得。

导航装置N内置有用于取得车辆的位置信息的GPS等公知的定位装置、地域名称和/或建筑物等的地图信息。因而,在后述的注视事件的属性检测过程中,能够使用例如保存于该地图信息的类型信息(受欢迎的运动、休闲设施、餐厅和/或便利店等)确定注视事件的属性。应予说明,在本实施方式中,地图信息内置于导航装置N,但是不限于该例,例如后述的控制装置CTL也可以基于本车辆的GPS信息介由互联网等公知的通信网下载置于云端上的地图信息。在该情况下,导航装置N也可以具有例如参照从云端下载而得的地图信息的功能。

另外,导航装置N与后述的控制装置CTL协作也作为本实施方式的相对位置信息取得部发挥功能。这样的相对位置信息取得部具备取得车辆和注视对象之间的相对位置的功能。作为一例,控制装置CTL能够从导航装置N得到本车辆的位置信息,进一步地根据由视线检测部确定并计算出的注视对象的位置信息,取得车辆与注视对象之间的相对位置。应予说明,车辆与注视对象之间的相对位置的计算方法不限于上述的例子,例如也可以应用国际公开WO2017/013739号等其他的公知的相对位置检测技术。

关于保存装置M而言,能够例示例如硬盘驱动器和/或非易失性存储器等公知的存储装置,是能够根据需要暂时地记录注视事件的装置。

接着,关于注视对象检测装置100的控制装置CTL详细地进行说明。

如图1所示,第一实施方式中的控制装置CTL构成为包含视线检测部10、曲率运算部20、转向角信息取得部25、相对速度信息取得部30、阈值调整部40、注视判定部50以及提示部80。

视线检测部10具有从使用上述的车内相机V2所取得的乘车人各自的脸部图像提取出各个视线的方向的功能。关于乘车人的这样的视线检测,能够应用公知的视线追踪技术,例如如在日本特开2013-255168号公报中也进行说明的,能够参照“小野泰弘、岡部孝弘、佐藤洋一,‘从低分辨率图像的视线方向推定’,电子信息通信学会论文志,vol.J90-D,No.8,p.2212-2222,2007”等,此外还能够利用使用了面部的特征点提取的视线检测等现有的技术。

曲率运算部20计算本车辆行驶的本车轨迹的曲率ρ(曲率半径R的倒数)。更具体地,本实施方式的曲率运算部20基于例如日本特开2011-008385号公报中所公开的运算方法或其他公知的曲率运算方法,能够计算上述的本车轨迹的曲率ρ。应予说明,由于控制装置CTL仅依靠从曲率运算部20得到的本车轨迹的曲率ρ难以确定本车辆的转弯方向,所以通过组合其他的信息(例如后述的转向角信息SI和/或横向加速度信息或者横摆角信息和/或地图信息等)能够确定本车辆的转弯方向。

转向角信息取得部25介由上述的公知的转向角传感器取得与本车辆的转向角相关的转向角信息SI。更具体地,本实施方式的转向角信息取得部25介由上述转向角传感器,以直线前进时的方向盘的角度作为基准(0°),在向右转方向盘的情况下设为正的值,另一方面,在向左转方向盘的情况下设为负的值,来得到转向角信息SI。因而,如果转向角信息取得部25取得的转向角信息SI为正的值,则能够判定为本车辆向右转弯,并且如果转向角信息SI为负的值,则能够判定为本车辆向左转弯。

应予说明,在本实施方式中,使用转向角信息SI来判定本车辆是否转弯,但是不限于该方式,如上所述也可以基于与本车辆相关的横向加速度信息和/或横摆角信息等来判定本车辆是否转弯。

相对速度信息取得部30具有使用车外相机V1等检测本车辆与注视对象之间的相对速度来取得相对速度信息VI的功能。应予说明,本车辆与注视对象之间的相对速度的检测方法不限于使用了相机的公知的分析方案,也可以有效利用例如日本特开2019-215805号公报例示的那样的算出其他车道车辆相对于本车辆的相对速度的方案和/或使用了毫米波雷达的相对速度检测法等。

或者,例如只要是注视对象为车辆的情况,则由于介由所谓的互联技术始终与网络NT(例如互联网)连接,所以在这样的情况下车辆彼此能够检测各自的车速和前进方向。因而,在这样的情况下也可以根据介由互联能够取得的对方车辆的车速和前进方向来计算上述的相对速度信息VI。

由此,相对速度信息取得部30能够取得注视对象相对于本车辆的相对速度矢量(相对于本车辆注视对象朝向哪个方向以怎样的速度移动)

另外,相对速度信息取得部30能够取得注视对象相对于本车辆的相对位置信息PI。更具体地,相对速度信息取得部30基于例如来自上述的车外相机V1的影像信息和/或公知的测距传感器(未图示)等,取得本车辆和注视对象之间的角度信息θ和距离信息d。

此处,角度信息θ指以本车的前进方向作为基准(0°),连接本车和注视对象的直线所成的角度(°)。例如在注视对象相对于本车辆存在于左前方侧的情况下,角度信息θ成为负的角度(-90°~0°之间),在注视对象存在于右后方侧的情况下,上述角度信息θ成为正的角度(90°~180°之间)。

阈值调整部40具有基于上述的相对速度信息VI、上述的相对位置信息PI、上述的转向角信息SI以及上述的本车轨迹的曲率ρ中的至少一个,使判定注视对象的判定阈值T可变的功能。此时阈值调整部40优选基于相对速度信息VI、相对位置信息PI、转向角信息SI以及曲率ρ之中任意的组合的信息使判定阈值T可变。作为上述的组合的例子,能够例示例如:相对速度信息VI和曲率ρ的组合,相对速度信息VI、转向角信息SI以及曲率ρ的组合,或者包含相对速度信息VI、相对位置信息PI、转向角信息SI以及曲率ρ的全部的组合。应予说明,如上所述,在上述组合中也能够以横向加速度信息或横摆角信息替代转向角信息SI来使用。

关于这样地使判定注视对象的判定阈值T可变的理由详细地进行说明。

即,在乘车人注视车外的注视对象的情况下,与车辆的行驶状况相应地能够注视的余裕度较大地变化。例如在高速公路等高速移动的过程中能够注视注视对象的时间少于一般道路。另外,例如在向右转弯(curve)的车辆中,存在于车辆的右侧的注视对象与存在于车辆的左侧的注视对象相比能够注视相对更长的时间。

另外,在注视对象移动的情况下,根据其移动方向乘车人能够注视注视对象的时间也具有较大的差异。这样,与本车辆的行驶状况(转弯还是高速移动等)、本车辆与对象物之间的相对的位置关系的变化等相应地,乘车人能够注视注视对象的时间也变化。

此时,由于乘车人在车辆的乘车过程中会注视各种对象物,所以保存、提示所注视的所有的对象是不现实的,需要有乘车人是否感兴趣观察注视对象的判定阈值。并且在本实施方式中,假设并非统一地设定上述的判定阈值,而是将本车辆的行驶状况和/或相对速度一起考虑进来,使判定阈值可变以便能够适当地判定乘车人感兴趣所注视的注视对象作为注视事件。

<判定阈值T的可变方式>

更具体地,在本实施方式中,在将成为基准的任意的注视判定时间设为SV(例如几秒等)的情况下,控制装置CTL算出下述表示的判定阈值T。

T=γ×SV

其中,系数γ是在0之上且1以下的范围(0<γ≤1)变化的参数,是基于上述的相对速度信息、相对位置信息、转向角信息以及本车轨迹的曲率中的至少一个而确定的值。

作为一例,系数γ能够通过下述算式算出。其中,在该算式中,分别地,“θ”表示上述的角度信息θ、“θv”表示上述的相对速度矢量的方向、“|V|”表示上述的相对速度、“R”表示上述的曲率半径R,并且“SI”表示上述的转向角信息SI。

(SI>0时)

(SI<0时)

Vth:以在一般的街道上的相对速度的最大值为基准

Rmax:设为任意确定的曲率半径阈值,当R>Rmax时,按Rmax=R处理

应予说明,系数γ除了通过上述的算式算出以外,例如也可以通过如下述算式那样地将各项设为独立项并合计来求取算出。根据该合计方式的计算式,即使在因某种理由例如不能取得曲率半径R的情况下,也能够基于其他的项算出系数γ。

(SI>0时)(SI<0时)

Vth:以在一般的街道上的相对速度的最大值为基准

Rmax:设为任意确定的曲率半径阈值,当R>Rmax时,按Rmax=R处理

另外,在上述的合计方式的计算式中,例如也可以将相对速度项和/或曲率半径项设为其他项的两倍等,对各个项附加加权系数。这样的加权系数的具体值能够通过例如实验和/或模拟确定。

如根据上述的各计算式也可理解的,作为一例,包含于上述的相对速度信息VI的相对速度的值越大,则本实施方式的控制装置CTL能够将γ值设定得越小。

另外,作为另一例,上述的注视对象相对于本车辆的相对速度矢量的方向θv(即与本车辆的前进方向成相反方向)越大,则控制装置CTL能够将值得设定越小。

另外,作为另一例,上述的本车轨迹的曲率ρ越大(即曲率半径R越小),则控制装置CTL能够将γ值设定得越小。

另外,作为另一例,上述的相对位置信息PI之中的角度信息θ(即与本车辆的前进方向成相反方向)越大,则控制装置CTL能够将γ值设定得越小。

另外,作为包含于上述的计算式的项以外的一例,上述的相对位置信息PI之中的距离信息d(即注视对象存在于靠近本车辆的位置)越小,则控制装置CTL能够将γ值设定得越小。

应予说明,如上所述,作为另一例,控制装置CTL也可以组合上述的各种信息来算出系数γ。更具体地,控制装置CTL能够组合例如角度信息θ和转向角信息SI,在向右转弯的过程中,将应用于相对于本车辆的行驶方向位于左侧的注视对象的系数γ设定为小于应用于相对于本车辆的行驶方向位于右侧的注视对象的系数γ。换言之,在表示向右转弯过程中的“SI>0”时,将应用于位于左侧的注视对象“θ<0”的系数γ的值设定为小于应用于位于右侧的注视对象“θ>0”时的系数γ的值。另一方面,在表示向左转弯过程中的“SI<0”时,控制装置CTL能够将应用于位于右侧的注视对象“θ>0”的系数γ的值设定为小于应用于位于左侧的注视对象“θ<0”时的系数γ的值。

注视判定部50基于由上述的阈值调整部40可变的判定阈值,确定此时的注视对象作为注视事件。例如在通过阈值调整部40将判定阈值设定成了“SV”的情况下,注视判定部50在乘车人的注视时间成为SV秒时将该注视对象判定为注视事件。由此,即使在难以注视的环境中,也能够更加适当地判定乘车人表示出兴趣的注视对象作为注视事件。

因而,例如在与注视对象之间的相对速度高且处于转弯过程中的情况下等,与直线移动时等相比,能够相对地减小用于将注视对象判定作为注视事件的判定阈值。由此,能够抑制在例如高速转弯时遗漏乘车人实际地表示出兴趣的注视对象等情况。

提示部80具有介由提示装置P对乘车人提示上述的注视事件的功能。更具体地,本实施方式的提示部80能够介由扬声器SP和显示器DP中的至少一个,对乘车人提示由注视判定部50所判定的注视事件。换言之,提示部80能够选择通过声音以及图像来表示注视事件、通过声音或者图像来表示注视事件、不通过声音以及图像来表示而是保存于保存装置M这样的提示方式中的任一种作为注视事件的提示方式。进而除上述以外,提示部80也可以是表示上述的注视事件并且将该注视事件保存于保存装置M的方式。

应予说明,此时,提示部80可以不仅向注视了注视事件的乘车人,而且同时也向乘坐车辆的其他乘车人提示注视事件。

另外,除上述以外还可以或者代之,提示部80也可以介由例如近距离无线通信等公知的无线通信对乘车人拥有的智能手机等移动设备来提示上述的注视事件。

另外,提示部80优选具有将由注视判定部50所判定的注视事件作为判定注视对象信息保存于保存装置M的功能。由此,能够通过声音或者图像在事后进行确认、或者能够和其他人共享乘车人感兴趣地所注视的注视事件。在图3示出向保存装置M记录包含这样的注视事件的判定注视对象信息的记录方式。

即,图3是表示将包含所判定的注视事件的判定注视对象信息保存到保存装置M并数据库化的一例。如该图所示,在各个判定注视对象信息中,包含有单独的标识ID、发生的日期、注视事件的内容(对象事件信息)、以及注视了该注视事件的注视人物信息等。

应予说明,图3中所示的数据库的构成例为一例,也可以进一步地增加例如时刻信息等其他的附加信息。应予说明,注视人物信息例如也可以在使用上述的车内相机V2并进行面部识别之后赋予标识ID。由此,能够对乘坐了车辆的乘车人分别自动地赋予标识ID作为人物信息。

另外,在赋予标识ID作为注视人物信息的情况下,关于按各个乘车人所判定的注视事件,优选按每位注视了的乘车人进行区分并保存到保存装置M。由此,提示部80能够按每位乘车人区分地提示注视事件,也能够优先地提示例如驾驶员的注视事件等,扩展提示方式的范围。

<注视对象检测方法>

接着参照图2,关于第一实施方式的注视对象检测方法进行说明。应予说明,由以下的步骤详述的本实施方式的注视对象检测方法由上述的控制装置CTL执行。

即本实施方式的控制装置CTL通过如上所述地检测乘坐汽车等车辆的乘车人的视线来捕捉乘车人的注视对象。另外,控制装置CTL特征在于,之后使用上述的判定阈值来确定是否将乘车人所注视的注视对象设为注视事件。

即,首先在步骤1,检测乘车人的视线。更具体地,如上所述控制装置CTL通过上述的车内相机V2捕捉乘车人的视线。应予说明,在本步骤1中,在车辆内存在多个乘车人的情况下,也可以按每位乘车人检测视线。以下,例如作为乘车人的一例以车辆的驾驶员为例继续进行说明。

接着在步骤2,判定乘车人是否正在注视注视对象。更具体地,例如与上述的日本特开2013-255168号公报中所公开的方案同样地,控制装置CTL确定注视对象。应予说明,此时控制装置CTL也可以参照导航装置N的地图信息和车辆的位置信息等来缩减乘车人所注视的注视对象的候选。另外,控制装置CTL在该步骤2中,在判定为视线未固定于预定范围而是分散地移动等而没有注视对象的情况下,返回到步骤1从视线检测重新进行处理。

并且在步骤2中判定为乘车人正在注视着注视对象的情况下,在接着的步骤3判定该注视对象是否为新的对象。由于例如在开始本处理的初期的情况下没有以前的注视对象,所以前进到步骤4-B。另一方面,例如假定在后述的步骤5中未达到判定阈值而从步骤1再次重复进行处理的情况下,假设注视对象没有变化而前进到步骤4-A。

在步骤4-A,确定(计算)用于是否将注视对象确定作为后述的注视事件的判定阈值。更具体地,控制装置CTL的阈值调整部40分别从曲率运算部20、转向角信息取得部25以及相对速度信息取得部30取得上述的本车轨迹的曲率ρ和相对速度信息VI以及相对位置信息PI中的至少一个,并基于该所取得的信息确定(可变)用于根据上述的系数γ判定注视对象的判定阈值T。

应予说明,如根据图示可理解,即使在未注视新的注视对象的情况下,本实施方式的阈值调整部40也通过步骤4-A进行判定阈值的确定(再计算)处理。同样地,在注视了新的注视对象的情况下,阈值调整部40通过步骤4-B重置对注视着该注视对象的注视时间进行计时的计时器(未图示)的计数器,并且进行上述的判定阈值的确定(计算)处理。

在接着的步骤5,控制装置CTL的注视判定部50基于上述的阈值调整部40可变的判定阈值来判定此时的由计时器计时的从注视注视对象开始的注视时间是否达到了判定阈值T。并且,在从上述的乘车人对注视对象进行注视开始达到了判定阈值T的情况下(步骤5中为“是”),确定为该注视对象是乘车人感兴趣而注视的注视事件。

另一方面,在步骤5中从上述的乘车人对注视对象进行注视开始的注视时间未达到判定阈值T的情况下(步骤5中为“否”),返回步骤1重复进行上述的处理。如果此时乘车人的注视对象没有变化,则从步骤1起经由步骤3以及步骤4-A而不经过步骤4-B,再次在步骤5判定由计时器计时的注视时间是否达到了判定阈值。

并且,在步骤6中确定为注视对象是注视事件的情况下,在步骤7对乘车人提示该注视事件。更具体地,上述的控制装置CTL的提示部80介由提示装置P以声音和/或图像等对乘车人提示该注视事件。

在接着的步骤8,判定是否例如到达目的地等且车辆的电源开关成为了OFF(关断),并且在还未成为OFF的情况下(在步骤8中为“否”)返回步骤1继续上述的处理,并且在成为了OFF的情况下(在步骤8中为“是”)结束处理。

由此,在车辆正驱动着的期间持续进行是否将注视对象确定作为注视事件的判定,并例如按每位乘车人提示注视事件。应予说明,在本实施方式中,提示部80介由提示装置P对乘车人提示注视事件。作为这样的提示方式,例如既可以即时地提示上述的注视事件,也可以将上述的注视事件暂时地保存于保存装置M并在停车过程中等事后时移而进行提示,还可以在任意的时间将与注视事件相关的信息转送到乘车人的智能手机等而进行提示。

根据以上所说明的第一实施方式的注视对象检测装置以及注视对象检测方法,能够与各种行驶环境相应地更加适当地检测乘车人所注视的对象。

[第二实施方式]

<注视对象检测装置110>

接着参照图4和图5,关于第二实施方式的注视对象检测装置110进行说明。在本实施方式中,主要特征在于与乘车人在车辆内的落座位置相关的信息也用于确定判定阈值这一点。由此,以下对具有与上述的第一实施方式相同的功能的构成标注相同的参照编号而适当地省略其说明。

如图4所示,本实施方式的注视对象检测装置110构成为还具有落座位置检测部60。该落座位置检测部60构成为能够从搭载于车辆的各座椅的公知的负载传感器(未图示)等,取得表示乘车人落座于此座椅的落座信息。应予说明,落座位置检测部60也可以构成为取代上述方法而是例如基于来自车内相机V2的信息来取得乘车人的落座位置。

并且,控制装置CTL的阈值调整部40与由该落座位置检测部60检测出的乘车人的座位位置相应地使上述的判定阈值可变。

即如图5所示,例如在餐厅WO1成为注视对象的情况下,控制装置CTL关于落座于前部座位的乘车人X1和落座于后部座位的乘车人X2使上述的判定阈值T可变。例如后部座位与前部座位相比死角更多,能够注视餐厅WO1的时间相对更少。

因此,控制装置CTL的阈值调整部40在上述的情况下,作为一例,能够对于应用于落座于后部座位的乘客X2的判定阈值T,以其小于应用于落座于前部座位的乘车人X1的判定阈值T的方式来设定上述的系数γ的值。这样,对于落座于死角比较多的后部座位的乘车人,控制装置CTL也可以以其判定阈值小于落座于前部座位的乘车人的判定阈值的方式(设定)使判定阈值可变。

进而,在上述的餐厅WO1成为注视对象的情况下,关于落座于右侧座位的乘车人X1和落座于左侧座位的乘车人X2,也认为注视餐厅WO1的状况不同。因此,在该情况下,控制装置CTL的阈值调整部40也可以在落座于车辆的右侧座位的乘车人和落座于左侧座位的乘车人之间,使判定阈值T彼此不同。

由此,除了在第一实施方式中所说明的效果以外,还能够与乘车人的落座的位置相应地更加适当地检测乘车人所注视的对象。

应予说明,在转弯时检测乘车人所注视的注视对象的情况下,阈值调整部40也可以根据在车辆的行进方向的某一侧是否存在注视对象这一情况来使判定阈值可变。

更具体地,设想乘车人X1注视例如图5所示的餐厅WO1和纪念碑WO2分别作为注视对象的情况。此时,阈值调整部40也可以按增大对存在于转弯侧的注视对象(餐厅WO1)的判定阈值T的方式,使存在于车辆的前进方向右侧的注视对象(餐厅WO1)所用的判定阈值和存在于行进方向左侧的注视对象(纪念碑WO2)所用的判定阈值彼此不同。

[第三实施方式]

<注视对象检测装置120>

接着参照图6~图9,关于第三实施方式的注视对象检测装置120进行说明。在本实施方式中主要特征在于:(a)判定乘车人感兴趣地所注视的注视事件的兴趣的程度(兴趣水平);(b)检测与该注视事件的内容相关的属性;(c)与该注视事件的兴趣水平或者属性相应地使车辆的驱动控制不同等。

即,注视对象检测装置120与第一实施方式和/或第二实施方式的注视对象检测装置相比,构成为包含兴趣水平判定部70、属性检测部90以及车辆控制部VC。

应予说明,在本实施方式中,可以是具备所有的上述的特征(a)~(c),也可以是具备特征(a)以及(c)的组合、或者具备特征(b)以及(c)的组合的方式。

以下,对具有与上述的第一实施方式和/或第二实施方式相同的功能的构成标注相同参照编号而适当地省略其说明。

首先在图7所示的本实施方式的注视对象检测方法中,与第一实施方式的注视对象检测方法相比附加了步骤α以及步骤β。

在其中的步骤α中,通过控制装置CTL判定在步骤6所确定的注视事件的兴趣水平。更具体地,控制装置CTL的兴趣水平判定部70具有判定乘车人对感兴趣地所注视的注视事件的兴趣水平的功能。

应予说明,关于乘车人的兴趣水平的判定方案而言,能够应用公知的各种情绪推定技术。作为这样的情绪推定技术,可以如例如在日本特开2017-138762号等中也例示的,通过车内相机V2进行乘车人的表情检测,并且对其使用有效利用了公知的AI(ArtificialIntelligence:人工智能)技术的情绪推定算法来判定乘车人的情绪。或者在乘车人为驾驶员的情况下,能够通过搭载于方向盘的脉搏传感器(未图示)根据乘车人的情绪的起伏来判断兴趣水平的高低。

并且,上述的提示部80也可以与所判定的兴趣水平和/或乘车人的情绪值相应地使注视事件的提示方式不同来进行提示(步骤7)。例如如图9所例示,将兴趣水平分为“高”和“普通”两个等级地进行设定,并且进一步地设定正(积极)的情绪和负(消极)的情绪两个值作为乘车人的情绪值。

并且,例如如果注视事件的兴趣水平高,则提示部80可以进行使用声音以及图像双方来对乘车人提示上述注视事件的控制。另外,如果注视事件的兴趣水平为普通,则提示部80可以进行以声音或者图像对乘车人提示上述注视事件的控制。

另外,在步骤β中,通过控制装置CTL判定在步骤6所确定的注视事件的属性。更具体地,控制装置CTL的属性检测部90对通过例如车外相机V1所拍摄的注视事件进行图像分析,并判定该注视对象是“建筑物”、“人”、“其他”中的哪一个。在本实施方式中,由于简单地判定上述的三种分类,所以能够应用使用了例如AI的深度学习的公知的图像分析技术。应予说明,上述区分是一例,只要能够使用例如公知的图像识别、匹配技术进行判别,则也可以按与保存于导航装置N的地图信息的公知的类型(休闲设施、便利店等)相对应的方式进行区分。

另外,上述的提示部80也可以与所判定的注视事件的属性相应地使该注视事件的提示方式不同来进行提示(步骤7)。例如,如果注视事件的属性为“建筑物”,则可以通过图像向乘车人提示该注视事件,如果注视事件的属性为“人”,则可以通过声音向乘车人提示该注视事件。

另外,提示部80也可以将在步骤α或步骤β判定出的注视事件的兴趣水平或属性、或者乘车人的情绪值附随于上述的判定注视对象信息并保存到保存装置M。例如如图8的注视事件DB2所示,与注视事件的属性相关的信息可以与注视事件的内容和/或日期、或者注视人物信息一起作为上述的判定注视对象信息保存到保存装置M。

另外,例如如图9的注视事件DB3所示,与注视事件的兴趣水平和/或乘车人的情绪值相关的信息可以与提示部80所实施的提示方式(处理历史)一起作为上述的判定注视对象信息保存到保存装置M。

车辆控制部VC具有进行车辆的驱动控制的功能。更具体地,车辆控制部VC具有切换将车辆设为自动驾驶控制还是设为由驾驶员进行的手动驾驶的功能。因而,在控制装置CTL具备兴趣水平判定部70的情况下,车辆控制部VC可以与该兴趣水平判定部70的判定结果相应地使驱动控制不同。作为一例,例如在注视事件的兴趣水平高的情况下,车辆控制部VC可以进行切换为自动驾驶的驱动控制。

以上,边参照附图边关于本发明的优选的实施方式进行了说明,但是本发明并不限定于该例子。例如在第二实施方式以及第三实施方式中各自所说明的特征,也可以成为在各实施方式中共同具有的构成。应理解的是,只要是本领域的技术人员,则对上述的实施方式尝试进一步的修改这一情况是明了的,关于此当然也属于本发明的技术范围。

完整详细技术资料下载
上一篇:石墨接头机器人自动装卡簧、装栓机
下一篇:视频分镜方法、装置、设备及计算机可读存储介质

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!