车辆控制系统、车辆控制方法及存储介质与流程

本申请基于2017年6月2日申请的日本国专利申请第2017-110192号而主张优先权，并将其内容援引于此。

本发明涉及车辆控制系统、车辆控制方法及存储介质。

背景技术

近些年，对于自动地控制车辆的加减速或转向中的至少一方来使车辆沿着直至目的地的路径行驶的技术(以下，称为自动驾驶)的研究不断进展。与此相关联而公开一种车载av装置，其具有：动作限制控制机构，其在手动驾驶行驶时限制av功能中的关于规定功能的动作；自动驾驶判定机构，其判定该车辆是否成为了自动驾驶行驶的状态；以及控制机构，其在由所述自动驾驶判定机构判定为该车辆成为了所述自动驾驶行驶的状态的情况下，在解除对于所述规定功能的动作的限制的状态下使所述av功能的动作能够进行(例如，日本特开2011-16385号公报)。

然而，在现有技术的装置中，有时仅因处于自动驾驶中这样的情况而解除规定功能的限制，因此乘客进行周边监视的意识有时降低。

技术实现要素：

本发明的方案考虑这样的情况而完成，其目的之一在于，提供一种能够更适当地控制设备的功能的车辆控制系统、车辆控制方法及存储介质。

本发明的车辆控制系统、车辆控制方法及存储介质采用了以下的结构。

(1)本发明的一方案的车辆控制系统具备：控制部，其选择地执行包括低速追随行驶模式在内的多个驾驶支援模式中的任一个驾驶支援模式来对车辆的驾驶进行支援，在所述低速追随行驶模式中，在所述车辆的速度为规定速度以下的情况下将存在于所述车辆的前方的前行车辆与所述车辆的车间距离维持为恒定而进行行驶；以及设备控制部，其在由所述控制部执行所述低速追随行驶模式的情况下，由所述车辆的乘客使用来解除驾驶员的视线从车辆周边偏离的特定功能的使用限制。

(2)在(1)的方案的车辆控制系统的基础上，所述特定功能为电视电话功能。

(3)在(2)的方案的车辆控制系统的基础上，所述车辆控制系统还具备显示部和扬声器，在所述控制部从执行所述低速追随行驶模式的状态停止了所述低速追随行驶模式的情况下，在作为所述特定功能而利用了电视电话功能时，所述设备控制部使所述显示部停止显示所述电视电话功能的通话对方的图像，并使由所述扬声器进行的通话对方的发声输出继续。

(4)在(3)的方案的车辆控制系统的基础上，所述设备控制部在使显示部停止显示所述通话对方的图像之后，在从所述低速追随行驶模式未被执行的状态转变成所述低速追随行驶模式被执行的情况下，使显示部再次显示停止了的所述通话对方的图像。

(5)在(2)的方案的车辆控制系统的基础上，所述车辆控制系统还具备拍摄所述乘客的摄像部，由所述摄像部拍摄到的图像用于所述电视电话功能、以及监视所述乘客的状态的乘客状态监视部对乘客的状态的监视。

(6)本发明的一方案的车辆控制方法使车载计算机进行如下处理：选择地执行包括低速追随行驶模式在内的多个驾驶支援模式中的任一个驾驶支援模式来对车辆的驾驶进行支援，在所述低速追随行驶模式中，在所述车辆的速度为规定速度以下的情况下将存在于所述车辆的前方的前行车辆与所述车辆的车间距离维持为恒定而进行行驶；以及在执行所述低速追随行驶模式的情况下，由所述车辆的乘客使用来解除驾驶员的视线从车辆周边偏离的特定功能的使用限制。

(7)本发明的一方案的存储介质存储有程序，该程序使车载计算机进行如下处理：选择地执行包括低速追随行驶模式在内的多个驾驶支援模式中的任一个驾驶支援模式来对车辆的驾驶进行支援，在所述低速追随行驶模式中，在所述车辆的速度为规定速度以下的情况下将存在于所述车辆的前方的前行车辆与所述车辆的车间距离维持为恒定而进行行驶；以及在执行所述低速追随行驶模式的情况下，由所述车辆的乘客使用来解除驾驶员的视线从车辆周边偏离的特定功能的使用限制。

根据上述(1)～(3)、(6)或(7)的方案，能够更适当地控制设备的功能。

根据上述(4)的方案，在从未执行低速追随模式的状态转变成执行低速追随模式的状态的情况下，使显示部再次显示停止的通话对方的图像，因此对乘客而言的便利性提高。

根据上述(5)的方案，由摄像部拍摄到的图像用于电视电话、以及监视乘客的状态的乘客状态监视部对乘客的状态的监视，因此能够抑制成本。

附图说明

图1是包括实施方式的车辆控制系统的车辆系统的结构图。

图2是表示通过本车位置识别部识别本车辆m相对于行驶车道的相对位置及姿态的情形的图。

图3是表示基于推荐车道来生成目标轨道的情形的图。

图4是用于说明车道变更时的处理的图(之一)。

图5是用于说明车道变更时的处理的图(之二)。

图6是表示本车辆m中的hmi的一例的图。

图7是用于说明第三显示部与发光部的第一位置关系的图。

图8是例示出第三显示部与发光部的位置关系的另一侧面的图。

图9是用于说明使用第三显示部的画面的一部分区域来通知第三显示部能够使用的情况的图。

图10是表示本车辆m从手动驾驶到自动驾驶开始且执行通过自动驾驶进行的车道变更为止的各种场景的图。

图11是表示在手动驾驶时显示的第一画面及第二画面的一例的图。

图12是表示通过主开关被操作而显示的第三画面及第四画面的一例的图。

图13是表示在自动开关被操作时显示在第一显示部及hud上的画面的一例的图。

图14是表示在第一程度的驾驶支援的执行时显示在驾驶支援状态显示区域上的图像的一例的图。

图15是表示包含油门踏板和乘客的脚的要求动作通知图像的显示例的图。

图16是表示在第二程度的驾驶支援中显示在第一显示部及hud上的画面的一例的图。

图17是表示在车道变更的开始时显示的第三画面im及第四画面的一例的图。

图18是表示在车道变更的执行中显示的第三画面及第四画面的一例的图。

图19是表示在场景(1)～(3)中由hmi控制部执行的处理的流程的一例的流程图。

图20是表示hmi控制部使第一显示部显示第三画面im的处理的一例的流程图。

图21是表示产生本车辆m的行为发生变化的事件的情况下的显示控制处理的一例的流程图。

图22是表示对本车辆m执行第三程度下的驾驶支援且之后从执行第三程度下的驾驶支援到执行第二程度下的驾驶支援的各种场景的图。

图23是表示在本车辆m的加速控制时显示的第三画面及第四画面的一例的图。

图24是表示在低速追随行驶时显示的第三画面及第四画面的一例的图。

图25是表示为了对乘客要求周边监视而显示的第三画面及第四画面的一例的图。

图26是表示从第三程度切换为第二程度的情况下的第三画面及第四画面的一例的图。

图27是表示在场景(4)～(6)中由hmi控制部执行的处理的流程的一例的流程图。

图28是表示由hmi控制部进行的特定功能的执行处理的流程的流程图。

图29是表示根据驾驶的程度而显示在第三显示部上的图像发生变化的情形的一例的图。

图30是表示直至将本车辆m从第二程度的驾驶支援切换为通过手动驾驶进行的行驶为止的各种场景的图。

图31是表示在向手动驾驶时切换的切换要求时显示的第三画面im及第四画面im的一例的图。

图32是表示加强用于使乘客执行手动驾驶的警告的第三画面im及第四画面im的一例的图。

图33是用于说明使座椅安全带振动来对乘客进行警告的情况的图。

图34是表示显示结束自动驾驶的意旨的信息的第三画面及第四画面的一例的图。

图35是表示本车辆m紧急停止时的第三画面及第四画面im的一例的图。

图36是表示在场景(7)～(9)中由hmi控制部执行的处理的流程的一例的流程图。

图37是用于说明与驾驶支援相关联的各种设备或控制的切换时机的图。

图38是用于说明实施方式中的驾驶支援的切换控制的图。

具体实施方式

以下，参照附图来说明本发明的车辆控制系统、车辆控制方法及存储介质的实施方式。在实施方式中，车辆控制系统适用于能够自动驾驶(自主驾驶)的自动驾驶车辆。原则上，自动驾驶是在不需要由乘客进行操作的状态下车辆进行行驶的控制形态。自动驾驶可以认为是驾驶支援的一种。自动驾驶车辆也能够通过手动驾驶进行行驶。在以下的说明中，作为一例，说明“乘客”是指就坐于驾驶员座即设有驾驶操作件的座椅的乘客的情况，但没有限定于此，也可以是就坐于副驾驶座等其他座位的乘客。

在本实施方式中，驾驶支援的程度例如包括第一程度、第二程度及第三程度。第一程度例如为通过acc(adaptivecruisecontrolsystem)、lkas(lanekeepingassistancesystem)等驾驶支援装置工作来执行驾驶支援的程度。第二程度为在对乘客要求某程度的周边监视义务的状态下，控制程度比第一程度高且乘客不对车辆的驾驶操作件进行操作，并对车辆的加减速或转向中的至少一方进行自动地控制来执行自动驾驶的程度。第三程度为控制程度比第二程度高且不对乘客要求周边监视义务的(或者要求比第二程度低的周边监视义务的)程度。在本实施方式中，第二程度及第三程度的驾驶支援相当于自动驾驶。

[整体结构]

图1是包括实施方式的车辆控制系统的车辆系统1的结构图。搭载有车辆系统1的车辆(以下，称作本车辆m)例如为二轮、三轮、四轮等的车辆，其驱动源为柴油发动机、汽油发动机等内燃机、电动机、或者它们的组合。电动机使用与内燃机连结的发电机发出的发电电力、或者二次电池、燃料电池的放电电力来进行动作。

车辆系统1例如具备相机10、雷达装置12、探测器14、物体识别装置16、通信装置20、导航装置50、mpu(mappositioningunit)60、车辆传感器70、驾驶操作件80、车室内相机90、主控制部100、驾驶支援控制部200、自动驾驶控制单元300、hmi(humanmachineinterface)400、行驶驱动力输出装置500、制动装置510及转向装置520。上述的装置、设备通过can(controllerareanetwork)通信线等多路通信线、串行通信线、无线通信网等而彼此连接。图1所示的结构只是一例，可以省略结构的一部分，也可以进一步追加其他结构。

在实施方式中，“车辆控制系统”包括车辆系统1所具备的多个构成要素中的例如主控制部100、驾驶支援控制部200、自动驾驶控制单元300及hmi400。主控制部100、驾驶支援控制部200及自动驾驶控制单元300为“控制部”的一例。hmi控制部120为“设备控制部”的一例。

相机10例如是利用了ccd(chargecoupleddevice)、cmos(complementarymetaloxidesemiconductor)等固体摄像元件的数码相机。相机10在搭载有车辆系统1的本车辆m的任意的部位安装有一个或多个。在对前方进行拍摄的情况下，相机10安装于前风窗玻璃上部、车室内后视镜背面等。在对后方进行拍摄的情况下，相机10安装于后风窗玻璃上部、背门等。在对侧方进行拍摄的情况下，相机10安装于车门上后视镜等。相机10例如周期性地反复对本车辆m的周边进行拍摄。相机10也可以是立体摄影机。

雷达装置12向本车辆m的周边放射毫米波等电波，并且检测由物体反射后的电波(反射波)来至少检测物体的位置(距离及方位)。雷达装置12在本车辆m的任意部位安装有一个或多个。雷达装置12也可以通过fmcw(frequencymodulatedcontinuouswave)方式来检测物体的位置及速度。

探测器14是测定相对于照射光的散射光来检测直至对象的距离的lidar(lightdetectionandranging、或者laserimagingdetectionandranging)。探测器14在本车辆m的任意部位安装有一个或多个。

物体识别装置16对相机10、雷达装置12及探测器14中的一部分或全部的检测结果进行传感器融合处理来识别物体的位置、种类、速度等。物体识别装置16将识别结果向驾驶支援控制部200及自动驾驶控制单元300输出。

通信装置20例如利用蜂窝网、wi-fi网、bluetooth(注册商标)、dsrc(dedicatedshortrangecommunication)等与存在于本车辆m的周边的其他车辆进行通信，或者经由无线基地站与各种服务器装置进行通信。另外，通信装置20与车外的人员所持有的终端装置进行通信。

导航装置50例如具备gnss(globalnavigationsatellitesystem)接收机51、导航hmi52及路径决定部53，并将第一地图信息54保持于hdd(harddiskdrive)、闪存器等存储装置。gnss接收机基于从gnss卫星接收到的信号来确定本车辆m的位置。本车辆m的位置也可以通过利用了车辆传感器70的输出的ins(inertialnavigationsystem)来确定或补充。导航hmi52包括显示装置、扬声器、触摸面板及按键等。导航hmi52也可以与后述的hmi400一部分或全部共用化。路径决定部53例如根据由gnss接收机51确定的本车辆m的位置(或者输入的任意位置)，参照第一地图信息54来决定直至由乘客使用导航hmi52输入的目的地为止的路径(例如，包括与行驶到目的地时的途经地相关的信息)。第一地图信息54例如是通过表示道路的线路和由线路连接的节点来表现道路形状的信息。第一地图信息54也可以包括道路的曲率、poi(pointofinterest)信息等。由路径决定部53决定的路径向mpu60输出。导航装置50也可以基于由路径决定部53决定的路径来进行使用了导航hmi52的路径引导。需要说明的是，导航装置50例如也可以通过用户持有的智能手机、平板终端等终端装置的功能来实现。导航装置50还可以经由通信装置20向导航服务器发送当前位置和目的地来取得从导航服务器回复的路径。

mpu60例如作为推荐车道决定部61而发挥功能，将第二地图信息62保持于hdd、闪存器等存储装置。推荐车道决定部61将从导航装置50提供的路径分割为多个区段(例如在车辆行进方向上按100[m]分割)，并参照第二地图信息62而按区段决定推荐车道。推荐车道决定部61进行在从左侧起的第几个车道上行驶这样的决定。推荐车道决定部61在路径中存在分支部位、汇合部位等的情况下，决定推荐车道，以使本车辆m能够在用于向分支目的地行进的合理的行驶路径上行驶。

第二地图信息62是比第一地图信息54精度高的地图信息。第二地图信息62例如包括车道的中央的信息或者车道的边界的信息等。在第二地图信息62中可以包括道路信息、交通限制信息、住所信息(住所、邮政编码)、设施信息、电话号码信息等。道路信息中包括高速道路、收费道路、国道、都道府县道这样的表示道路的类别的信息、道路的车道数、紧急停车带的区域、各车道的宽度、道路的坡度、道路的位置(包括经度、纬度、高度的三维坐标)、车道的转弯的曲率、车道的汇合及分支点的位置、设置于道路的标识等信息。第二地图信息62可以通过使用通信装置20访问其他装置而随时更新。

车辆传感器70包括检测本车辆m的速度的车速传感器、检测加速度的加速度传感器、检测绕铅垂轴的角速度的横摆角速度传感器、以及检测本车辆m的朝向的方位传感器等。

驾驶操作件80例如可以包括油门踏板、制动踏板、变速杆、转向盘及其他操作件。在驾驶操作件80上安装有对操作量或操作的有无进行检测的操作传感器。操作传感器的检测结果向主控制部100、驾驶支援控制部200、自动驾驶控制单元300、行驶驱动力输出装置500、制动装置510及转向装置520中的任一个功能结构或多个功能结构输出。

车室内相机90例如以就坐于在车室内设置的座椅的乘客(尤其是就坐于驾驶员座的乘客)的面部为中心进行拍摄。车室内相机90是利用了ccd、cmos等固体摄像元件的数码相机。车室内相机90例如周期性地对乘客进行拍摄。车室内相机90的拍摄图像向主控制部100输出。

[各种控制装置]

车辆系统1例如具备主控制部100、驾驶支援控制部200及自动驾驶控制单元300。主控制部100也可以与驾驶支援控制部200或自动驾驶控制单元300中的某一个合并。

[主控制部]

主控制部100对驾驶支援的程度进行切换，或者对hmi400进行控制。主控制部100例如具备切换控制部110、hmi控制部120、操作件状态判定部130及乘客状态监视部140。切换控制部110、hmi控制部120、操作件状态判定部130及乘客状态监视部140分别通过cpu(centralprocessingunit)等处理器执行程序来实现。上述的功能部中的一部分或全部也可以通过lsi(largescaleintegration)、asic(applicationspecificintegratedcircuit)、fpga(field-programmablegatearray)等硬件来实现，还可以通过软件与硬件的协同配合来实现。程序可以预先保存于hdd(harddiskdrive)、闪存器等存储装置，也可以保存于dvd、cd-rom等能够装卸的存储介质，并将存储介质装配于驱动装置而安装于存储装置。

切换控制部110例如基于从hmi400所包含的规定的开关(例如后述的主开关及自动开关)输入的操作信号来对驾驶支援的程度进行切换。切换控制部110例如可以基于对油门踏板、制动踏板、转向盘等驾驶操作件80指示加速、减速或转向的操作，来取消驾驶支援而切换为手动驾驶。对切换控制部110的功能的详细情况后述。

切换控制部110也可以基于由行动计划生成部323生成的行动计划来切换驾驶支援的程度。例如，切换控制部110可以在由行动计划规定的自动驾驶的结束预定地点使驾驶支援结束。

nmi控制部120使nmi400输出与驾驶支援的程度的切换相关联的通知等。nmi控制部120也可以使nmi400输出与操作件状态判定部130或乘客状态监视部140中的一方或双方处理的处理结果相关的信息。nmi控制部120也可以将由nmi400接受到的信息向驾驶支援控制部200或自动驾驶控制单元300中的一方或双方输出。对nmi控制部120的功能的详细情况后述。

操作件状态判定部130例如判定驾驶操作件80所包含的转向盘是否为正被操作的状态(具体而言，是指在当前驾驶员正进行有意图的操作的情况下能够立即操作的状态或把持状态)。对操作件状态判定部130的功能的详细情况后述。

乘客状态监视部140基于车室内相机90的拍摄图像来对就坐于本车辆m的至少驾驶员座的乘客的状态进行监视。乘客状态监视部140例如作为监视的一个，来判定该乘客是否正监视本车辆m的周围。对乘客状态监视部140的功能的详细情况后述。

[驾驶支援控制部]

驾驶支援控制部200执行第一程度的驾驶支援。驾驶支援控制部200例如作为第一程度的驾驶支援，执行acc、lkas及其他的驾驶支援控制。例如，驾驶支援控制部200在执行acc时，基于从物体识别装置16取得的信息来对行驶驱动力输出装置500及制动装置510进行控制，以便在将本车辆m与前行车辆的车间距离保持为恒定的状态下进行行驶。即，驾驶支援控制部200进行基于与前行车辆的车间距离的加减速控制(速度控制)。驾驶支援控制部200在执行lkas时，对转向装置520进行控制，以使本车辆m一边维持当前行驶中的行驶车道(车道保持)一边行驶。即，驾驶支援控制部200进行用于车道维持的转向控制。第一程度的驾驶支援还可以包括除了对乘客不要求对驾驶操作件80的操作的自动驾驶(第二程度及第三程度的驾驶支援)以外的各种控制。

[自动驾驶控制单元]

自动驾驶控制单元300执行第二程度及第三程度的驾驶支援。自动驾驶控制单元300例如具备第一控制部320和第二控制部340。第一控制部320和第二控制部340分别通过cpu等处理器执行程序来实现。上述的功能部中的一部分或全部也可以通过lsi、asic、fpga等硬件来实现，还可以通过软件与硬件的协同配合来实现。

第一控制部320例如具备外界识别部321、本车位置识别部322及行动计划生成部323。

外界识别部321基于从相机10、雷达装置12及探测器14经由物体识别装置16输入的信息，来识别周边车辆的位置及速度、加速度等的状态。周边车辆的位置可以由该周边车辆的重心、角部等代表点来表示，也可以由通过周边车辆的轮廓表现的区域来表示。周边车辆的“状态”也可以包括周边车辆的加速度、加加速度、或者“行动状态”(例如是否正进行车道变更或者要进行车道变更)。

外界识别部321可以识别上述的周边车辆、障碍物(例如，护栏、电线杆、驻车车辆、行人等人物)、道路形状及其他的物体中的至少一个。

本车位置识别部322例如识别本车辆m正行驶的车道(行驶车道)、以及本车辆m相对于行驶车道的相对位置及姿态。本车位置识别部322例如通过对从第二地图信息62得到的道路划分线的图案(例如实线与虚线的排列)和从由相机10拍摄到的图像识别出的本车辆m的周边的道路划分线的图案进行比较，来识别行驶车道。在该识别中，也可以加进从导航装置50取得的本车辆m的位置、由ins处理的处理结果。

并且，本车位置识别部322例如识别本车辆m相对于行驶车道的位置、姿态。图2是表示由本车位置识别部322识别本车辆m相对于行驶车道l1的相对位置及姿态的情形的图。本车位置识别部322例如将本车辆m的基准点(例如重心)从行驶车道中央cl的偏离os、以及本车辆m的行进方向相对于将行驶车道中央cl相连的线所成的角度θ作为本车辆m相对于行驶车道l1的相对位置及姿态来识别。也可以代替于此，本车位置识别部322将本车辆m的基准点相对于行驶车道l1的任一侧端部的位置等作为本车辆m相对于行驶车道的相对位置来识别。由本车位置识别部322识别出的本车辆m的相对位置向推荐车道决定部61及行动计划生成部323提供。

行动计划生成部323生成用于使本车辆m相对于目的地等进行自动驾驶的行动计划。例如，行动计划生成部323决定在自动驾驶控制中依次执行的事件，以便在由推荐车道决定部61决定的推荐车道上行驶，且能够应对本车辆m的周边状况。事件是规定了本车辆m的行驶形态的信息。实施方式的自动驾驶的事件中例如存在以恒定速度在相同的行驶车道上行驶的定速行驶事件、以低速度(例如60[km/h]以下)为条件而追随于前行车辆的低速追随事件、变更本车辆m的行驶车道的车道变更事件、赶超前行车辆的赶超事件、使车辆在汇合地点汇合的汇合事件、使本车辆m在道路的分支地点向目的方向行驶的分支事件、以及使本车辆m紧急停车的紧急停车事件等。在上述的事件的执行中，也有时基于本车辆m的周边状况(周边车辆、行人的存在、道路施工引起的车道狭窄等)来计划用于躲避的行动。

行动计划生成部323生成本车辆m将来行驶的目标轨道。目标轨道表现为将本车辆m应该到达的地点(轨道点)依次排列的轨道。轨道点是每隔规定的行驶距离的本车辆m应该到达的地点，也可以与此不同，将每隔规定的采样时间(例如零点几[sec]程度)的目标速度及目标加速度作为目标轨道的一部分来生成。轨道点也可以是每隔规定的采样时间的、在该采样时刻下的本车辆m应该到达的地点。在这种情况下，目标速度、目标加速度的信息由轨道点的间隔来表现。

图3是表示基于推荐车道生成目标轨道的情形的图。如图所示，推荐车道设定为适合于沿着直至目的地为止的路径行驶。当来到距推荐车道的切换地点规定距离的跟前(可以根据事件的种类决定)时，行动计划生成部323起动车道变更事件、分支事件、汇合事件等。在各事件的执行中，在需要躲避障碍物的情况下，如图示那样生成躲避轨道。

行动计划生成部323当起动车道变更事件时，生成用于车道变更的目标轨道。图4及图5是用于说明车道变更时的处理的图。首先，行动计划生成部323从在与本车辆m行驶的车道(本车道)l1相邻且为车道变更目的地的相邻车道l2上行驶的周边车辆中选择2台周边车辆，并在上述的周边车辆之间设定车道变更目标位置tas。以下，将相邻车道中在车道变更目标位置tas的紧前方行驶的周边车辆称作前方基准车辆mb，并将相邻车道中在车道变更目标位置tas的紧后方行驶的周边车辆称作后方基准车辆mc来进行说明。车道变更目标位置tas是基于本车辆m与前方基准车辆mb及后方基准车辆mc的位置关系而得到的相对的位置。

在图4的例子中，示出行动计划生成部323设定了车道变更目标位置tas的情形。图中，ma表示前行车辆，mb表示前方基准车辆，mc表示后方基准车辆。箭头d表示本车辆m的行进(行驶)方向。在图4的例子的情况下，行动计划生成部323在相邻车道l2上且在前方基准车辆mb与后方基准车辆mc之间设定车道变更目标位置tas。

接着，行动计划生成部323判定是否满足一次条件，该一次条件用于判定是否能够向车道变更目标位置tas(即，前方基准车辆mb与后方基准车辆mc之间)进行车道变更。

一次条件例如是在相邻车道上设置的禁止区域ra中一台周边车辆也不存在且本车辆m与前方基准车辆mb及后方基准车辆mc的ttc分别比阈值大的条件。该判定条件是在本车辆m的侧方设定车道变更目标位置tas的情况的一例。在不满足一次条件的情况下，行动计划生成部323再次设定车道变更目标位置tas。此时，可以待机至能够设置满足一次条件那样的车道变更目标位置tas的时机，或者变更车道变更目标位置tas而进行用于向车道变更目标位置tas的侧方移动的速度控制。

如图4所示，行动计划生成部323例如将本车辆m向车道变更目的地的车道l2投影，来设定在该投影的前后具有若干的富余距离的禁止区域ra。禁止区域ra设定为从车道l2的横向的一端延伸到另一端的区域。

在禁止区域ra内不存在周边车辆的情况下，行动计划生成部323例如设想使本车辆m的前端及后端向车道变更目的地的车道l2侧假想地延伸出的延伸线fm及延伸线rm。行动计划生成部323算出延伸线fm与前方基准车辆mb的碰撞富余时间ttc(b)、以及延伸线rm与后方基准车辆mc的碰撞富余时间ttc(c)。碰撞富余时间ttc(b)是通过将延伸线fm与前方基准车辆mb的距离除以本车辆m与前方基准车辆mb的相对速度而导出的时间。碰撞富余时间ttc(c)是通过将延伸线rm与后方基准车辆mc的距离除以本车辆m与后方基准车辆mc的相对速度而导出的时间。轨道生成部118在碰撞富余时间ttc(b)比阈值th(b)大且碰撞富余时间ttc(c)比阈值th(c)大的情况下，判定为满足一次条件。阈值th(b)与th(c)可以为相同的值，也可以为不同的值。

在满足一次条件的情况下，行动计划生成部323生成用于车道变更的轨道的候补。在图5的例子中，行动计划生成部323假定为前行车辆ma、前方基准车辆mb及后方基准车辆mc以规定的速度模型行驶，并基于上述3台车辆的速度模型和本车辆m的速度，以使本车辆m不与前行车辆ma发生干涉且在将来的某时刻位于前方基准车辆mb与后方基准车辆mc之间的方式生成轨道的候补。例如，行动计划生成部323使用样条曲线等多项式曲线从当前的本车辆m的位置平滑地连接到将来的某时刻的前方基准车辆mb的位置、或车道变更目的地的车道的中央且车道变更的结束地点，且在该曲线上以等间隔或不等间隔配置规定个数轨道点k。此时，行动计划生成部323以使轨道点k中的至少一个配置于车道变更目标位置tas内的方式生成轨道。

在各种场景中，行动计划生成部323生成多个目标轨道的候补，并选择在该时刻下适合于直至目的地的路径的最佳的目标轨道。

第二控制部340例如具备行驶控制部342。行驶控制部342对行驶驱动力输出装置500、制动装置510及转向装置520进行控制，以使本车辆m按预定的时刻通过由行动计划生成部323生成的目标轨道。

hmi400对车内的乘客提示各种信息，并且接受由乘客进行的输入操作。hmi400例如包括各种显示装置、发光部、扬声器、蜂鸣器、触摸面板、各种操作开关及按键等中的一部分或全部。在hmi400中也可以包括在使乘客就坐于座椅的状态下由座椅安全带保持的座椅安全带装置。对hmi400的功能的详细情况后述。

行驶驱动力输出装置500将用于使车辆行驶的行驶驱动力(转矩)向驱动轮输出。行驶驱动力输出装置500例如具备内燃机、电动机及变速器等的组合和对它们进行控制的ecu(electroniccontrolunit)。ecu按照从行驶控制部342输入的信息或者从驾驶操作件80输入的信息来控制上述的结构。

制动装置510例如具备制动钳、向制动钳传递液压的液压缸、使液压缸产生液压的电动马达、以及制动ecu。制动ecu按照从行驶控制部342输入的信息、或者从驾驶操作件80输入的信息来控制电动马达，并将与制动操作相应的制动转矩向各车轮输出。制动装置510可以具备将通过驾驶操作件80所包含的制动踏板的操作而产生的液压经由主液压缸向液压缸传递的机构来作为备用。制动装置510不限于上述说明的结构，也可以是按照从行驶控制部342输入的信息、或者从驾驶操作件80输入的信息来对致动器进行控制，从而将主液压缸的液压向液压缸传递的电子控制式液压制动装置。另外，制动装置510也可以具备液压或电动等的多个系统的制动装置。

转向装置520例如具备转向ecu和电动马达。电动马达例如使力作用于齿条-小齿轮机构来变更转向轮的朝向。转向ecu按照从行驶控制部342输入的信息、或者从驾驶操作件80输入的信息来驱动电动马达，使转向轮的朝向变更。

在手动驾驶时，来自驾驶操作件80的输入信息直接向行驶驱动力输出装置500、制动装置510及转向装置520输出。来自驾驶操作件80的输入信息也可以经由自动驾驶控制单元300而向行驶驱动力输出装置500、制动装置510及转向装置520输出。行驶驱动力输出装置500、制动装置510及转向装置520的各ecu基于来自驾驶操作件80等的输入信息来进行各自的动作。

[hmi400的结构]

以下，对实施方式的hmi400的结构例进行说明。图6是表示本车辆m中的hmi400的一例的图。hmi400例如具备第一操作部410、第二操作部420、发光部430r及430l、第三操作部440、第一显示部450、hud(headupdisplay)(第二显示部)460及第三显示部470。

第一操作部410、第二操作部420及发光部430r、430l设置于作为驾驶操作件80之一的转向盘82。在转向盘82上设有把持传感器82a。把持传感器82a例如是以沿着转向盘82的周向的方式设置的静电电容传感器。把持传感器82a将物体接近或接触检测对象的区域的情况作为静电电容的变化来检测。把持传感器82a在静电电容为阈值以上的情况下，将规定的检测信号向主控制部100的操作件状态判定部130输出。该阈值例如设定为比乘客把持转向盘82的情况下产生的静电电容低的值。把持传感器82a也可以不论是否为阈值以上，都将表示静电电容的检测信号向操作件状态判定部130输出。

第一操作部410例如具备主开关412和自动开关414。主开关412是用于使驾驶支援成为能够开始的状态的开关。主开关412是后述的用于使执行驾驶支援之前的准备阶段中的处理(内部处理)开始的开关，或者是用于成为可能判定驾驶支援是否成为能够开始的状态的开关。

在主开关412被操作的情况下，本车辆m并不立刻开始驾驶支援的执行，而是进行执行驾驶支援之前的准备阶段中的处理。准备阶段中的处理例如是指物体识别的处理的开始(具体而言，为卡尔曼滤波器的动作开始等)。在主开关412被操作而驾驶支援成为能够开始的状态下(即，从被操作起经过某程度的时间之后)自动开关414被操作时，用于驾驶支援的控制开始。即，在驾驶支援能够开始的状态下，自动开关414实际上是用于使第一程度的驾驶支援开始的开关。

第二操作部420是用于使带图像的通话功能(也称作电视电话)的提供开始的操作开关422。发光部430r、430l例如设置于转向盘82的从中央的轮毂部朝向环状的轮缘部延伸的轮辐部。发光部430r、430l通过hmi控制部120的控制来控制点亮状态。

第三操作部440例如具备从乘客观察时向近前侧突出的转动操作部442和开关操作部444。转动操作部442形成为大致圆筒状，且能够绕轴线进行旋转操作。开关操作部444设置于转动操作部442的周边或转动操作部442的顶面。第三操作部440具备对转动操作部442的旋转角度和旋转速度进行检测的编码器等未图示的旋转传感器和对开关操作部444的位移进行检测的未图示的位移传感器，从各个传感器输出的检测值向主控制部100输出。向主控制部100输出的检测值用于向第三显示部470的画面输出的箭头、选择按钮、确定按钮等的操作、输入文字的选择、确定等。

第三操作部440也可以是通过指尖触摸显示画面来进行选择、确定操作等的所谓的触摸面板式的操作部。在第三操作部440上设有能够发出规定的波长的光的发光部446。

第一显示部450例如是设置于仪表板中的驾驶员座的正面附近且乘客从转向盘82的间隙或越过转向盘82能够视觉辨认的显示装置。第一显示部450例如为lcd(liquidcrystaldisplay)、有机el(electroluminescence)显示装置等。在第一显示部450上显示有本车辆m的手动驾驶时或自动驾驶时的行驶所需要的信息、或者与向乘客的指示相关的信息。手动驾驶时的本车辆m的行驶所需要的信息例如是指本车辆m的速度、发动机转速、燃料余量、散热器水温、行驶距离及其他的信息。另一方面，自动驾驶时的本车辆m的行驶所需要的信息例如是指本车辆m的将来的轨道、驾驶支援的程度、及对乘客的指示等信息。

hud460例如配置在比第一显示部450高的位置。hud460将影像向规定的成像部投射。例如，hud460例如向驾驶员座前方的前风窗玻璃的一部分投射图像，从而使就坐于驾驶员座的乘客的眼睛视觉辨认虚像。由hud460投射的图像的显示区域比第一显示部450中的图像的显示区域小。这是为了抑制因由hud460投射的图像而使乘客看漏处于该图像的前方的现实的物体。在实施方式中，也可以代替hud460而将本车辆m的前风窗玻璃作为第二显示部。在该情况下，例如可以使装入仪表板的led(lightemittingdiode)发光且由前风窗玻璃反射led的发光。

第三显示部470例如安装于仪表板的中央部。第三显示部470例如是lcd、有机el显示装置等。第三显示部470例如显示与由导航装置50执行的导航处理对应的图像、或电视电话中的对方的影像等。第三显示部470可以显示电视节目，或者使dvd再现，或者显示下载的电影等的内容。

在第三显示部470上也可以设置发光部472。图7是例示出第三显示部470与发光部472的位置关系的一个侧面(aspect)的图。例如，发光部472设置于第三显示部470的一部分或附近。附近是指发光部472与第三显示部470的最短距离例如为几[cm](更具体而言，为3[cm]程度)以下的范围。在图7的例子中，发光部472以沿着形成第三显示部470的画面形状的至少一个边延伸的方式安装。

图8是例示出第三显示部470与发光部472的位置关系的另一侧面的图。在图8的例子中，第三显示部470设置于处于其前方的上部的仪表板部的遮光部474的下部。发光部472发出的光未被遮光部474遮挡而能够由乘客视觉辨认。通过采用该方式，由此遮光部474能够抑制日光等外部光向第三显示部470的照射，并且遮挡向发光部472射入的外部光的至少一部分，因此乘客对第三显示部470的视觉辨认性提高。

发光部472由hmi控制部120控制，以便在第三显示部470能够使用的情况下发光。能够使用例如是指能够通过第二操作部420被操作而将与带图像的电话功能相关的画面显示于第三显示部470，或者能够通过第三操作部440的操作而将与电影、电视节目相关的图像显示于第三显示部470。

图9是用于说明使用第三显示部470的画面的一部分区域来通知第三显示部470能够使用的情况的图。hmi控制部120对第三显示部470的整个画面区域分配第一显示区域476和第二显示区域478。第一显示区域476是第三显示部470的画面整体中的沿着任一边延伸的像素区域。hmi控制部120在第三显示部470成为能够使用的情况下，通过规定的颜色或规定的形状中的一方或双方使第一显示区域476点亮或闪烁。由此，不设置发光部472就能够向乘客通知第三显示部470为能够使用的状态。

hmi控制部120在第二显示区域478上显示由第二操作部420或第三操作部440操作的内容、或者通过操作而执行的内容。

[与自动驾驶相关联的hmi400的显示控制]

接着，说明与自动驾驶相关联的hmi400的显示控制。以下所示的显示画面中的布局只是一例，能够任意进行变更。布局是指配置、色彩、比例尺及其他。

图10是表示本车辆m从手动驾驶到自动驾驶开始且执行通过自动驾驶进行的车道变更为止的各种场景的图。在图10的例子中，场景(1)是本车辆m通过手动驾驶从一般道路向高速道路进入的场景。场景(2)是本车辆m从手动驾驶切换为自动驾驶的场景。场景(3)是本车辆m通过自动驾驶来执行车道变更的场景。以下说明与场景(1)～(3)中的各个场景对应的显示控制。

<场景(1)>

场景(1)例如是向高速道路进入之前的场景。在该场景中，第一操作部410的主开关412及自动开关414未被操作，因此未执行驾驶支援而进行手动驾驶。在进行手动驾驶的情况下，hmi控制部120使第一显示部450显示为了使驾驶员座的乘客使用驾驶操作件80来对本车辆m进行手动驾驶所需要的信息。hmi控制部120使hud460显示在第一显示部450上显示的信息中的一部分的信息。在图11中示出该情况下的画面。

图11是表示手动驾驶时显示的第一画面im1-1及第二画面im2-1的一例的图。第一画面im1-1是由第一显示部450显示的画面，第二画面im2-1是通过由hud460投影而映入乘客的眼睛的画面。hmi控制部120使第一画面im1-1显示例如本车辆m的蓄电池余量、旋转速度、挡位、室内气温、行驶距离、行驶速度、燃料余量等信息，来作为手动驾驶时的本车辆m的行驶所需要的信息。hmi控制部120使第二画面im2-1比第一画面im1-1小地显示在第一画面im1-1上显示的图像中的速度的信息。如前述那样，通过由hud460投影需要的信息而映入乘客的眼睛的图像的识别区域比第一显示部450显示的图像的显示区域小。因此，hmi控制部120使第一显示部450显示与本车辆m的驾驶支援相关的比较详细的第一信息(详细信息)，并使hud460显示比详细信息简单且与驾驶支援相关的第二信息(简单信息)。简单信息例如是指相对于详细信息而言信息量少的信息。简单信息也可以是指显示的项目的种类、数量比作为详细信息显示的项目的种类、数量少的信息。简单信息还可以是指相对于作为详细信息显示的图像而言，使析像度降低、或者单纯化或变形的图像。第二信息可以是第一信息中的重要性高的信息或紧急性高的信息。

例如，hmi控制部120使hud460显示提取详细信息的一部分得到的信息来作为简单信息。例如，在图11中，hmi控制部120提取在第一画面im1-1上显示的详细信息中的表示本车辆m的速度的信息，并使第二画面im2-1显示提取的信息。这样，使第一显示部450显示详细信息，并使hud460显示简单信息，由此能够适当地提供与驾驶支援相关的信息，并且能够避免使乘客的眼睛疲劳。

<场景(2)>

在场景(2)中，本车辆m正进入高速道路。hmi控制部120当接受主开关412由乘客操作了的情况时，对使第一显示部450及hud460显示的画面进行变更。在图12中示出变更后的画面。

图12是表示通过主开关412被操作而显示的第三画面im3-1及第四画面im4-1的一例的图。第三画面im3-1是由第一显示部450显示的画面，第四画面im4-1是通过由hud460投影而映入乘客的眼睛的画面。以下的附图所示的第三画面im3-x(x为任意的自然数)及第四画面im4-x也同样。第三画面im3-x及第四画面im4-y在驾驶支援能够执行的状态及驾驶支援执行中的状态下连续地显示。

在第三画面im3-1中，作为显示与驾驶支援相关的信息的区域，包括周边检测信息显示区域600-1、驾驶支援状态显示区域620-1及驾驶支援开始操作引导区域640-1。以下，将第三画面im3-x中的各个区域称作周边检测信息显示区域600-x、驾驶支援状态显示区域620-x及驾驶支援开始操作引导区域640-x。

hmi控制部120使周边检测信息显示区域600-1显示从第二地图信息62取得的表示本车辆m的前方的道路形状的图像、由本车位置识别部322识别出的表示本车辆m的图像及由外界识别部32识别出的表示周边车辆m的图像。hmi控制部120使第一显示部450显示由外界识别部321识别出的表示全部的周边车辆m的图像。hmi控制部120也可以使第一显示部450仅显示由外界识别部321识别出的全部的周边车辆m中的对本车辆m的将来的轨道带来影响的周边车辆m。由此，能够减少乘客监视的对象的车辆，能够减轻监视负担。

hmi控制部120使驾驶支援状态显示区域620-1显示全部表示本车辆m能够执行的驾驶支援(包括自动驾驶)的状态的候补的信息。在图12的例子中，作为表示驾驶支援的状态的候补的信息，示出表示“assist(辅助)”、“handsoff(非手握)”、“eyesoff(非注视)”这3个指示的图像621。例如，通过各个指示单个或多个指示的组合来表示驾驶支援的程度。

指示“assist”表示本车辆m正以acc、lkas等的第一程度执行驾驶支援、或者为能够向第一程度下的驾驶支援转换的状态。通过后述的要求动作通知图像622能够掌握是正以第一程度执行驾驶支援、或者还是能够向第一程度下的驾驶支援转换的状态。

指示“handsoff”表示本车辆m为正以第二程度执行驾驶支援的状态、或者为能够向第二程度下的驾驶支援转换的状态，该第二程度为乘客可以不对驾驶操作件80进行操作但对乘客要求有周边监视义务的程度。通过要求动作通知图像622能够掌握是正以第二程度执行驾驶支援、或者还是能够向第二程度下的驾驶支援转换的状态。

指示“eyesoff”表示本车辆m为正以第三程度执行驾驶支援的状态、或者为能够向第三程度下的驾驶支援转换的状态，该第三程度为乘客可以不对驾驶操作件80进行操作且对乘客也不要求周边监视义务的程度。通过要求动作通知图像622能够掌握是正以第三程度执行驾驶支援、或者还是能够向第三程度下的驾驶支援转换的状态。在图12的例子中，示出本车辆m的驾驶支援未被执行的状态(手动驾驶状态)。

hmi控制部120使驾驶支援状态显示区域620-1在与表示“assist”、“handsoff”、“eyesoff”这3个指示的图像621对应的显示位置显示要求动作通知图像622。“对应”是指存在表示横向排列、纵向排列及建立对应关系的引导线等、人能够识别对应关系的情形。作为一例，与“图像621对应的显示位置”是指与图像621相邻的显示位置，示出以图像621的显示位置为基准而距上下左右中的至少一方几[cm]以下(例如，3[cm]以下)的显示位置。要求动作通知图像622例如是表示乘客对驾驶操作件80进行的规定的动作的图像。要求动作通知图像622例如包括表示驾驶操作件80的图像和表示乘客的规定的部位的图像。要求动作通知图像622例如是示意性表示转向盘82与乘客的手的位置关系的图像。

hmi控制部120使驾驶支援开始操作引导区域640-1显示对用于使驾驶支援开始的乘客的操作进行引导的信息。在图12的例子中，在驾驶支援开始操作引导区域640-1中，引导乘客操作自动开关414而开始驾驶支援。

hmi控制部120也可以除了在驾驶支援开始操作引导区域640-1显示乘客操作自动开关414而开始驾驶支援之外，或者代替于此，从hmi400所包含的扬声器输出表示乘客操作自动开关414而开始驾驶支援的意旨的声音。

在周边检测信息显示区域600-1、驾驶支援状态显示区域620-1及驾驶支援开始操作引导区域640-1上分别显示的信息的至少一部分也可以显示于其他的显示区域。在第三画面im3-1上也可以显示与本车辆m的行驶距离、车内温度、燃料、速度及挡位相关的信息。

相对于在第三画面im3-1上显示的详细信息，hmi控制部120使hud460的第四画面im4-1显示提取详细信息的一部分而得到的简单信息。在hud460的第四画面im4-1上显示有在第一显示部450的显示画面im3-1上显示的与驾驶支援相关的信息中的与本车辆m的前方的道路形状相关的信息及表示本车辆m的速度的信息。

在图12所示的状态下，当检测出由乘客操作了自动开关414时，主控制部100使驾驶支援控制部200执行第一程度的驾驶支援。hmi控制部120将使第一显示部450及hud460显示的画面变更为例如图13所示的画面。

图13是表示在自动开关414被操作的情况下显示在第一显示部450及hud460上的画面im3-2及im4-2的一例的图。hmi控制部120将表示正执行的驾驶支援的程度的图像以与表示其他的驾驶支援的程度的图像能够辨别开的方式进行显示。例如，hmi控制部120使第三画面im3-2的驾驶支援状态显示区域620-2高亮显示指示“assist”的图像。由此，乘客能够掌握第一程度的驾驶支援正在进行的情况。

在此，作为要求动作通知图像622，hmi控制部120将如下动态图像作为要求动作通知图像622来显示，该动态图像是对乘客要求为了向与“handsoff”对应的驾驶支援的程度(自动驾驶)转变所需要的动作的图像。动态图像例如是指包括规定的物体随着时间经过而动态地移动的动态的对象的图像。在动态图像中也可以包括动画。

例如，hmi控制部120在第一程度的驾驶支援为执行中且第二程度的驾驶支援为能够执行的情况下，使第三画面im3-2的驾驶支援状态显示区域620-2显示要求动作通知图像622，该要求动作通知图像622示意性地表示用于使乘客的手成为从转向盘82离开的状态的乘客的操作内容。要求动作通知图像622是包含与用于向第二程度的驾驶支援切换的乘客的操作方法相关的信息的图像。

图14是表示在第一程度的驾驶支援的执行时显示在驾驶支援状态显示区域620-2上的图像的一例的图。hmi控制部120使驾驶支援状态显示区域620-2显示表示3个指示的图像621和要求动作通知图像622。在要求动作通知图像622中例如包括表示转向盘82的图像622a和表示乘客的手的图像622bl、622br。

例如，hmi控制部120使表示乘客的手的图像622bl、622br从表示转向盘82的图像622a向箭头a、b方向离开的动画显示。hmi控制部120也可以使表示转向盘82的图像622a及表示乘客的手的图像622bl、622br强调显示。由此，表示3个指示的图像621中的表示“assist”的指示的图像被高亮显示，因此乘客能够直观地掌握第一程度的驾驶支援正被执行的情况，而且通过要求动作通知图像622的动画能够直观地掌握要求手从转向盘82离开的动作的情况。

hmi控制部120也可以代替表示转向盘82的图像622a及表示乘客的手的图像622bl、622br的要求动作通知图像622，或者除此以外，使第三画面im3-2的驾驶支援状态显示区域620-2显示示意性地表示油门踏板与乘客的脚的位置关系的图像、或者示意性地表示制动踏板与乘客的脚的位置关系的图像，来作为要求动作通知图像623。

图15是表示包含油门踏板和乘客的脚的要求动作通知图像623的显示例的图。hmi控制部120使图15所示的驾驶支援状态显示区域620-2显示表示3个指示的图像621和要求动作通知图像623。在要求动作通知图像623中包括表示油门踏板的图像623a和表示乘客的脚的图像623b。例如，hmi控制部120在第一程度的驾驶支援为执行中且第二程度的驾驶支援为能够执行的情况下，为了向第二程度的驾驶支援切换，使表示乘客的脚的图像623b从表示油门踏板的图像623a向箭头c方向离开的动画显示。hmi控制部120也可以使表示油门踏板的图像623a及表示乘客的脚的图像623b强调显示。由此，乘客能够直观地掌握要求脚从油门踏板离开的动作。

emi控制部120使周边检测信息显示区域600-2显示表示通过乘客执行与要求动作通知图像622对应的动作而开始驾驶支援的意旨的信息。在图13的例子中，在周边检测信息显示区域600-2上显示通过使手从转向盘82(在图中为“方向盘”)离开而开始驾驶支援(在图中为“自动行驶”)的意旨的信息。

emi控制部120在对乘客要求使手从转向盘82离开的动作的情况下，可以使设置在转向盘82上的发光部430r、430l点亮或闪烁。

emi控制部120在对乘客要求使手从转向盘82离开的动作的情况下，也可以从hmi400所包含的扬声器输出表示该意旨的声音。emi控制部120也可以将与使手从转向盘82离开的动作对应的要求动作通知图像622的显示、发光部430r、430l的点亮或闪烁及声音输出中的多个形态组合而从各种设备输出。

hmi控制部120使hud460的第四画面im4-2与第四画面im4-1同样的信息。

在此，操作件状态判定部130判定是否为转向盘82已由乘客把持的状态。操作件状态判定部130例如基于前述的把持传感器82a输出的输出结果，来判定是否为转向盘82正被操作的状态。

切换控制部110在自动开关414由乘客操作之后，通过操作件状态判定部130判定为转向盘82正由乘客把持的状态的情况下，使驾驶支援控制部200继续进行第一程度的驾驶支援。

切换控制部110在自动开关414被操作的状态下，在通过操作件状态判定部130判定为满足用于向第二程度的驾驶支援转变的诸多条件且为转向盘82未由乘客把持的状态的情况下，使自动驾驶控制单元300执行第二程度的驾驶支援(即，自动驾驶)。

emi控制部120在自动驾驶控制单元300执行第二程度的驾驶支援的情况下，将在第一显示部450及hud460上显示的画面变更为例如图16所示的画面。

图16是表示在第二程度的驾驶支援中显示在第一显示部450及hud460上的画面的一例的图。hmi控制部120使第三画面im3-3的驾驶支援状态显示区域620-3高亮显示与第二程度的驾驶支援对应的“handsoff”的图像。由此，乘客能够掌握第二程度的驾驶支援正进行的情况。

hmi控制部120使周边检测信息显示区域600-3显示例如从第二地图信息62取得的表示本车辆m的前方的道路形状的图像、由本车位置识别部322识别出的表示本车辆m的图像、由外界识别部321取得的表示周边车辆m的图像、以及由行动计划生成部323生成的表示本车辆m的将来的轨道的将来轨道图像602。hmi控制部120使周边检测信息显示区域600-3显示虽然开始第二程度下的驾驶支援(在图中为自动行驶)但使乘客继续监视周边的交通状况的意旨的信息。

主控制部100的乘客状态监视部140对乘客继续监视周边的交通状况的情况进行监视。例如，乘客状态监视部140通过车室内相机90的拍摄图像来取得就坐于驾驶员座的乘客的面部图像，并根据取得的面部图像来取得视线方向。例如，乘客状态监视部140也可以通过利用了神经网络等的深度学习并根据车室内相机90的拍摄图像来取得乘客的视线方向。例如，预先构筑以如下方式进行学习了的神经网络：将通过对非特定多数的面部图像进行解析而得到的眼睛、鼻子、嘴等的特征信息、眼球的黑眼珠的位置作为输入，将视线方向输出。然后，乘客状态监视部140通过向该神经网络输入本车辆m的乘客的面部图像来取得该乘客的视线方向。

乘客状态监视部140通过乘客的视线方向是否包含于预先决定的范围，来判定乘客是否正进行本车辆m的周边监视。乘客状态监视部140在乘客的视线方向未包含于预先决定的范围的情况下，或无法取得乘客的视线方向的情况下，判定为未进行周边监视。在判定为未进行周边监视的情况下，hmi控制部120可以通过声音等进行警告，以使乘客进行周边监视。

乘客状态监视部140在乘客的视线方向包含于预先决定的能够监视周边的方向的范围的情况下，判定为乘客正进行周边监视。在该情况下，自动驾驶控制单元300继续进行第二程度的驾驶支援。在本车辆m的驾驶支援为开始中的情况下，在驾驶支援开始操作引导区域640-3上什么都不显示。

hmi控制部120使hud460的第四画面im4-3除了显示与第四画面im4-2同样的信息之外，还显示表示本车辆m的将来的轨道的将来轨道图像602。

<场景(3)>

在场景(3)中，自动驾驶控制单元300进行通过第二程度的驾驶支援实现的本车辆m的车道变更。在该情况下，hmi控制部120使第一显示部450或hud460中的一方或双方显示与驾驶支援对应的画面。

例如，hmi控制部120在本车辆m的行为发生变化之前的第一时机(例如，行为发生变化5秒之前)使表示由自动驾驶控制单元300执行的本车辆m的车道变更事件的产生的图像以第一形态显示。

图17是表示在本车辆m的行为发生变化之前的第一时机显示的第三画面im3-4及第四画面im4-4的一例的图。hmi控制部120使第三画面im3-4的周边检测信息显示区域600-4除了显示在周边检测信息显示区域600-3显示的内容以外，例如还显示图像604，该图像604表示示出本车用m进行车道变更的方向的意旨。在图17的例子中，显示本车辆m向与行驶车道相邻的右车道进行车道变更的图像604。

图像604例如是不含有文本的图像。在图17的例子中，图像604是沿着道路宽度方向表示本车辆m的前进道路变更方向的图形。hmi控制部120例如对表示本车辆m的前进道路变更方向的图形赋予外框，并使第一显示部450显示赋予了外框的外框图像。hmi控制部120将图像604划分为多个区域，并对划分的多个区域分别赋予外框而进行显示。hmi控制部120也可以通过沿着本车辆m的前进道路变更方向顺次显示的动画来显示划分有多个的区域中的各个区域的外框。

hmi控制部120使驾驶支援状态显示区域620-4显示表示本车辆m的前进道路变更的转向指示624。转向指示624例如是表示前进道路变更方向的箭头等图形。hmi控制部120在与显示图像604的第一时机同步的时机使第一显示部450显示转向指示624。

hmi控制部120使hud460的第四画面im4-4显示与第四画面im4-3同样的信息。

nmi控制部120在比第一时机靠后且本车辆m的行为发生变化之前的第二时机(例如，行为发生变化2秒之前)，使周边检测信息显示区域600-4显示对图像604进行了强调显示的图像。

图18是表示在本车辆m的行为发生变化之前的第二时机显示的第三画面im3-5及第四画面im4-5的一例的图。nmi控制部120使第三画面im3-5的周边检测信息显示区域600-5显示对图像604进行了强调显示的图像606。nmi控制部120例如使周边检测信息显示区域600-5显示使图像604的外框之中显色的显示形态。hmi控制部120也可以以如下方式通过动画进行显示：沿着本车辆m的前进道路变更方向对在图像604中划分的多个区域各自的外框顺次进行强调显示。nmi控制部120也可以在第一时机使图像606显示，在第二时机使图像606闪烁显示。nmi控制部120也可以在第一时机使图像606显示，在第二时机使图像606以比第一时机显示的颜色更显眼的颜色显示。由此，能够使乘客直观地掌握前进道路变更方向。

hmi控制部120使周边检测信息显示区域600-5上显示的将来轨道图像602在与第二时机同步的时机向与前进道路变更方向对应的方向变化。由此，乘客能够直观地掌握本车辆m的车道变更中的行为的变化开始的情况。

nmi控制部120使hud460的第四画面im4-5显示与第四画面im4-4同样的信息。hmi控制部120使hud460的第四画面im4-5上显示的将来轨道图像602在与第二时机同步的时机向与前进道路变更对应的方向变化而进行显示。

<与场景(1)～(3)对应的处理流程>

图19是表示在场景(1)～(3)中由hmi控制部120执行的处理的流程的一例的流程图。首先，nmi控制部120判定主开关412是否被操作(步骤s100)。在主开关412未被操作的情况下，nmi控制部120在本车辆m的第一显示部450上显示第一画面im1-1(步骤s102)，并在hud460上显示第二画面im2-1(步骤s104)。

另外，在已接受到主开关的操作的情况下，nmi控制部120在第一显示部450上显示第三画面im3-1(步骤s106)，并在hud460上显示第四画面im4-1(步骤s108)。对步骤s106的处理的详细情况后述。

接着，hmi控制部120向乘客通知操作自动开关的动作要求(步骤s110)。接着，hmi控制部120判定是否已接受到自动开关414的操作(步骤s112)。在自动开关414被操作了的情况下，hmi控制部120在第三画面im3-1及第四画面im4-1上显示表示第一程度的驾驶支援正被执行的情况的图像(步骤s114)。接着，hmi控制部12向乘客通知使手从转向盘82离开的动作要求(步骤s116)。

接着，hmi控制部120基于操作件状态判定部130的判定结果来判定乘客的手是否已从转向盘82离开(步骤s118)。在乘客的手已从转向盘82离开的情况下，hmi控制部120使第三画面im3-3显示表示第二程度的驾驶支援正被执行的情况的图像(步骤s120)。对步骤s120的处理的详细情况后述。由此，本流程图的处理结束。

接着，对步骤s106的处理的详细情况进行说明。图20是表示hmi控制部120使第一显示部450显示第三画面im3-1的处理的一例的流程图。在图20的例子中，hmi控制部120使周边检测信息显示区域600-1显示表示车辆的前方的道路形状的图像、表示车辆的图像及表示周边车辆的图像(步骤s200)。接着，hmi控制部120使驾驶支援状态显示区域620-1显示表示驾驶支援的程度的图像和与对乘客要求的动作相关的图像(步骤s202)。接着，hmi控制部120使驾驶支援开始操作引导区域640-1显示对用于使驾驶支援开始的乘客的操作进行引导的信息(步骤s204)。由此，本流程图的处理结束。

接着，在步骤s120的处理中，说明在表示第二程度的驾驶支援正被执行的情况的图像正被显示的状态下产生本车辆m的行为发生变化的事件时的显示控制处理。图21是表示产生本车辆m的行为发生变化的事件时的显示控制处理的一例的流程图。在第二程度或第三程度的驾驶支援的执行中反复执行图21的处理。在自动驾驶的执行中，在图21中自动驾驶控制单元300判定是否因自动驾驶而产生本车辆m的行为发生变化的事件(步骤s300)。在产生本车辆m的行为发生变化的事件的情况下，hmi控制部120在产生本车辆m的行为的变化之前的第一时机使表示伴随本车辆m的行为的变化的事件的产生的图像显示(步骤s302)。

接着，hmi控制部120判定是否已到达产生本车辆m的行为的变化之前的第二时机(步骤s304)。在未到达产生本车辆的行为的变化之前的第二时机的情况下，hmi控制部120进行待机，直至到达第二时机为止，在已到达第二时机的情况下，将表示伴随本车辆m的行为的变化的事件的产生的图像强调显示(步骤s306)。由此，本流程图的处理结束。通过图21的处理，能够使乘客容易掌握车辆的行为发生变化的时机。

接着，对场景(4)～(6)进行说明。图22是表示对本车辆m执行第三程度下的驾驶支援且之后从执行第三程度下的驾驶支援到执行第二程度下的驾驶支援的各种场景的图。在图22的例子中，场景(4)是因本车辆m在拥堵中追随于周边车辆m而将本车辆m的驾驶支援从第二程度切换为第三程度的场景。“追随”例如是指使本车辆m与前行车辆的相对距离(车间距离)维持为恒定而进行行驶的情况。场景(5)是表示本车辆m通过第三程度的驾驶支援而正执行低速追随行驶的场景。低速追随行驶(tjp：trafficjampilot)是指以规定速度以下追随于前行车辆的控制形态。规定速度例如是指60[km/h]以下。低速追随行驶在本车辆m的速度为规定速度以下且与前行车辆m的车间距离为规定距离(确认)以内时启动。在低速追随行驶中，通过使在拥挤的道路中追随于前行车辆这样的比较容易的控制继续，从而能够实现可靠性高的自动驾驶。低速追随行驶也可以将规定速度以下或追随于前行车辆的情况作为启动条件。场景(6)是将本车辆m的驾驶支援从第三程度切换为第二程度的场景。以下，对与场景(4)～(6)中的各个场景对应的显示控制进行说明。

<场景(4)>

在场景(4)中，自动驾驶控制单元300还未来到低速追随行驶而正进行本车辆m的加速控制。在该情况下，hmi控制部120在第一显示部450或hud460中的一方或双方显示与驾驶支援对应的画面。

图23是表示在本车辆m的加速控制时显示的第三画面im3-6及第四画面im4-6的一例的图。在该图所示的场景中，还未满足低速追随行驶的启动条件。hmi控制部120使第三画面im3-6的周边检测信息显示区域600-6显示表示加速控制正被执行的情况的图像608。图像608是表示本车辆m的加速的图形。图像608显示于表示本车辆m的图像的前方。在该情况下，hmi控制部120可以在本车辆m加速之前的第一时机以赋予了图像608的外框的显示形态显示，在本车辆m加速之前的第二时机以将图像的外框之中着色的显示形态显示。hmi控制部120在加速时可以使图像608朝向本车辆的行进方向移动那样的动画显示。与此相反，hmi控制部120在减速时可以使图像608朝向本车辆移动那样的动画显示。由此，乘客能够直观地掌握本车辆m的加速控制正被执行的情况。

hmi控制部120使hud460的第四画面im4-6显示与第四画面im4-5同样的信息。

<场景(5)>

在场景(5)中，执行低速追随行驶。在该情况下，hmi控制部120在第一显示部450及hud460上显示与低速追随行驶对应的画面。

图24是表示在低速追随行驶时显示的第三画面im3-7及第四画面im4-7的一例的图。hmi控制部120使周边检测信息显示区域600-7显示表示第三程度的驾驶支援正被执行的情况的周边检测图像610a。

周边检测图像610a例如是表示通过相机10、雷达装置12、探测器14、物体识别装置16及外界识别部321来进行本车辆m的周围的监视的情况的图像。周边检测图像610a例如是从本车辆m的中心朝向外侧使波纹扩展那样的动画。

hmi控制部120使第三画面im3-7的驾驶支援状态显示区域620-7高亮显示表示本车辆m的乘客未要求有周边监视义务的情况的指示“eyesoff”和表示不需要驾驶操作件80的操作的情况的指示“handsoff”的图像。hmi控制部120使驾驶支援状态显示区域620-7显示表示通过相机10、雷达装置12、探测器14、物体识别装置16及外界识别部321来进行本车辆m的周围的监视的情况的图像626。

hmi控制部120使hud460的第四画面im4-7除了显示与第四画面im4-6同样的信息之外，还显示表示第三程度的驾驶支援正被执行的情况的周边检测图像610b。周边检测图像610b例如是从本车辆m的中心朝向外侧使波纹扩展那样的动画。

hmi控制部120使第三画面im3-7上显示的周边检测图像610a和第四画面im4-8上显示的周边检测图像610b的动作速度和动作周期中的一方或双方连动。由此，能够使乘客直观地掌握第三画面im3-7上显示的周边检测图像610a与第四画面im4-8上显示的周边检测图像610b为相同的信息。

hmi控制部120可以将从第三画面im3-7上显示的周边检测图像610a中的动画的显示形态(详细显示形态)进行间隔剔除后的显示形态作为第四画面im4-8上显示的周边检测图像610b的显示形态(简单显示形态)。例如，hmi控制部120将使通过详细显示形态显示的周边检测图像610a的动态的对象(圆环状的波纹)的动作速度和动作周期中的一方或双方延迟了的显示形态作为简单显示形态。

hmi控制部120也可以将使详细显示形态的动态的对象的数量减少了的显示形态作为简单显示形态。

hmi控制部120也可以使作为详细显示形态而显示在第三画面im3-7的周边检测信息显示区域600-7上的外界的视野的范围与作为简单显示形态而显示在第四画面im4-8上的外界的视野的范围不同。外界的视野的范围是指由乘客通过在哪个方向上以多大变焦距地观察外界来决定的范围。例如，圆环状的动态的对象的大小(例如，最大半径)与各个图像中的外界的视野的范围对应。

在未对乘客要求周边监视义务的状态下，hmi控制部120进行用于将能够使用的设备向乘客通知的控制。例如，在自动驾驶控制单元300正执行第三程度下的驾驶支援的情况下，第三显示部470成为能够使用。在该情况下，如图7或图8所示，hmi控制部120使在第三显示部470的一部分或附近设置的发光部472以规定的颜色发光。

hmi控制部120在第三显示部470为能够使用的情况下，如图9所示，也可以使第三显示部470的画面的显示区域中的第一显示区域476以规定的颜色或规定的形状中的一方或双方显示。

在为了进行第三显示部470上显示的内容的选择等而需要操作第三操作部440的情况下，hmi控制部120以使第三操作部440上设置的发光部446以规定的波长的光发光的方式进行控制。例如，hmi控制部120使发光部472及发光部446以同一波长的光发光。由此，乘客能够直观地掌握能够使用的设备和该设备的操作部。

例如，hmi控制部120在第三显示部470能够使用的状态下第三操作部440被操作时，使第三显示部470显示与操作内容对应的画面。hmi控制部120在第三显示部470能够使用的状态下第二操作部420的操作开关422被操作时，使第三显示部470显示进行通话的对方的图像。由此，乘客能够一边观察在第三显示部470上显示的对方一边享受通话。即，乘客能够利用电视电话。

hmi控制部120将由车室内相机90拍摄到的图像与由在车室内设置的麦克风(未图示)取得的乘客的声音建立对应关系而向通话对方的车辆、终端装置发送。

例如，车室内相机90所包含的摄像元件在红外光及可见光的波长范围内具有灵敏度。车室内相机90也可以具备使红外光截止且使可见光沿摄像元件的方向透过的透镜滤光片。透镜滤光片通过hmi控制部120的控制来使机械的机构运转，由此被控制到使向车室内相机90入射的红外光截止的位置(设定位置)或者不截止的位置(非设定位置)。例如，hmi控制部120在图像被用于电视电话的情况下，将透镜滤光片控制到设定位置，在图像被用于乘客的监视的情况下，将透镜滤光片控制到非设定位置。由此，仅通过可见光拍摄到的图像被用于电视电话，通过可见光及红外光拍摄到的图像被用于乘客的监视。由此，能够取得适合于用途的图像。尤其在图像被用于电视电话的情况下，将没有不适感的图像向通话对方的装置等发送。

在本车辆m中也可以代替车室内相机90而设置电视电话专用的相机。在该情况下，hmi控制部120将由电视电话专用的相机拍摄到的图像与由麦克风取得的声音建立对应关系而向通话对方的车辆或终端装置发送。

<场景(6)>

在场景(6)中，由于不存在低速追随的前行车辆m，因此自动驾驶控制单元300将本车辆m从第三程度切换为第二程度的驾驶支援。在该情况下，hmi控制部120基于驾驶支援的程度的变化，如图25所示那样使第一显示部450或hud460中的一方或双方显示提示对乘客要求的乘客的监视对象或操作对象的信息。

图25是表示为了对乘客要求周边监视而显示的第三画面im3-8及第四画面im4-8的一例的图。hmi控制部120使周边检测信息显示区域600-8显示低速追随行驶(在图中为“拥堵追随自动驾驶”)结束的意旨的信息和表示使乘客确认周边的交通状况的意旨的信息。

hmi控制部120使第四画面im4-8显示要求乘客注视本车辆m的前方的前方注视要求图像650。前方注视要求图像650是包括表示车辆m的前方的规定的区域的椭圆状的区域的图像。前方注视要求图像650也可以为圆状或矩形形状等规定的形状，还可以是催促乘客注意的标记、记号文字等的信息。hmi控制部120使前方注视要求图像650以规定的颜色点亮或闪烁。hmi控制部120也可以使装入于仪表板的led发光并通过前风窗玻璃反射led的发光，来对乘客催促向前方注视。

乘客状态监视部140通过车室内相机90的拍摄图像来判定乘客是否正进行周边监视。在判定为乘客正进行周边监视的情况下，切换控制部110使自动驾驶控制单元300将本车辆m的驾驶支援从第三程度切换为第二程度。如图26所示，hmi控制部120使第一显示部450或hud460中的一方或双方显示与第二程度下的驾驶支援对应的画面。

图26是表示从第三程度切换为第二程度的情况下的第三画面im3-9及第四画面im4-9的一例的图。在图26的例子中，示出本车辆m通过第二程度的驾驶支援加速到由行动计划生成部323决定的目标速度(例如80[km/h])的例子。hmi控制部120例如使第三画面im3-9的周边检测信息显示区域600-9显示例如表示加速控制正被执行的情况的图像608。

hmi控制部120使第三画面im3-9的驾驶支援状态显示区域620-9高亮显示与本车辆m的第二程度的驾驶支援对应的“handsoff”的图像。hmi控制部120使驾驶支援状态显示区域620-9显示表示与第二程度的驾驶支援对应的乘客的操作内容的要求动作通知图像622。由此，乘客能够直观地掌握本车辆m的驾驶支援从第三程度切换为第二程度的情况。

<与场景(4)～(6)对应的处理流程>

图27是表示在场景(4)～(6)中由hmi控制部120执行的处理的流程的一例的流程图。首先，hmi控制部120判定自动驾驶控制单元300是否已开始低速追随行驶(步骤s400)。在已开始低速追随行驶的情况下，hmi控制部120在第三画面im3及第四画面im4上显示表示第三程度的驾驶支援正被执行的情况的图像(步骤s402)。接着，hmi控制部120使在通过第三程度的驾驶支援而成为能够使用的设备上设置的发光部发光(步骤s404)。

接着，hmi控制部120判定自动驾驶控制单元300是否结束本车辆m的低速追随行驶(步骤s406)。在未结束低速追随行驶的情况下，继续进行通过步骤s402及s404的处理实现的图像显示及发光部的发光。即，在s404的处理中，hmi控制部120在设备能够使用的期间使设置于设备的发光部的发光继续。

在结束低速追随行驶的情况下，hmi控制部120在第三画面im3及第四画面im4上显示用于使乘客进行周边监视的信息(步骤s408)。接着，hmi控制部120使表示第二程度的驾驶支援正被执行的情况的图像显示(步骤s410)。由此，本流程图的处理结束。

如场景(4)～(6)那样，hmi控制部120在车辆不是停车中的情况下，或者在驾驶支援的程度不是第三程度的情况下，进行通过使用而使乘客的视线从车辆周边偏离的特定功能的使用限制，在车辆为停车中的情况下，或者在驾驶支援的程度为第三程度的情况下，解除特定功能的使用限制。特定功能例如包括电视电话功能，是指在第三显示部470上显示与本车辆m的控制、行驶没关系的内容的功能。与本车辆m的控制、行驶没关系的内容例如是指作为娱乐而由乘客视听的存储于dvd的图像、从广播电台发送的图像(电视的图像)及表示电视电话中的通话对方的图像等。

图28是表示由hmi控制部120执行的特定功能的执行处理的流程的流程图。在本流程图的处理中，对特定功能为电视电话功能的情况进行说明。电视电话功能是指发送接收图像(实时的图像)和声音，从而一边观察表示通话对方的图像一边进行通话的功能。通话对方的图像显示于第三显示部470。hmi控制部120对通信装置20进行控制来与通话对方的通信装置建立通信，由此发送接收包含图像及声音的信息，从而实现电视电话功能。

首先，hmi控制部120基于从驾驶支援控制部200及自动驾驶控制单元300取得的信息，来判定本车辆m是否为停车中(步骤s500)。在本车辆m为停车中的情况下，hmi控制部120解除电视电话功能的使用限制(步骤s502)。由此，乘客能够利用电视电话功能。

在本车辆m不是停车中的情况下，hmi控制部120基于从自动驾驶控制单元300取得的信息，来判定本车辆m是否为低速追随行驶中(步骤s504)。在本车辆m为低速追随行驶中的情况下，hmi控制部120解除电视电话功能的使用限制(步骤s502)。由此，乘客能够利用电视电话。

在本车辆m既不是停车中也不是低速追随行驶中的情况下，hmi控制部120仅许可声音的利用(步骤s506)。由此，结束本流程图的一个例程的处理。

图29是表示根据驾驶支援的程度而在第三显示部470上显示的图像发生变化的情形的一例的图。如图29(a)所示，例如在第三程度的驾驶支援正被执行的情况下，将通话对方的影像显示于第三显示部470，并将通话对方的声音从扬声器输出。由此，乘客能够利用电视电话。如图29(b)所示，例如在从第三程度的驾驶支援转换为其他程度的驾驶支援或手动驾驶的情况下，显示在第三显示部470上的通话对方的影像停止，仅将通话对方的声音从扬声器输出。由此，乘客能够监视本车辆m的周边。

如上述那样，hmi控制部120将驾驶支援向第三程度转变，在本车辆m的乘客不再需要进行周边监视的情况(后述的到达图37的时刻t4的情况)下，解除特定功能的使用限制，由此能够更适当地控制特定功能。

接着，对场景(7)～(9)进行说明。图30是表示直至将本车辆m从第二程度的驾驶支援切换为通过手动驾驶进行的行驶为止的各种场景的图。在图30的例子中，场景(7)是本车辆m基于行动计划进行用于脱离高速道路的车道变更的场景。场景(8)是本车辆m从自动驾驶切换为手动驾驶的场景。场景(9)是本车辆m通过手动驾驶从高速道路向一般道路移动的场景。以下，对与场景(7)～(9)中的各个场景对应的显示控制进行说明。

<场景(7)>

在场景(7)中，自动驾驶控制单元300执行用于使本车辆m向左侧进行车道变更的驾驶支援。在该情况下，hmi控制部120在第一显示部450或hud460中的一方或双方上显示与驾驶支援对应的画面。对于车道变更的开始时及执行时的显示例，由于是将图17及图18所示的本车辆m的向右车道的车道变更的内容置换为向左车道的车道变更而进行同样的显示，因此省略在此的具体的说明。

<场景(8)>

在场景(8)中，自动驾驶控制单元300进行用于使本车辆m切换为手动驾驶的控制。在该情况下，nmi控制部120在第一显示部450或hud460中的一方或双方上显示用于使乘客执行手动驾驶的图像。

图31是表示在向手动驾驶时切换的切换要求时显示的第三画面im3-10及第四画面im4-10的一例的图。由于接近高速道路的出口，因此nmi控制部120使第三画面im3-10的周边检测信息显示区域600-10显示对乘客要求转向盘82的操作的意旨的要求动作通知图像628。作为要求动作通知图像628，nmi控制部120也可以使表示乘客的手的图像接近表示转向盘82的图像那样的动画显示。

hmi控制部120使第三画面im3-10的驾驶支援状态显示区域620-10高亮显示与第二程度的驾驶支援对应的“handsoff”的图像及与第一程度的驾驶支援对应的“assist”的图像。

在此，nmi控制部120基于操作件状态判定部130的判定结果来判定是否为乘客正把持转向盘82的状态。nmi控制部120在由操作件状态判定部130持续规定时间判定为乘客未把持转向盘82的状态的情况下，使第一显示部450或hud460中的一方或双方显示阶段性地加强警告而用于使乘客执行手动驾驶的图像。

图32是表示加强了用于使乘客执行手动驾驶的警告的第三画面im3-11及第四画面im4-11的一例的图。nmi控制部120例如使第三画面im-11的驾驶支援状态显示区域600-11比本车辆m的周边状况的显示更强调地显示提示对乘客要求的乘客的监视对象或操作对象的信息。具体而言，nmi控制部120使第三画面im-11的驾驶支援状态显示区域600-11代替显示表示本车辆m的前方的道路形状的图像、表示本车辆m的图像及表示本车辆m的将来的轨道的图像而重叠显示表示使乘客操作转向盘82的情况的信息。

hmi控制部120使第四画面im4-11显示示意性地表示转向盘82与乘客的手的位置关系的要求动作通知图像660。作为要求动作通知图像660，hmi控制部120也可以使表示乘客的手的图像接近并把持表示转向盘82的图像那样的动画显示。hmi控制部120为了使乘客把持转向盘82，也可以通过声音等进行警告。

hmi控制部120为了使乘客把持转向盘82，使在转向盘82上设置的发光部430r、430l发光、或闪烁、或使发光停止。由此，能够使乘客容易识别伴随驾驶支援的程度的变化而对乘客要求的内容。

hmi控制部120例如在根据本车辆m的驾驶支援的程度而使发光部430r、430l正发光、闪烁的状态下要求乘客把持转向盘82时，使发光部430r、430l的发光状态与当前的发光状态不同。例如，hmi控制部120相对于当前的发光状态使发光部430r、430l的发光、闪烁、发光颜色及发光亮度中的至少一个不同。

hmi控制部120在驾驶支援的程度向比当前的驾驶支援的程度低的程度变化的情况下，使发光部430r、430l发光、闪烁或使发光停止。由此，能够向乘客传达是把持转向盘82的必要性高的驾驶支援。

hmi控制部120在由操作件状态判定部130持续规定时间判定为乘客未把持转向盘82的状态的情况下，也可以阶段性地加强警告而使扬声器输出声音。hmi控制部120也可以使让座椅或座椅安全带振动的振动部工作，来使座椅或座椅安全带以阶段性的强度振动来进行警告。

图33是用于说明使座椅安全带振动而对乘客进行警告的图。在图31中，例如具备本车辆m的座椅480、座椅安全带装置482及振动部484。座椅安全带装置482为所谓的三点式的座椅安全带装置。座椅安全带装置482例如具备座椅安全带482a、卷绕座椅安全带482a的卷绕部482b、将座椅安全带482a在座椅480的规定的位置固定的锚定件482c、以及相对于在座椅安全带482a上设置的舌片能够装拆的带扣482d。振动部484通过hmi控制部120的控制使座椅安全带以规定的周期及规定的强度振动。

hmi控制部120在使乘客把持转向盘82的时机使振动部484工作。由此，乘客能够直观地掌握把持转向盘82而开始手动驾驶的情况。

在由操作件状态判定部130判定为从hmi控制部120进行图32所示的显示起经过规定时间而乘客也未把持转向盘82的情况下，如图34所示，hmi控制部120显示结束驾驶支援(例如，自动驾驶)的意旨的画面。

图34是表示显示结束自动驾驶的意旨的信息的第三画面im3-12及第四画面im4-12的一例的图。hmi控制部120使第三画面im-12的驾驶支援状态显示区域600-12与表示本车辆m的前方的道路形状的图像、表示本车辆m的图像及表示本车辆m的将来的轨道的图像重叠地显示为了结束自动驾驶而催促驾驶操作的替换的信息。hmi控制部120使第三画面im3-12的驾驶支援状态显示区域620-12高亮显示“handsoff”的图像，但也可以通过与图29所示的高亮显示不同的颜色等进行高亮显示。

hmi控制部120使第四画面im4-12显示示意性地表示转向盘82与乘客的手的位置关系的要求动作通知图像660。hmi控制部120为了使乘客把持转向盘82，也可以通过与图30所示的第三画面im3-11及第四画面im4-12的显示相比更加强的声音等进行警告。hmi控制部120为了使乘客把持转向盘82，还可以使发光部430r、430l点亮或闪烁。例如，hmi控制部120为了加强警告而缩短闪烁周期，或者通过使多个波长的光发光来使发光部430r、430l点亮或闪烁。

hmi控制部120例如也可以在第一显示部450上显示第三画面im3-12且在hud460上显示第四画面im4-12的时机使振动部484工作，由此使座椅安全带482a振动。在该情况下，hmi控制部120也可以以成为比使第三画面im3-11及第四画面im4-11显示图像时的座椅安全带482a的振动强的振动的方式，使振动部484工作。由此，乘客能够直观地掌握自动驾驶结束的情况。

在操作件状态判定部130判定为从hmi控制部120进行图32所示的显示起经过规定时间而乘客也未把持转向盘82的情况下，主控制部100对自动驾驶控制单元300执行用于使本车辆m在规定的位置(例如，路肩、最近的停车区域)紧急停止的自动驾驶。在该情况下，如图35所示，hmi控制部120使第三画面im3-13显示表示通过自动驾驶执行本车辆m的紧急停止的意旨的画面。

图35是表示本车辆m的紧急停止时的第三画面im3-13及第四画面im4-13的一例的图。hmi控制部120使第三画面im3-13的驾驶支援状态显示区域600-13显示进行紧急停止的意旨的信息。第三画面im3-13的形态的通知是比第三画面im3-10～im3-12的形态的通知强的警报。

<场景(9)>

在场景(9)中，为如下场景：乘客接受把持转向盘82意旨的指示，把持转向盘82直至驾驶支援结束，并开始手动驾驶而从高速道路向一般道路进入。切换控制部110将本车辆m的行驶状态切换为通过乘客的手动驾驶进行的状态。hmi控制部120使第一显示部450显示第一画面im1-1，并使hud460显示第二画面im1-2。

<与场景(7)～(9)对应的处理流程>

图36是表示在场景(7)～(9)中由hmi控制部120执行的处理的流程的一例的流程图。在本处理中，如上述那样，hmi控制部120在自动驾驶正被执行时，对本车辆m的乘客进行要求规定的行动(例如转向盘82的把持)的通知，并以从通知的开始起随着时间的经过而阶段性地强调所述通知的方式，使通知的形态变化而使输出部输出通知。输出部是指显示图像的显示部、输出声音的扬声器等。在本处理中，规定的行动作为一例为把持转向盘82的行动，也可以代替于此(除此之外)，为乘客监视周边的行动、为了使乘客能够驾驶操作件80(例如油门踏板、制动踏板)而放脚的行动等。

首先，hmi控制部120判定是否结束驾驶支援(步骤s600)。在结束驾驶支援的情况下，hmi控制部120使第一显示部450在维持表示本车辆m行驶的轨道的图像的状态下显示表示对乘客催促转向盘82的把持的情况的图像(例如画面im3-10)(步骤s602)。

接着，hmi控制部120根据操作件状态判定部130判定的判定结果，来判定在第一规定时间以内乘客是否已把持转向盘82(步骤s604)。

在判定为在第一规定时间以内乘客已把持转向盘的情况下，hmi控制部120使第一显示部450显示第一画面im1(步骤s606)，并使hud460显示第二画面im2(步骤s608)。

在步骤s604中，在未判定为在第一规定时间以内乘客已把持转向盘的情况下，hmi控制部120使第一显示部450显示表示对乘客要求转向盘82的把持的情况的图像(例如画面im3-11)，来代替表示本车辆m行驶的轨道的图标(步骤s610)。

接着，hmi控制部120根据由操作件状态判定部130判定的判定结果，来判定在第二规定时间以内乘客是否已把持转向盘82(步骤s612)。在判定为在第二规定时间以内乘客已把持转向盘的情况下，hmi控制部120使第一显示部450显示第一画面im1(步骤s606)，并使hud460显示第二画面im2(步骤s608)。

在步骤s612中，在未判定为在第二规定时间以内乘客已把持转向盘的情况下，hmi控制部120使第一显示部450显示表示结束驾驶支援的情况的图像(例如第三画面im3-12)(步骤s614)。此时，hmi控制部120使让座椅安全带482a振动的振动部484工作。在实施方式中，也可以在座椅480上设置使该座椅480振动的振动部。在该情况下，在未判定为在第二规定时间以内乘客已把持转向盘的情况下，hmi控制部120也可以使在座椅480上设置的振动部工作。

接着，hmi控制部120根据操作件状态判定部130判定的判定结果，来判定在第三规定时间以内乘客是否已把持转向盘82(步骤s616)。在判定为在第三规定时间以内乘客已把持转向盘的情况下，hmi控制部120使第一显示部450显示第一画面imi(步骤s606)，并使hud460显示第二画面im2(步骤s608)。

在步骤s616中，在未判定为在第三规定时间以内乘客已把持转向盘的情况下，hmi控制部120在第一显示部450上显示执行本车辆m的紧急停止的意旨的图像(步骤s618)。由此，本流程图的处理结束。

<与驾驶支援相关联的各种设备或控制的切换时机>

在此，使用附图来说明与本车辆m的驾驶支援相关联的各种设备或控制的切换时机。图37是用于说明与驾驶支援相关联的各种设备或控制的切换时机的图。

在图37中，作为与驾驶支援相关联的切换，示出(a)主开关412的接通/断开、(b)自动开关414的接通/断开、(c)手动驾驶模式显示的开启/关闭、(d)驾驶支援模式显示的开启/关闭、(e)第一程度的驾驶支援的开启/关闭、(f)正把持/未把持转向盘82、(g)第二程度的驾驶支援的开启/关闭、(h)第三程度的驾驶支援的开启/关闭、(i)乘客的驾驶监视的需要/不需要相对于时刻的经过的切换时机。

在时刻t0，通过乘客的手动驾驶而使本车辆m行驶。在该情况下，主开关412及自动开关414未被操作，在第一显示部450及hud460上显示手动驾驶模式下的画面(第一画面im1、第二画面im2)。在时刻t0，未实施对本车辆m的驾驶支援(第一程度～第三程度)，乘客需要把持转向盘82并进行周边监视。

在时刻t1，由乘客执行使主开关412成为接通的操作。在该情况下，在第一显示部450及hud460上显示驾驶支援模式下的画面(第三画面im3、第四画面im4)。在时刻t1～t2的状态下，未进行通过驾驶支援进行的行驶控制，继续进行手动驾驶。

在时刻t2，由乘客执行使自动开关414成为接通的操作。在该情况下，主控制部100使驾驶支援控制部200执行第一程度的驾驶支援。hmi控制部120在驾驶支援模式显示中，显示表示通过乘客使手从转向盘82离开来执行第二程度的驾驶支援的情况的图像。

在时刻t3，在本车辆m能够进行第二程度的驾驶支援的状态下，乘客使手从转向盘82离开。在该情况下，切换控制部110从执行由驾驶支援控制部200控制的第一程度的驾驶支援切换为执行由自动驾驶控制单元300控制的第二程度的驾驶支援。

在时刻t4，例如通过本车辆m进行低速追随行驶而执行第三程度的驾驶支援。在该情况下，乘客的周边监视不再需要。

在时刻t5，第三程度的驾驶支援结束，切换为第二程度的驾驶支援。因此，需要乘客的周边监视。在时刻t5，进行用于从第二程度的驾驶支援切换为手动驾驶的显示。在该情况下，hmi控制部120在驾驶支援模式显示中，显示用于使乘客把持转向盘82的信息。

在时刻t6，乘客把持转向盘82。在该情况下，切换控制部110从由自动驾驶控制单元300控制的第二程度的驾驶支援切换为由驾驶支援控制部200控制的第一程度的驾驶支援。切换控制部110在第一程度的驾驶支援经过规定时间之后，切换为手动驾驶。

在时刻t7，本车辆m切换为手动驾驶。在该情况下，主开关412及自动开关414与本车辆m切换为手动驾驶的时机对应而切换为断开。

接着，说明实施方式中的驾驶支援的切换控制。图38是用于说明实施方式中的驾驶支援的切换控制的图。实施方式中的本车辆m的驾驶控制存在通过第一～第三程度的驾驶支援进行的驾驶控制和通过乘客的手动驾驶进行的驾驶控制。切换控制部110例如基于本车辆m的行驶状态、乘客的状态，以图38的(a)～(h)所示的切换图案进行驾驶控制的切换。

在切换图案(a)中，切换控制部110将本车辆m的驾驶控制从手动驾驶切换为第一程度的驾驶支援。在该情况下，切换控制部110使驾驶支援控制部200执行第一程度的驾驶支援。

在切换图案(b)中，切换控制部110从第一程度的驾驶支援切换为第二程度的驾驶支援。在该情况下，切换控制部110使自动驾驶控制单元300执行第二程度的驾驶支援。

在切换图案(c)中，切换控制部110从第二程度的驾驶支援切换为第三程度的驾驶支援。在该情况下，切换控制部110使自动驾驶控制单元300执行第三程度的驾驶支援。

在切换图案(d)中，切换控制部110从第三程度的驾驶支援切换为第二程度的驾驶支援。在该情况下，切换控制部110使自动驾驶控制单元300执行第二程度的驾驶支援。

在切换图案(e)中，切换控制部110从第二程度的驾驶支援切换为第一程度的驾驶支援。在该情况下，切换控制部110使驾驶支援控制部200执行第一程度的驾驶支援。

在切换图案(f)中，切换控制部110从第一程度的驾驶支援切换为手动驾驶。在该情况下，切换控制部110执行通过手动驾驶进行的驾驶控制。

在切换图案(g)中，切换控制部110在执行第二程度的驾驶支援中，在本车辆m产生规定的事项的情况下，从第二程度的驾驶支援切换为手动驾驶。规定的事项例如是指自动驾驶控制单元300接受的值与预先设想的规定范围的值不同的情况、来自其他设备的信号被切断的情况、无法对控制对象设备进行信号的发送那样的情况。

在切换图案(h)中，切换控制部110在特定的场景中，在为乘客正把持转向盘82的状态的情况下，使自动驾驶控制单元300继续进行第二程度的驾驶支援。特定的画面例如是指本车辆m在出入口、交叉点等倾斜路(连接路)上行驶那样的场景。切换控制部110与各个切换图案对应来对本车辆m的驾驶控制进行切换。

根据以上说明的实施方式，车辆系统1具备：控制部，其对包括以规定速度以下追随于前行车辆行驶的低速追随行驶模式在内的多个驾驶支援模式进行切换，来执行驾驶支援；以及hmi控制部120，其在由控制部执行所述低速追随行驶模式的情况下被使用，从而解除驾驶员的视线从车辆周边偏离的特定功能的使用限制，由此能够更适当地控制规定的设备的功能。

以上，使用实施方式说明了本发明的具体实施方式，但本发明丝毫不被这样的实施方式限定，在不脱离本发明的主旨的范围内能够施加各种变形及置换。