2. 厦门大学 深圳研究院, 广东 深圳 518057;
3. 厦门大学 航空航天学院 自动化系, 福建 厦门 361005;
4. 中国人民大学 信息学院 计算机系, 北京 100872;
5. 华侨大学 计算机科学与技术学院, 福建 厦门 361021
2. Shenzhen Research Institute, Xiamen University, Shenzhen 518057, China;
3. Department of Automation, College of Aerospace Engineering, Xiamen University, Xiamen 361005, China;
4. Department of Computer Science, School of Information, Renmin University of China, Beijing 100872, China;
5. School of Computer Science and Technology, Huaqiao University, Xiamen 361021, China
随着我国城市的发展, 私家车数量急剧增加, 道路拥堵、车辆尾气排放造成环境污染等问题日益加剧[1].相比于私家车, 公共交通工具具有承载量大、能源消耗较低、尾气排放相对较小等优势, 对于缓解上述问题具有重要意义[2].相对于出租车等公共交通方式, 公交具有投资成本更低、承载量更大, 且覆盖范围更广等优势, 成为城市出行的重要方式, 提升其营运效率, 是提升乘客满意度、吸引乘客使用该方式出行的必要手段[3, 4].
目前, 我国公交采取排班制发车, 以达到公交公司和乘客之间的效益平衡.但由于道路交通、天气等因素复杂多变, 导致车辆常常不能按照计划发车时间发班, 进而会出现“串车”和“大间隔”现象[5].为应对各种原因导致车辆不能按原计划发班的情况, 需要进行车辆的实时调度.现有的公交调度方式主要由手工完成, 即公交调度员通过监视面板观察所负责线路的当前车辆分布状况.调度员根据自身经验估计车辆回场时间, 进而进行下一班次发车时间的调整.现有调度方式仅依靠调度员的经验估计车辆到站时间, 不仅工作量巨大, 且常由于错误预估, 导致调度策略无法被准确执行, 仍无法缓解“串车”和“大间隔”现象的发生.图 1给出了厦门市11路和22路公交线路3个月运行总时长的统计图(箱线图中线表示均值, 其他线表示四分位点, 圆圈表示异常点).从图中可以看出:同一线路方向, 即使在同一时间段内的总行驶时长依然存在较大差异和异常点.因此, 良好运行的调度系统迫切需要一个能相对准确地预测到站时间的算法, 进而辅助调度员合理地预估车辆回场时间.这也是近年来智能交通(intelligent transportation system, 简称ITS)[6-8]应用的典型场景.
公交车辆到站时间预测受站点停留和站间行驶时长等相关因素的影响, 存在时空依赖性.从时间的角度看, 无论是站点停留还是站间行驶, 都具有一定的时间规律, 这种规律可能是长期的历史规律、短期的周期规律或者近期的波动规律等.从空间的角度看, 站点停留和站间行驶具有一定的空间规律.例如:对于站点停留来说, 某一站用于乘客上车的停留时间必然影响另一站用于乘客下车的停留时间.对于站间行驶而言, 相邻路段的行驶速度也相互影响.此外, 天气状况、道路交通状况等难以准确预知, 增加了预测的挑战性[9].已有的预测行程时长的方式包括两种, 即分段预测[9, 10]与全程预测[11, 12].分段预测是指对路段进行划分预测, 对预测时间加以累加.这种方式可能产生的问题是误差累积, 使得最终预测误差变大.全程预测是指直接预测从起点到达终点的时间的方式.这种方式可能产生的问题是当路径越长时, 覆盖完整路径的轨迹点就越少, 数据越稀疏导致结果往往不准确.由于公交通常具有“定线路”、“定站点”的特点, 发车频率较快, 同一时段有多辆同线路公交在运行, 因此公交车辆本身即可收集各种交通数据, 为即将发班的车辆预测提供依据.
近年来, 深度学习技术在视觉、自然语言处理等领域得到了广泛应用.其中, 卷积神经网络模型[13]已被证明可很好地捕捉空间规律, 而循环神经网络[14]类似于一个存在记忆功能的神经网络, 能够捕捉事物的时间规律.本文基于二者的融合, 提出一种基于ConvLSTM[15]模型, 能够同时捕捉事物时间依赖性、空间相关性与外部影响因素的公交车到站时间预测算法——时空属性模型(spatio-temporal property model, 简称STPM).
本文的主要贡献包括:提出一种能够同时学习事物时空依赖性和外部因素影响的卷积时空属性模型, 该算法通过时空组件捕获事物的时间依赖性和空间相关性, 利用该组件分别学习与预测站点停留与站间行驶参数.通过属性组件, 将外部因素如天气、时间、驾驶员、车辆、近期路段行驶状况等因素的复杂性融合到模型预测结果的考量中去.提出一种融合组件, 将事物的时空特征与外部因素特征进行融合, 预测公交车辆从起点到终点的总行驶时长.该算法可作为调度辅助决策系统的依据, 帮助调度员及时发现晚点车辆, 并作出合理的调度决策.在真实数据集上实现了该算法并进行了验证.实验结果表明:SPTM算法能够更好地学习事物的时空特性, 相对于单一使用卷积神经网络或循环神经网络而言, 其预测准确率能提高至少2.25个百分点; 且可以充分利用外部属性的因素, 提高预测的准确率.
据我们所知, 本文是首个利用深度学习算法进行公交车从起点到终点总时长预测的研究.第1节介绍国内外关于行程时长预测的研究.第2节介绍数据预处理过程.第3节对STPM算法进行详细展开和叙述.第4节利用真实公交到离站数据进行实验验证与分析.第5节总结全文并对未来工作进行展望.
1 相关工作现有的关于行驶时长预测的方法主要可以分成基于传统方法和基于深度学习的方法.传统方法包括回归模型和卡尔曼滤波模型, 利用历史数据和时间序列数据进行预测.Wu等人[9]利用支持向量回归(support vector regression, 简称SVR)进行交通时长的预测.在该文献的研究中, 通过使用过去t个时刻的真实交通时长数据, 预测未来一段时间内的交通行驶时长.通过实验证明, 该方法在预测旅行时间问题上具有一定可行性.但其在特征使用上, 仅使用了过去时刻的数据, 无法体现外在因素如驾驶员风格、车辆性能、道路交通状况的差异对预测结果的影响.Vanajakshi等人[16]利用卡尔曼滤波技术预测不同交通条件下的出行时间.在该文献的研究中, 对路段进行等距离划分, 利用2辆前序车辆收集到的信息进行当前车辆的预测.在该方法中, 假设任何时刻均有两辆前序车辆跑完全程为其收集信息, 在实际应用中较难实现.Mathieu等人[17]提出了一种用于预测到站时间的基于实时GPS数据的非参数算法, 关键思想是, 使用内核回归模型来表示位置更新与公交车站到达时间之间的依赖关系.实验结果表明:对于50分钟的时间范围, 算法的预测误差平均小于10%.在该文献的研究方法中, 通过依据历史数据与当前状况的相似性为其赋予不同的权重, 计算当前状况的预测值.这种方式对于模型训练的时间跨度要求较为严格, 需要更长时间的数据样本.
近年来, 深度神经网络逐渐应用到各个领域, 包括行驶时长预测.Wang等人[4]提出了一种宽深度递归(WDR)学习模型, 预测在给定出发时间沿给定路线的行进时间.算法联合训练宽线性模型、深度神经网络和递归神经网络, 以充分利用这3种模型的优势.但该方法并不考虑站点的停留时长, 对路网的空间依赖考虑较少.Maiti等人[18]提出了一种将车辆轨迹和时间戳视为输入特征的基于历史数据的车辆到达时间的实时预测方法, 结果表明所提出的HD模型分别比人工神经网络(artificial neural network, 简称ANN)模型和支持向量机(support vector machine, 简称SVM)模型执行速度更快, 同时也具有比较高的预测精度.但这种方法仅利用车辆轨迹数据和时间序列数据, 无法体现外在因素(如天气、驾驶员风格、车辆性能)等对结果的影响.王麟珠等人[19]提出一种基于Elman神经网络的公交车辆到站时间预测方法, 并通过福州的公交数据进行验证.在该文献的研究方法中, 以时间、天气、路段、当前路段的运行时间为特征进行预测, 结果具有一定的精确度.但其对于天气的划分仅限于是否下雨, 未涉及到沙尘暴等影响能见度的天气因素, 且其同样未考虑驾驶员风格等主观因素对于结果的影响, 因此该方法还有待提升.张强等人[20]提出一种基于时间分段的动态实时预测算法, 将一天分为24个等长的时间段, 分时段对公交到站时间进行预测.其将总时长分为站间行驶时长、站点滞留时长、交叉路口通行时长与等待时长, 但其对这些组成因素的预测均采用基于历史时间序列进行预测, 缺少对外在因素影响的研究.季彦婕等人[21]提出将粒子群算法与神经网络算法结合, 从而减少预测误差.实验表明, 该模型对于工作日与周末都有较高的预测精度.该文献在特征选择上同样是仅利用了历史数据, 未考虑实际的外在因素影响.杨奕等人[22]将遗传算法与BP神经网络(back propagation neural network, 简称BPNN)结合, 从而改进BP神经网络容易陷入局部最优的缺陷.通过对合肥某一公交线路数据的研究, 实验表明, 该算法确实有比较好的预测效果.但该算法在特征选择上仅利用最近一班班次的实际发生数据, 缺少对于数据历史或周期规律的研究.此外, 其同样忽略了外在因素的影响.张昕等人[23]提出利用遗传算法提升SVM的参数寻优效率, 进而进行预测.该文献考虑道路因素、大型节假日、天气、路况、运行距离、运行时间、排班信息等7个因素的影响, 能够更好地适应道路交通等的变化, 具有较好的预测精度, 但其忽略了司机或突发事件等因素的影响.谢芳等人[24]提出结合聚类与神经网络模型对车辆数据进行分段预测, 并利用Map Reduce的并行化框架减少算法的计算时间.在该算法中, 使用站点停留数据、站间行驶数据、星期几和是否为节假日作为特征, 同样忽视了驾驶员、车辆、天气等因素对其的影响.
现有的关于行程预测或公交预测的研究无法被直接用于公交辅助调度决策, 主要原因包括:由于公交车与出租车或私家车的行驶特点不同, 其需要在固定站点进行停留, 因此站点停留时长是其总时长的重要可变组成成分, 直接利用出租车或私家车关于行程时长预测的方法往往不够准确.现有关于公交到离站的预测多基于对邻近站点的站数、距离或站间行驶时长的预测, 缺少关于起点站到终点站总时长预测的研究.利用站间预测的方式预测总时长会出现误差累加以及无法预测各站点停留时长的情况.目前, 对于行程时长的预测仅考虑某几个影响因素, 缺乏对其时空特性和外在因素影响的融合研究.但公交车辆总时长的问题是一个包含时间依赖性、空间相关性和外部因素综合影响的复杂问题, 需要一种能够直接对公交车辆从起点站至终点站总时长进行预测的算法.
2 数据预处理数据预处理的过程如图 2所示, 包括线路静态特征处理、动态特征处理、天气特征处理以及缺失数据填充等步骤, 最后得到特征数据集.
2.1 线路静态特征处理
(1) 数据清洗
原始到离站数据文件包括一段时间内公交线路收集到的所有车辆进站及出站信息.进行特征提取前, 需先将数据文件按日期进行分割, 并将分割后的每日数据根据上下行、车辆id、获取到离站数据的时间进行排列.然后将同趟数据划分到同组中, 剔除组内脏数据.这些脏数据包括重复的到离站记录、同一站的进站时间在该站出站时间之后的、到达后一站的时间在到达前一站之前的记录以及同一趟的到离站数据大量丢失的记录等.
(2) 线路特征处理
线路特征包括线路、方向、车辆及驾驶员信息的处理, 其中, 线路和方向数据可从到离站数据中直接获取.到离站信息里车辆数据需要先经过一定规则的转换, 转换成计划班次信息中可识别的车辆id, 根据此车辆id查询驾驶员id, 以车辆id和驾驶员id分别作为车辆特征和驾驶员特征的区分.
(3) 时间特征处理
公交车辆的运行时长具有一定的时间规律, 比如工作日与周末、节假日与平时、高峰期与平峰期的区别等.为了研究以上时间因素对于研究结果的影响, 需要根据到离站数据里的时间字段, 提取车辆的发车日期、发车时间、星期几、是否为节假日、是否为工作日等特征.
2.2 线路动态特征处理线路动态特征主要是线路运行时产生的数据特征, 包括站间行驶时长和站点停留时长.根据线路运行具有长期趋势、周期规律、短期影响等特征, 本文将线路动态特征定义为近1周、近3天、最近一段时间内的站间行驶时长和站点停留时长.其中, 近1周、近3天的站间行驶或站点停留时长是根据相同时段下各车辆实际运行时对应数据的均值计算所得.最新各个站点的停留时长与行驶时长通常是从起点站依次查询经过该站最近一班的车辆, 以该车辆在该站的站间运行时长和站点停留时长作为该站最新运行时长和停留时长的代替, 直至查询到终点站.将拼接形成的一整条数据作为该趟车最新的站点停留和站间行驶特征值.
2.3 天气特征处理在本文获得的原始天气数据中, 利用到的主要字段包括时间、能见度与天气描述.其中, 时间需要处理成为日期与时间段, 天气描述需要将晴、多云、大雾等转换为可利用的数字描述方式.
2.4 缺失数据填充由于数据期间的局限以及部分GPS到离站原始数据的丢失, 使得当前车辆、最近时间内、3天内、1周内的站点停留和站间行驶时长存在缺失, 需要进行填充.在本文的缺失数据填充中, 对于站点停留和站间行驶时长的缺失主要是利用历史数据相同条件下的均值进行填充.当不存在相同条件下的历史数据时, 则用临近班次进行填充.对于天气数据的缺失, 主要是利用临近小时内的天气状况进行代替.
2.5 特征数据集按照图 2的流程完成数据预处理, 将预处理过程中提取到的空间特征、时间特征和外部特征(包括天气特征、驾驶员信息和车辆信息等)合并为最终的特征数据集.特征数据集的维度为11202×51, 包含厦门22路公交车在2018年9月、12月和2019年1月、2月这4个月里的所有班次.其中, 每一行表示一个班次内的所有特征值.表 1展示了特征数据集中的部分特征及其说明.
3 STPM算法 3.1 算法概述
公交车辆的站点停留时长和站间行驶时长可能受不同因素的影响, 呈现不同的数据表征.本文首先利用融合卷积与LSTM特点的ConvLSTM[15]分别预测车辆的站间行驶时长和站点停留时长, 再利用Stack-LSTM[25]预测总行驶时长.算法分为3个部分:时空组件、外部属性组件和融合组件, 整体的网络结构如图 3所示.
(1) 时空组件用于处理站点停留或是站间行驶等相关特征, 捕捉其时间依赖性与空间相关性;
(2) 外部属性组件用于处理与模型有关的外部因素, 诸如星期几、发车时间、天气、是否是工作日、是否是节假日、驾驶员、车辆、近期运行状况等, 其输出将作为融合组件输入的一部分;
(3) 融合组件是根据时空组件与外部属性组件的输出估计车辆的总行驶时长.
模型中涉及的符号说明见表 2.
3.2 属性组件
公交车辆的行驶时长受多种复杂因素的影响, 包括:
(1) 时间信息:如公交车辆的发车时刻点、星期几、是否是工作日、是否是节假日等.对于公交车辆来说, 通常具有时段特征, 即一天中存在高峰期、低峰期与平峰期.高峰期的行驶时长通常高于低峰期的行驶时长, 且由于周末或其他节假日出行人数较多, 道路私家车数量相对于工作日有所增长, 更易出现交通拥堵增加车辆行驶时长的现象;
(2) 天气信息:当天气出现大雾、沙尘暴、暴雨等情况时, 由于其会影响道路的能见度, 进而减慢道路通行速度, 使得通行时长要比其他情况要长;
(3) 驾驶员信息:由于驾驶员行驶习惯的差异, 即使是同一路段, 通行时长亦有所不同;
(4) 车辆信息:不同车的性能、能容纳的乘客数、车辆结构的差异亦会影响车辆的行驶与停留消耗时间;
(5) 近期交通状况信息:由于现在城市发展较为迅速, 道路交通状况处于不断变化的过程中, 因此有必要将近期线路的交通运行状况作为外部属性输入到模型当中.
在属性组件中, 对于车辆、驾驶员、天气、时间等外部特征, 采用嵌入的方式将这些外部属性特征转换为低维实向量.这种处理方式的优势在于:其一, 它可以将分类值较多的特征降维到较小的输入维度, 进而提高运算效率; 其二, 已有的相关研究发现, 具有相似语义的范畴值通常会被嵌入到相近的位置, 使得这种方法在本文的研究中有助于发现不同的运营数据之间相似的部分, 如驾驶员的驾驶风格、车辆属性等.
对于近期运行状况特征, 包括近1周、近3天、最新的各站点的站间行驶和站点停留特征, 利用其均值与
标准差进行标准化.假设近期运行状况中一个特征为x, 利用公式(1)对其进行转换得到$\tilde x$:
$\tilde x = \frac{{x - x{}_{mean}}}{{{x_{std}}}}$ | (1) |
最后将经过嵌入和标准化处理的外部特征进行连接, 作为其他组件的外部属性输入.若经过嵌入方法转换后, 车辆属性特征为C, 驾驶员属性特征为D, 天气属性为W, 星期几属性为DT, 时间段属性为H, 段内分组属性为M; 经过标准化的方式转换后, 近一周的总时长特征为SW, 近3天的总时长特征为ST, 最新的总时长特征为SC, 则经过连接后的输出向量attr为
$att{r_i} = C_i^c \circ D_i^d \circ W_i^w \circ DT_i^{dt} \circ H_i^h \circ M_i^m \circ S{W_i} \circ S{T_i} \circ S{C_i}$ | (2) |
其中, attri表示第i个样本经过属性组件后输出的属性特征集; Cic表示第i个样本的车辆特征经嵌入方法转换后
的一维向量, 其他属性特征(驾驶员、星期几、时间段、段内分组)的表示与之相同; SWi表示第i个样本近一周的运行特征经标准化方法转换后的一个值, 3天与最新运行特征的转换与之相同.故经过属性组件后的特征都被处理为一个n=c+d+w+dt+h+m+3的一维向量.
3.3 时空组件在时空组件中, 相当于是由两个子件组成.其中一个子件用于预测各个站点的停留时长, 另一个子件用于预测各个站间的行驶时长.利用ConvLSTM模型捕获站间行驶与站点停留的时间依赖性与空间相关性.虽然行驶时长预测子件与停留时长预测子件在整体结构上存在差异, 但其核心均是依赖于ConvLSTMCell.
(1) ConvLSTMCell
ConvLSTMCell是基于LSTM结构的.LSTM作为一种特殊的RNN, 它的时间记忆性能够在一定程度上解决时间依赖的问题.一个抽象的LSTM如图 4所示(各符号的定义见表 1).
当有新的输入时, 如果输入门it被激活, 则新输入的信息将会被累加到细胞单元中.输入门是否被激活, 是由t-1时刻的网络输出ht-1和这一步的网络输入xt决定(见公式(3)).在计算这一步的网络输出前, 还需要考虑t-1时刻网络中的记忆单元ct-1.当ct-1传入到t时刻的网络中时, 首先, 网络需要先决定它被遗忘的程度, 即, 将t时刻之前的记忆状态乘以一个记忆衰减系数ft.这个记忆衰减系数ft是根据t时刻的网络输入xt与t-1时刻的网络输出ht-1所决定(见公式(5)).也就是说, 网络所要保留的记忆是由前一时刻的输出和这一时刻的输入共同决定.
新时刻学到的记忆ct是经过线性变化和激活函数所得到(见公式(4)).在得到t-1时刻的记忆需要保留多少ft*ct-1以及新时刻学到什么样的记忆后, 将t-1时刻保留的记忆加上t时刻学到的记忆及其对应的衰减系数it, 则得到了t时刻的记忆状态(见公式(6)).
t时刻网络的输出ht是由t时刻的输入xt、t-1时刻网络的输出和t时刻记忆状态所决定.使用类似计算记忆衰减系数的方式计算输出门的系数ot(见公式(7)), 由决定网络的输出, 即最终网络的输出是由公式(8)所计算:
$i_{t}=\sigma\left(W_{i}\left[h_{t-1}, x_{t}\right]+b_{i}\right) $ | (3) |
$\tilde{c}_{t}=\tanh \left(W_{c} \cdot\left[h_{t-1}, x_{t}\right]+b_{c}\right) $ | (4) |
$f_{t}=\sigma\left(W_{f}\left[h_{t-1}, x_{t}\right]+b_{f}\right) $ | (5) |
$c_{t}=f_{t} \times c_{t-1}+i_{t} \times \tilde{c}_{t} $ | (6) |
$o_{t}=\sigma\left(W_{o}\left[h_{t-1}, x_{t}\right]+b_{o}\right) $ | (7) |
$h_{t}=o_{t} \times \tanh \left(c_{t}\right) $ | (8) |
对于公交到站时间预测, 有必要使用一个能够同时捕捉时空特征的网络结构.在ConvLSTM中, 通过将卷积层融入到传统的LSTM中, 使得某一单元的输入不再是仅由过去时刻的状态所决定, 还与其邻近的邻居状态有关(如图 5所示).可以理解为:某一站点的停留时长或站间的行驶时长, 不仅与这一站点过去的停留时长或站间行驶时长有关, 还与其邻近站点的停留时长或站间行驶时长有关.
ConvLSTM上述特性的实现依赖于其将卷积的操作融入到LSTM各个门的计算当中, 即在以下公式中的Wxi, Whi, Wxf, Whf, Wxc, Whc, Wxo, Who等参数中利用卷积操作进行运算(各符号的定义见表 1).
$i_{t}=\sigma\left(W_{x i} \times x_{t}+W_{h i} \times h_{t-1}+W_{c i} \circ c_{t-1}+b_{i}\right) $ | (9) |
$f_{t}=\sigma\left(W_{x f} \times x_{t}+W_{h f} \times h_{t-1}+W_{c f} \circ c_{t-1}+b_{f}\right) $ | (10) |
$c_{t}=f_{t} \circ c_{t-1}+i_{t} \operatorname{otanh}\left(W_{x c} \times x_{t}+W_{h c} \times h_{t-1} b_{c}\right) $ | (11) |
$o_{t}=\sigma\left(W_{x o} \times x_{t}+W_{h o} \times h_{t-1}+W_{c o} \circ c_{t-1}+b_{o}\right) $ | (12) |
$h_{t}=o_{t} \times \tanh \left(c_{t}\right) $ | (13) |
(2) 行驶时长子件
对于行驶时长子件, 其可以看做由多个ConvLSTMCell组成的一个ConvLSTM.对于ConvLSTM来说, 其卷积核的大小从某种程度上反映了一个单元的状态由多大范围内的邻近单元状态决定.对于行驶时长子件, 其网络结构如图 6所示.
(3) 停留时长子件
对于停留时长子件, 同样可以看做由多个ConvLSTMCell组成的一个ConvLSTM.其网络结构可以如图 7所示.
3.4 融合组件
融合组件将根据行驶时长组件和停留时长组件输出的预测各站点的停留时长参数和行驶时长参数, 以及属性组件经嵌入、标准化和连接方式输出的驾驶员特征、天气特征、时间特征和近期运行特征, 预测公交车辆由起点站到终点站所需的总时长.融合组件采取Stack-LSTM的方式进行预测, 其网络结构如图 8所示.
4 实验与分析 4.1 环境设置
本次实验基于2018年9月1日~2019年2月28日厦门市22路公交到离站数据、计划班次信息、车辆信息以及厦门天气状况等数据进行.使用python3.7和Pytorch1.1进行数据处理与算法编写, 利用sklearn0.18.1库中的模型接口进行部分算法实现.如图 9所示:厦门22路公交上行从胡里山站出发, 途经厦大白城站等站点, 终点为麦德龙站.预处理后的特征数据集包含到离站数据280 050条, 班次信息11 202条, 天气数据为每小时天气状况.
4.2 模型设置 4.2.1 时空组件——停留时长预测子件
本节在实验中修改网络的结构, 包括网络层数、每层神经元的数量、卷积层核的大小、每次参与训练的batch的数量以及网络的学习率.通过实验发现, 当停留时长预测子件的参数如下时, 模型效果最优:网络结构由4层ConvLSTMCell组成; 每层神经元的设置分别是128, 64, 32, 1;各层卷积核的大小分别是7, 5, 5, 3;每次进行训练的batch大小为600;学习率为0.01.此外, 为了体现不同站点对最终结果的影响程度不同, 在该网络中, 为不同站点的损失赋予不同的权重(公式(14)):
$w_{s_{i}}=\left(\max _{s_{i}}-\min _{s_{i}}\right) \times \frac{\operatorname{var}_{s_{i}}}{{mean}_{s_{i}}} $ | (14) |
经实验发现, 当行驶时长预测组件由一个3层ConvLSTMCell组成, 各层参数设置值如下时效果最优:该网络每层神经元的设置分别是128, 64, 1;各层卷积核的大小分别是5, 5, 5;每次进行训练的batch大小为600;学习率为0.01.在该网络中, 不同站点损失的权重将根据公式(15)进行计算:
$w_{t i}=\frac{\mathrm{var}_{r_{i}}}{ {mean}_{r_{i}}} $ | (15) |
属性组件对于其中的驾驶员、车辆、天气、星期几、发车时间、时段分组特征, 模型采用嵌入的方式, 对其纬度变化见表 3.
4.2.4 融合组件
在本节的实验中, 融合组件在其参数设置如下时, 达到最优状态:层数为4;各层神经元的数量分别为96, 48, 24, 1;学习率为0.1.在该网络结构中, 其损失函数为公式(16):
${loss}=|\hat{y}-y| $ | (16) |
由于现有关于公交车辆从起点站到终点站的研究较少, 故本文采用几种常用于回归预测的机器学习方法进行误差百分比和准确率两个方面的对比.其中, 准确率是绝对误差在5分钟以内被判定为正确的数量占测试集的比例.其实验结果见表 4.
(1) STPM:该算法为本文所提出的算法, 融合卷积与LSTM组成时空组件CT, 用于学习事物的时间依赖性和空间相关性; 利用嵌入、标准化与连接的方式组成属性组件, 用于学习外部因素的影响; 利用融合组件对时空组件与属性组件的输出进行融合进而预测总行驶时长;
(2) CNN[13, 26]:由卷积层和池化层组成的一种前馈神经网络, 在对比实验中, 使用与STPM相同的特征进行预测;
(3) LSTM[14, 27]:由输入门、输出门、遗忘门组成的基本长的短时记忆网络, 使用的特征与STPM相同;
(4) Adaboost[28]:利用训练数据训练多个弱分类器, 融合弱分类器的的训练结果进行预测的一种集成方法.在对比实验中, 使用与STPM相同的特征进行预测;
(5) DecisionTree[29]:决策树, 一种用于预测的树结构.在该算法实验中, 使用与STPM相同的特征进行预测;
(6) SVM[30]:支持向量机.一种常用于模式识别、分类及回归分析的监督学习方法;
(7) HP:基于历史相同条件(是否为工作日、时段)下平均值预测.
从实验结果上看, 本文所提出的基于深度神经网络的预测算法STPM的误差百分比相对于其他算法更低.图 10与图 11展示了利用传统方法与深度学习方法进行预测的结果, 其中, 纵轴为总时长值, 横轴为样本ID, 拟合线为预测值, 散点为真实值.根据真实值与预测值的绝对误差, 对真实值的散点颜色进行区分.十字代表300s的误差内, 圆圈代表300s~400s的误差, 叉号代表400s~500s的误差, 三角代表500s~600s的误差, 方形代表误差超过600s.
实验结果分析如下.
(1) 对比STPM与HP发现, STPM的效果要优于单纯根据历史条件进行预测的模型HP.这是因为公交总行驶时长是一个受多种复杂因素综合影响的问题, 天气与道路交通状况等因素不可预知, 仅根据历史条件进行预测缺乏灵活性;
(2) 对比STPM, CNN与LSTM发现:STPM在误差百分比与准确率上要优于CNN与LSTM, 这可能是由于STPM结合了CNN卷积与LSTM的记忆优势.公交总行驶时长, 无论停留还是行驶, 都具有时间依赖性和空间相关性.因此, 使用一个可以同时捕获时空特征的ConvLSTM, 相对于单用一个模型较好;
(3) 对比STPM与其他机器学习模型发现:其误差百分比与准确率均优于其他模型; 且Adaboost的效果要好于SVM、决策树.这是由于Adaboost是一种集成学习的方法, 类似于一种投票的机制, 能够很好地纠正单一模型的错误.
4.4 时间性能分析表 5展示了上述7种方法的训练时间(即STPM, CNN, LSTM, HP, SVM, Adboost, DecisionTree), 训练过程使用的GPU为TITAN X.
由于STPM模型的参数数量大于其他的深度模型, 因此其训练也是最耗时的.然而通过实验结果可以看出, STPM的精度好于其他方法.虽然具有较长的训练时长, 但是在离线训练中, 这样的时长是可以接受的.通常在实际应用当中, 我们能够获得大量的离线资源进行预训练.此外, 当模型训练完毕之后, STPM的预测时间与其他方法相当, 可在80ms内得到预测结果.
5 结束语深度学习现已在人脸识别、计算机视觉、自然语言处理等领域发挥着重要的作用, 是各界学术研究者研究的热点之一.但是在智能交通领域, 特别是公交到站时间预测的研究与应用还较少.本文提出利用ConvLSTM捕获事物的时间依赖性与空间相关性, 分别对站点的停留时长和站间的行驶时长进行预测, 利用属性组件对诸如驾驶员特征、车辆特征、时间特征、天气特征、近期运行等特征进行嵌入操作, 将时空组件与属性组件的输出作为融合组件的输入.然后, 由多个LSTM组成的融合组件对来自时空组件和属性组件的输入进行融合, 预测最终车辆从起点站到终点站的总时长.实验结果表明, 算法在误差百分比与准确率上的表现优于已有的算法.
对于未来的工作, 可以增加非起点站到终点站的预测, 辅之以修正机制.通过车辆到达非终点站的真实时间与预测时间之间的误差, 不断改进对到达终点站的预测时间.同时, 由于道路交通状况常常是一个复杂且不可准确预知的问题, 特别是何时会发生交通事故等难以预料, 因此, 加强交通系统中车辆信息收集与相互之间的信息交互, 对于及时了解路段状况、改进模型预测效果也是有一定帮助的.
本文由人工智能赋能的数据管理、分析与系统专刊特约编辑李战怀教授、于戈教授和杨晓春教授推荐.
[1] |
Feng K.. Development status and trends of urban intelligent transportation system. Global Market Information Guide, 2017(1): 111-112(in Chinese with English abstract).
http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=hqscxxdb201701092 |
[2] |
Geng YB. Quantitative research on low carbon index of urban public transport. Low Carbon World, 2018, 185(11): 28-29(in Chinese with English abstract).
http://d.old.wanfangdata.com.cn/Periodical/dtsj201811015 |
[3] |
Yang ZS. Urban Intelligent Public Transportation System Theory and Method. Beijing: China Railway Publishing House, 2004.
|
[4] |
Wang Z, Fu K, Ye J, et al. Learning to estimate the travel time. In:Proc. of the 24th ACM SIGKDD Conf. on Knowledge Discovery and Data Mining., 2018, 858-866.
|
[5] |
Ma Q. The applied research of intelligent transportation system in Luoyang's public transportation filed[Ph.D. Thesis]. Zhengzhou: Henan University Of Science And Technology, 2013(in Chinese with English abstract).
|
[6] |
Zhang J, Wang F, Wang K, et al. Data-driven intelligent transportation systems:A survey. IEEE Trans. on Intelligent Transportation Systems, 2011, 12(4): 1624-1639.
[doi:10.1109/TITS.2011.2158001] |
[7] |
Ghosh R, Pragathi R, Ullas S, et al. Intelligent transportation systems:A survey. In:Proc. of the Int'l Conf. on Circuits., 2017.
http://d.old.wanfangdata.com.cn/Periodical/jsjkx201411002 |
[8] |
Li YG, Fu K, Wang Z, Shahabi C, Ye JP, Liu Y. Multi-task representation learning for travel time estimation. In:Proc. of the 24th ACM SIGKDD Conf. on Knoledge Discovery and Data Mining., 2018, 1695-1704.
http://cn.bing.com/academic/profile?id=c0db858149decde14adbcf6550f849ab&encoded=0&v=paper_preview&mkt=zh-cn |
[9] |
Wu CH, Ho JM, Lee DT. Travel-Time prediction with support vector regression. IEEE Trans. on Intelligent Transportation Systems, 2004, 5(4): 276-281.
[doi:10.1109/TITS.2004.837813] |
[10] |
Lai YX, Yang X, Cao Q, et al. A bus running length prediction method based on gradient boosting. Big Data Research., 2019, 5(5): 58-78(in Chinese with English abstract).
http://www.cnki.com.cn/Article/CJFDTotal-DSJU201905006.htm |
[11] |
Ding HF, Li YH, Liu B, et al. Expressway's travel time prediction based on combined BP neural network and support vector machine approach. Application Research of Computers, 2016, 33(10): 2929-2932(in Chinese with English abstract).
http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=jsjyyyj201610012 |
[12] |
Xu TD, Sun LJ, Hao Y. Real-time traffic state estimation and travel time prediction on urban expressways. Journal of Tongji University (Natural Science), 2008, 36(10): 1355-1361(in Chinese with English abstract).
http://d.old.wanfangdata.com.cn/Periodical/tjdxxb200810009 |
[13] |
Le CY, Boser B, Denker JS, Henderson D, Howard RE, Hubbard W, Jackel LD. Backpropagation applied to handwritten zip code recognition. Neural Computation, 1989, 1(4): 541-551.
[doi:10.1162/neco.1989.1.4.541] |
[14] |
Sundermeyer M, Schluter R, Ney H, et al. LSTM neural networks for language modeling. In:Proc. of the Int'l Conf. on Speech Communication Association., 2012, 194-197.
http://d.old.wanfangdata.com.cn/Periodical/qbxb201802008 |
[15] |
Shi X, Chen Z, Wang H, et al. Convolutional LSTM network:A machine learning approach for precipitation nowcasting. In:Proc. of the Neural Information Processing Systems, 2015, 2015.
http://cn.bing.com/academic/profile?id=e928b1fc40c32acf2091ef894f584a1f&encoded=0&v=paper_preview&mkt=zh-cn |
[16] |
Vanajakshi L, Subramanian SC, Sivanandan R. Travel time prediction under heterogeneous traffic conditions using global positioning system data from buses. IET Intelligent Transport Systems, 2009, 3(1): 1-10.
http://d.old.wanfangdata.com.cn/NSTLQK/NSTL_QKJJ028512043/ |
[17] |
Sinn M, Yoon J W, Calabrese F, et al. Predicting arrival times of buses using real-time GPS measurements. In:Proc. of the Int'l IEEE Conf. on Intelligent Transportation Systems. IEEE, 2012.
http://ieeexplore.ieee.org/xpls/icp.jsp?arnumber=6338767 |
[18] |
Maiti S, Pal A, Pal A, et al. Historical data based real time prediction of vehicle arrival time. In:Proc. of the IEEE Int'l Conf. on Intelligent Transportation Systems. IEEE, 2017.
http://ieeexplore.ieee.org/xpls/abs_all.jsp?arnumber=6957960 |
[19] |
Wang LZ, Su QL, Zheng RB. Bus arrival time prediction based on elman dynamic neural network. Mechanical & Electrical Technology, 2012, 35(1): 135-137(in Chinese with English abstract).
http://d.old.wanfangdata.com.cn/Periodical/jdjs201201037 |
[20] |
Zhang Q, Zhang YY. Research on prediction model of bus arrival time based on time segmentation. Digital Technology and Application, 2014(11): 60, 62(in Chinese with English abstract).
http://d.old.wanfangdata.com.cn/Periodical/szjsyyy201411037 |
[21] |
Ji YJ, Lu JW, Chen XS, et al. Prediction model of bus arrival time based on particle swarm optimization and wavelet neural network. Journal of Transportation Systems Engineering and Information Technology, 2016, 16(3): 60-66(in Chinese with English abstract).
http://d.old.wanfangdata.com.cn/Periodical/jtysxtgcyxx201603009 |
[22] |
Yang Y, Zhang WR, Zhang C. Application of BP neural network based on genetic algorithm in bus arrival time prediction. Modern Business, 2017(16): 38-40(in Chinese with English abstract).
http://d.old.wanfangdata.com.cn/Periodical/syjlr201716016 |
[23] |
Zhang X, Jiang JJ, Liu J. Coach bus arrival time prediction based on SVM and GA. Computer & Digital Engineering, 2017, 45(6): 1062-1066, 1085(in Chinese with English abstract).
http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=jsjyszgc201706011 |
[24] |
Xie F, Gu JH, Zhang SQ, et al. Predicting model of bus arrival time based on MapReduce clustering and neural network. Journal of Computer Application, 2017, 37(S1): 118-122(in Chinese with English abstract).
http://d.old.wanfangdata.com.cn/Periodical/jsjyy2017z1027 |
[25] |
Dyer C, Ballesteros M, Ling W, et al. Transition-based dependency parsing with stack long short-term memory. Computer Science, 2015, 37(2): 321-332.
http://arxiv.org/abs/1505.8075 |
[26] |
Kim P. Convolutional neural network. MATLAB Deep Learning, 2017, 121-147.
http://d.old.wanfangdata.com.cn/Periodical/sjcjycl201601001 |
[27] |
Hochreiter S, Schmidhuber J. Long short-term memory. Neural Computation, 1997, 9(8): 1735-1780.
[doi:10.1162/neco.1997.9.8.1735] |
[28] |
Dietterich TG. Ensemble Methods in Machine Learning. In:Proc. of the Int'l Workshgp on Multiple Classifier Systems., 2000.
http://d.old.wanfangdata.com.cn/OAPaper/oai_arXiv.org_1108.6094 |
[29] |
Quinlan JR. Induction on decision tree. Machine Learning, 1986, 1(1): 81-106.
|
[30] |
Cortes C, Vapnik V. Support-vector networks. Machine Learning, 1995, 20(3): 273-297.
http://cn.bing.com/academic/profile?id=1873f36f039b349911023e799f191a93&encoded=0&v=paper_preview&mkt=zh-cn |
[1] |
冯凯. 城市智能交通系统的发展现状与趋势. 环球市场信息导报, 2017(1): 111-112.
http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=hqscxxdb201701092 |
[2] |
耿宇博. 城市公共交通工具低碳指标量化研究. 低碳世界, 2018, 185(11): 28-29.
http://d.old.wanfangdata.com.cn/Periodical/dtsj201811015 |
[3] |
杨兆升. 城市智能公共交通系统理论与方法. 北京: 中国铁道出版社, 2004.
|
[5] |
马卿.智能交通系统在洛阳市公共交通领域的应用研究[博士学位论文].郑州: 河南科技大学, 2013.
|
[10] |
赖永炫, 杨旭, 曹琦, 等. 一种基于Gradient Boosting的公交车运行时长预测方法. 大数据, 2019, 5(5): 58-78.
http://www.cnki.com.cn/Article/CJFDTotal-DSJU201905006.htm |
[11] |
丁宏飞, 李演洪, 刘博, 等. 基于BP神经网络与SVM的快速路行程时间组合预测研究. 计算机应用研究, 2016, 33(10): 2929-2932.
http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=jsjyyyj201610012 |
[12] |
徐天东, 孙立军, 郝媛. 城市快速路实时交通状态估计和行程时间预测. 同济大学学报(自然科学版), 2008, 36(10): 1355-1361.
http://d.old.wanfangdata.com.cn/Periodical/tjdxxb200810009 |
[19] |
王麟珠, 苏庆列, 郑日博. 基于Elman动态神经网络的公交到站时间预测. 机电技术, 2012, 35(1): 135-137.
http://d.old.wanfangdata.com.cn/Periodical/jdjs201201037 |
[20] |
张强, 张艳艳. 基于时间分段的公交车到站时间预测模型研究. 数字技术与应用, 2014(11): 60, 62.
http://d.old.wanfangdata.com.cn/Periodical/szjsyyy201411037 |
[21] |
季彦婕, 陆佳炜, 陈晓实, 等. 基于粒子群小波神经网络的公交到站时间预测. 交通运输系统工程与信息, 2016, 16(3): 60-66.
http://d.old.wanfangdata.com.cn/Periodical/jtysxtgcyxx201603009 |
[22] |
杨奕, 张雯蕊, 张灿. 基于遗传算法的BP神经网络在公交车到站时间预测中的应用. 现代商业, 2017(16): 38-40.
http://d.old.wanfangdata.com.cn/Periodical/syjlr201716016 |
[23] |
张昕, 姜佳佳, 刘进. 基于SVM+GA的客运车辆到站时间预测. 计算机与数字工程, 2017, 45(6): 1062-1066, 1085.
http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=jsjyszgc201706011 |
[24] |
谢芳, 顾军华, 张素琪, 等. 基于MapReduce聚类和神经网络的公交车到站时间预测模型. 计算机应用, 2017, 37(S1): 118-122.
http://d.old.wanfangdata.com.cn/Periodical/jsjyy2017z1027 |