关于移动出行领域LLMs的安全性与隐私保护

移动出行行业正经历由生成式人工智能进步所驱动的范式转变。仅考虑汽车，该行业全球市场年规模约为2.9万亿美元，而这些技术的整合有望影响全球超过15亿辆汽车。随着LLMs在移动出行领域得到越来越广泛的采用，人们开始关注网络安全、隐私和可靠性问题。因此，本文对当前应用进行综述，并评估这些挑战。鉴于European AI Act将交通运输领域的人工智能列为高风险领域，我们根据其要求归纳出九类技术类别，用于评估当前研究和未来部署。研究结果表明，现有研究主要关注GPT和Llama模型（占所审阅研究的50%以上）以及交通应用，却在很大程度上忽视了安全性、隐私和可靠性。这一缺口同样存在于对AI Act的合规性方面：在审阅的35项研究中，仅有1项包含部分漏洞评估，另有1项包含部分风险管理系统。我们发现，强大的优化性能与监管遵从性之间存在明显差距，这表明合规性受限的主要原因并非技术能力不足，而是过度关注静态性能、忽视全生命周期安全；同时，这也凸显了在安全关键型智能交通系统中贯彻安全设计的迫切需求。