RumIV头像
【时空智能】五篇时空预测与大模型融合论文架构速览:One-Fits-All、Time-LLM、PromptST、ST-LLM、UrbanGPT封面图

【时空智能】五篇时空预测与大模型融合论文架构速览:One-Fits-All、Time-LLM、PromptST、ST-LLM、UrbanGPT

1. 引言

大模型与时空数据挖掘的结合是近两年非常活跃的方向。本文简要梳理五篇代表性工作的核心架构:One-Fits-All、Time-LLM、PromptST、ST-LLM 与 UrbanGPT,并给出各自的架构图,便于快速建立整体认知。

2. One-Fits-All:一个模型适配多任务

One-Fits-All 的核心思想是"一个模型解决多类任务",通过统一的输入表示与任务适配机制,让同一套骨干网络同时服务于多种时空预测任务,避免为每个任务单独设计模型,从而降低部署与维护成本。

One-Fits-All 架构图

3. Time-LLM:把时间序列"翻译"成语言

Time-LLM 将时间序列重编程为语言模型可以理解的 token 序列,借助预训练大语言模型的通用能力完成时序预测。其关键在于输入变换(patch 化与文本原型对齐)与提示词增强,使 LLM 无需大规模重训练即可适配时序任务。

Time-LLM 架构图

4. PromptST:面向时空预测的提示学习

PromptST 将提示学习(Prompt Learning)引入时空预测,通过设计时空提示向量并注入模型,在少量参数微调的前提下提升模型对下游任务的适应能力,兼顾效果与训练效率。

PromptST 架构图

5. ST-LLM:时空大语言模型

ST-LLM 面向时空数据设计大语言模型框架,重点解决时空数据的结构化建模与 LLM 输入对齐问题,通过时空编码与语言模型解码的协同,实现统一的时空表示与预测。

ST-LLM 架构图

6. UrbanGPT:面向城市时空预测的大模型

UrbanGPT 聚焦城市级时空预测场景,将城市多源数据(如交通、人口、POI 等)编码后输入大语言模型,并结合指令微调提升模型在零样本/少样本条件下的城市时空预测能力。

UrbanGPT 架构图

7. 小结

五篇工作从不同角度探索了大模型与时空数据的结合:One-Fits-All 强调统一多任务,Time-LLM 侧重时序到语言的映射,PromptST 走提示学习路线,ST-LLM 与 UrbanGPT 则分别从通用时空建模与城市级应用切入。后续可进一步对比它们在数据表示、训练成本与泛化能力上的差异。

转载自 CSDN-专业IT技术社区

原文链接:https://blog.csdn.net/qq_40205510/article/details/170725798

文章来源转载

评论

评论列表

微信小程序
QQ小程序

关于作者

点赞数:0
关注数:0
粉丝:0
文章:0
关注标签:0
加入于:--