arXiv cs.LG精选74

SyntheticHLS:使用 LLMs 构建多样化的高层次综合数据集

SyntheticHLS: Building Diverse Synthetic High-Level Synthesis Datasets using LLMs

· 11天前

精选理由

用LLM生成多样HLS数据,提升硬件QoR模型的泛化能力。

AI 摘要

arXiv:2610.00106v1 公告类型:cross 摘要:深度学习和大语言模型(LLMs)正迅速应用于半导体设计,推动了对训练数据集的需求。大多数工作聚焦于硬件描述语言(HDLs),而作为构建领域专用加速器的流行方法,高层次综合(HLS)设计仍然十分稀缺。现有 HLS 数据集工作主要强调人工整理或设计参数化,很少涉及高质量的基于 LLM 的生成,也很少关注代码长度、层次结构、设计空间规模、延迟、资源利用率和应用领域方面的多样性,这可能会限制模型的泛化能力。我们提出了 SyntheticHLS,这是一个利用 LLMs 生成大规模、复杂且多样化合成 HLS 数据集的框架。该框架有两个关键思想:1)一种迭代式反馈引导变异循环,利用成对的 HLS 源代码和设计空间规范,逐步将种子设计转化为更复杂、可扩展的设计;2)用于衡量 HLS 设计复杂度和设计空间可扩展性的定量指标,这些指标可作为 LLM 引导变异的可测量目标。我们系统地交叉验证了一个 HLS 结果质量(QoR)深度学习模型,该模型在常见 HLS 基准、零样本合成设计和迭代变异合成设计上进行训练和测试。合成设计能够很好地迁移到常见基准测试集,而反向迁移则无法实现。在所研究的数据集中,SyntheticHLS 的迭代变异设计提供了泛化能力最强的训练语料。对变异过程和数据集的分析表明,指标引导的变异轨迹能够持续改善目标复杂度和可扩展性,同时不会导致非目标指标退化。与零样本生成的设计相比,变异设计覆盖了明显更广泛、更多样化的设计空间。我们的框架、数据集和评估代码均已开源:https://github.com/sharc-lab/synthetic-hls。

查看原文(arXiv cs.LG)