项目背景
HARMONIA 是一项面向音乐调性检测的多模态研究。它把音乐音频与和弦文本结合起来,希望在复杂或模糊的音乐片段中,更可靠地判断作品的主调。
我在论文收尾阶段加入,主要任务不是训练模型或撰写算法,而是把研究方法、数据流程和实验现象转成准确、清楚、可以正式投稿的科研图件。
我负责的部分
- 阅读论文草稿以及 BLIP-2、Music Flamingo、SALMONN、MuQ 等相关工作,理解音频编码、Q-Former、和弦识别和多模态融合之间的关系;
- 与论文作者持续核对模型结构、数据来源、训练阶段和术语,记录仍需确认的问题,避免用视觉效果掩盖技术不确定性;
- 在 Figma 中重构图件的信息层级、数据流、颜色语义和版面,保留历史版本,支持作者逐轮比较和微调;
- 使用 Python 与 Matplotlib 绘制定性分析图,把真实频谱、伪和弦标签、参考和弦标签及调性预测结果放在同一时间轴上;
- 编写音频频谱和数据处理脚本,处理 Mel/CQT 特征、Hooktheory 标注与 BTC 输出,为图件准备可复现的数据;
- 统一论文图中的 MusicFM、BTC、PCL、RCL、ModernBERT 和 Q-Former 等术语,修正迭代过程中遗留的旧名称。
完成的核心图件
最终交付覆盖论文中几类不同的信息表达任务:
- HARMONIA 模型架构图:展示音频分支、和弦文本分支、多模态融合和调性分类输出;
- 数据集构建流程图:解释原始数据如何经过下载、过滤、切分、和弦提取与格式统一,形成两类数据;
- 分阶段训练与推理图:区分各训练阶段启用的输入、可训练模块、冻结模块和推理路径;
- Window Q-Former 结构图:解释滑动窗口如何从连续音频特征中生成紧凑的音频 token;
- 音频—和弦对齐定性图:把频谱、PCL/RCL 和不同系统的调性预测结果放在同一视图中,便于分析模型为什么判断正确或出错。
这几张图并不是统一套用一个模板。架构图需要强调模块关系,数据流程图需要突出筛选和数量变化,训练图需要区分阶段,定性分析图则必须保持时间严格对齐。
出版级 PDF 交付
论文图在屏幕上“看起来正确”还不够。投稿系统会检查字体嵌入、PDF 类型、页面尺寸和渲染兼容性,因此我也负责了最后的文件工程:
- 同时保留 Figma 可编辑源、SVG、PNG 和矢量 PDF;
- 按要求统一 Times New Roman 视觉字形,并分别制作 Type 1 与 Type 3 字体版本;
- 使用
pdffonts检查字体类型和嵌入状态; - 使用
qpdf检查 PDF 结构,使用pdfinfo核对页数和页面尺寸; - 使用 Poppler 重新渲染全部交付图,检查黑页、白页、裁切、缺字、线条错位和颜色损坏;
- 对转换前后的渲染结果进行像素比较,并在交付清单中记录文件版本、校验结果和 SHA-256。
最终成果以多个带 Manifest 的交付包归档,使论文作者能够知道每张图来自哪个版本、使用哪种字体格式,以及是否完成视觉与结构验证。
工作边界
我的贡献集中在科研理解、信息设计、图件实现和出版文件交付,不将论文的模型设计、数据集构建或实验结果归为自己的算法成果。当前项目页面也不提前公开论文内部稿件、未发布实验数字或投稿状态。
这段经历
科研绘图不是给文字“配一张好看的图”。我需要先理解作者真正做了什么,再决定哪些信息应该放在同一层、哪些箭头代表数据流、哪些视觉差异代表训练状态,以及哪些细节仍然不能下结论。
这段经历让我建立了一套更完整的论文视觉交付流程:读懂研究 → 提炼结构 → 制作可编辑图件 → 核对术语与事实 → 导出出版文件 → 逐项验证交付。它连接了研究沟通、信息设计和工程质量控制。
