StreamingMEM-R1

整理自 StreamingM-R1-V7 的可复用数据、训练代码和评测代码。

目录

• data/raw/：原始流式表述数据源
• data/sft/：SFT 训练数据
• data/rl/：RL 训练数据
• code/sft/：SFT 模型、数据集和训练器实现
• code/rl/：RL/GRPO 训练器、奖励函数和模型 patch
• code/evaluation/：StreamingBench、OVO-Bench 评测脚本
• code/common/：数据构造、清洗、验证和公共推理工具
• data_expand/：数据扩充、在线合成与视频验证代码及启动脚本
• data_expand_1/：扩充验证器依赖的原始实现
• data/generated/：数据生产脚本的默认输出目录（初始为空）
• scripts/：训练与评测入口脚本

核心数据

用途	文件
原始表述数据源	data/raw/streaming_cot_cold_processed_5_20.jsonl（110,888 条）
SFT	data/sft/sft_v7_100k.json
RL	data/rl/rl_v7_50k.json

数据中的 video_path 保留原项目路径；使用前请根据本机视频数据位置调整路径或建立对应软链接。 源目录没有能明确确认是“原始 40k 表述数据”的文件，因此这里保留其已使用的原始数据源，而不将 110,888 条数据冒称为 40k。评测代码还依赖同级的 ThinkStream/thinkstream，模型权重和基准视频数据也没有复制。

运行

训练入口在 scripts/：

• run_realtime_memory_sft_vllm.sh、run_realtime_memory_trajectory_sft.sh
• run_realtime_memory_grpo.sh

评测入口：

• eval_streamingbench.sh
• eval_ovobench.sh

数据扩充入口：bash data_expand/run_unified_ltm_both_pipeline_vllm.sh（生成 LTM/BOTH 候选并进行视频验证）；scripts/run_expand_and_verify_benchmark_memory.sh 是另一套基准候选生成/验证入口。具体默认值见 data_expand/README.md。

上传到 Hugging Face：运行 python scripts/upload_to_huggingface.py。默认将当前项目目录上传到 Fred456/StreamingMEM-R1 的 dataset 仓库，经由 https://hf-mirror.com；认证使用 HF_TOKEN 或本机 Hugging Face 登录缓存。可通过 HF_REPO_ID、HF_UPLOAD_ENDPOINT、--repo-id、--endpoint 覆盖，使用 --private 创建私有仓库。脚本会排除 checkpoint、模型权重、日志、缓存和 data/generated/ 中间产物，可用 --include-generated 显式包含后者。

MODEL_PATH、CONDA_ENV、BENCHMARK_DIR 等默认绝对路径指向当前机器环境，迁移时通过环境变量覆盖。RL 默认模型是 SFT checkpoint，需要先完成 SFT 或提供自己的 MODEL_PATH。W&B 凭据只从环境变量读取。 数据扩充代码使用项目内 vendor/pipeline/tools 的 vLLM 合成实现；运行时仍需要外部视频数据、教师模型权重和已安装的 CUDA/vLLM 依赖，这些大型运行资源没有复制。