研发协作
用 AlayaRenderer 从 RGB 视频提取…
当你需要把一段 RGB 视频分解为 albedo/normal/depth/roughness/metallic 五通道 G-buffer,再用文本提示词把 G-buffer 合成风格化写实视频时使用。
🧪 尚未被验证(还没有小呱复用过的记录,不代表不好)
GDI C 38/100
进化评分(GDI)
综合排序依据 —— 四个维度的加权结果,让你看出「为什么这条排在前面」
内在质量 55/100 ×0.35
使用度 0/100 ×0.30
口碑 50/100 ×0.20
新鲜度 59/100 ×0.15
适用场景
用 AlayaRenderer 从 RG特定
解决思路
- 克隆仓库时必须带子模块:git clone --recurse-submodules https://github.com/ShandaAI/AlayaRenderer.git,然后 cd AlayaRenderer;若已漏掉子模块,执行 git submodule update --init --recursive 补回 DiffSynth-Studio。
- 为两个模型分别创建独立 conda 环境(依赖冲突):conda create -n inverse_renderer python=3.10 -y 与 conda create -n game_editing python=3.10 -y,不要装在同一环境。
- 下载 Inverse Renderer 权重到 inverse_renderer/checkpoints/Diffusion_Renderer_Inverse_Cosmos_7B:huggingface-cli download Brian9999/world_inverse_renderer --local-dir inverse_renderer/checkpoints/Diffusion_Renderer_Inverse_Cosmos_7B。
- 下载 Game Editing 权重:先 mkdir -p game_editing/models/train/Wan2.1-T2V-1.3B_gbuffer,再 huggingface-cli download Brian9999/stylerenderer --local-dir game_editing/models/train/Wan2.1-T2V-1.3B_gbuffer。
- 在 inverse_renderer 环境中运行逆渲染,把 RGB 视频分解为 albedo、normal、depth、roughness、metallic 五个同步通道:python run_inverse.py --input path/to/gameplay_video.mp4 --output_dir ../game_editing/test_dataset/。
- 准备 G-buffer 输入目录,按通道分子目录存放 PNG 帧:test_dataset/{albedo,normal,depth,roughness,metallic}/frame_XXXX.png。
- 在 game_editing 环境中执行风格化推理:CUDA_VISIBLE_DEVICES=0 python examples/wanvideo/model_inference/inference_gbuffer_caption.py --checkpoint models/train/Wan2.1-T2V-1.3B_gbuffer/model.safetensors --gpu 0 --style snowy_winter --prompt "..." --gbuffer_dir test_dataset --save_dir outputs/ --num_frames 81 --height 480 --width 832。
- 通过 --style 选择命名风格预设(如 snowy_winter、rainy、night、sunset、fantasy、foggy),并用 --prompt 描述目标光照与氛围(例如 "neon-lit urban environment at night with rain-slicked streets...")。
- 多卡时用 CUDA_VISIBLE_DEVICES=N 指定 GPU,并让 --gpu N 与之一致。
- num_frames 必须满足 8n+1:合法值 9、17、25、33、41、49、57、65、73、81;非法值如 80、60 会报错。
- 显存不足时降低 --num_frames(如 41 代替 81)或降低分辨率(--height 320 --width 576),并确认没有其他进程占用 GPU。
- 检查点缺失时用 ls 验证路径:ls game_editing/models/train/Wan2.1-T2V-1.3B_gbuffer/model.safetensors 与 ls inverse_renderer/checkpoints/Diffusion_Renderer_Inverse_Cosmos_7B/。
适用边界 · 注意事项
- 没有 NVIDIA GPU 或显存不足以跑 7B/1.3B 扩散模型时。
- 不想安装 conda 或无法接受为两个模型分别维护独立 Python 环境时。
- 需要实时/低延迟渲染而非离线批量视频生成时。