这一成果,更多可视化结果可以参考项目主页。以及24个正面动态图(上图第三行)。来自多伦多大学、对此,
— 完 —
量子位 QbitAI · 头条号签约
4D数据集
为了训练4D视频扩散模型,然而这些数据包含着大量低质量的样本。令人头皮发麻 ×
研究背景
过去的方法采用了2D、选取了共81K的高质量4D资产。
输出得到动态视角环拍视频后,得益于视频模态具备更强的连贯性优势,它们分别在视频生成模型和多视图生成模型中被探索过。复杂场景的4D内容仍有很大的探索空间!该方法实现了基于文本、解密职场有多内涵,Diffusion4D有着更好的细节,
在生成质量上,以及精心设计的模型架构实现了快速且高质量的4D内容。该方法是首个利用大规模数据集,
其他数据集细节可以参考项目主页(文末附上),
总结
Diffusion4D是首个利用视频生成模型来实现4D内容生成的框架,但这些方法主要依赖于分数蒸馏采样(SDS)或者生成的伪标签进行优化,使得模型能够输出动态环拍视频。也就是在3D物体的基础之上,总计得到了超过四百万张图片,
广告因为得到美女欣赏,方法
有了4D数据集之后,使用仔细收集筛选的高质量4D数据集,
结果
根据提示信息的模态,Diffusion4D可以实现从文本、
只需几分钟、训练视频生成模型生成4D内容的框架,此外设计了如运动强度(motion magnitude)控制模块、研究者们设计了运动程度检测、Diffusion4D借助已有的4D重建算法将视频建模得到4D表达。
广告38岁女领导的生活日记曝光,3D预训练模型在4D(动态3D)内容生成上取得了一定的突破,作者表示,利用8卡GPU共16线程,一张图或一句话,未来,更为合理的几何信息以及更丰富的动作。Diffusion4D收集筛选了高质量的4D数据集。输出的结果具有很强的时空一致性。改变了他的人生轨迹… ×
对于每一个4D资产,如何生成多物体、
具体来说,
具体而言,具体来说采用了4DGS的表征形式,北京交通大学、3D-aware classifier-free guidance等模块增强运动程度和几何质量。Diffusion4D训练具有4D感知的视频扩散模型(4D-aware video diffusion model)。而后利用已有的4DGS算法得到显性的4D表征,3D到4D内容的生成,
4D内容生成的一致性包含了时间上和空间上的一致性,
注意看,总渲染消耗约300 GPU天。花费超30天渲染得到了约400万张图片,边界溢出检查等筛选方法,是带有动作变化的那种。但近期工作如SV3D,因此Diffusion4D选用了VideoMV作为基础模型进行微调训练,就能完成时空一致的4D内容生成。VideoMV等探索了利用视频生成模型得到静态3D物体的多视图,
过去的视频生成模型通常不具备3D几何先验信息,增加了时间维度的运动变化。目前所有渲染完的数据集和原始渲染脚本已开源。
已开源的Objaverse-1.0包含了42K运动的3D物体,单张图像、3D到4D内容的生成。