2分钟建模!AI框架GauHuman:实现高质量3D人体快速重建和实时渲染

站长之家 2024-01-11 11:11:23新闻资讯
265

南洋理工大学与商汤科技的S-Lab团队近日发布了一项令人振奋的研究成果,推出了基于Gaussian Splatting的高效3D人体建模框架,被命名为GauHuman。该框架在快速重建和实时渲染方面取得了显著的突破,为数字领域的人体建模提供了高效解决方案。

GauHuman的主要特点之一是其在短时间内完成3D人体建模的能力。通过利用Gaussian Splatting技术,该框架仅需1到2分钟即可完成对单目人体视频的建模,这一速度远远领先于现有的方案。不仅如此,GauHuman还实现了高达189帧每秒的实时渲染,为用户提供更加流畅和逼真的体验。

GauHuman.png

这一框架的应用前景也非常广泛,覆盖了游戏、电影制作、虚拟现实等多个领域。用户只需提供一段单目人体视频以及相应的相机参数和人体动作体形参数(SMPL),即可在短时间内完成对3D数字人的高质量建模。这使得GauHuman在数字创意领域具有巨大的潜力,为创作者提供了更灵活、高效的工具。

GauHuman的建模框架基于Gaussian Splatting,并受到了之前人体神经辐射场(Human NeRF)的启发。通过对标准空间下的3D人体进行建模,再利用线性蒙皮算法(Linear Blend Skinning,LBS)将其转换到目标空间,GauHuman有效地解决了传统方法中的一些难题。在优化算法方面,GauHuman通过3D高斯球的初始化、分裂/克隆/合并操作以及剪枝等手段,进一步提高了建模效率和质量。

在实验中,GauHuman在ZJU_MoCap和MonoCap两个单目人体数据集上进行了比较,与多个先进的3D人体重建方法相比,包括NB、AN、AS、HumanNeRF等,GauHuman在PSNR、SSIM和LPIPS指标上表现出色,验证了其在性能上的卓越。

研究团队表示,虽然GauHuman已经取得了显著的成果,但仍存在一些待解决的问题,如如何从3D高斯中提取人体mesh以及从单目视频中恢复3D人体的细节等。不过,他们对GauHuman的未来发展充满信心,同时已经将代码完全开源,鼓励广大开发者共同参与,共同推动这一领域的研究和创新。

**参考链接:**

[GauHuman论文]https://arxiv.org/abs/2312.02973

[代码开源]https://github.com/skhu101/GauHuman

ai
THE END
tom
不图事事圆满 但图事事甘心。

相关推荐

Self Forcing:Adobe与德克萨斯大学联合研发的自回归视频扩散模型训练优化框架
Self Forcing是Adobe Research与德克萨斯大学奥斯汀分校联合研发的自回归视频扩散模型训练优化框架,该项目针对自回归视频生成中长期存在的训练-测试分布不匹配问题(Exposur...
2025-06-21 新闻资讯
227

ZeroSearch:阿里通义开源的大模型搜索能力强化框架
ZeroSearch是阿里巴巴通义实验室开源的大模型搜索能力强化框架,旨在通过模拟搜索引擎的方式激发大型语言模型(LLM)的搜索能力,而无需依赖真实搜索引擎的API调用。作为当前最...
2025-06-16 新闻资讯
249

SeedVR2:字节跳动与南洋理工大学联合开发的开源视频修复框架
SeedVR2是由字节跳动Seed团队与南洋理工大学联合开发的开源视频修复框架,作为当前最具突破性的视频增强技术之一,其核心创新在于通过扩散对抗后训练(Diffusion Adversarial ...
2025-06-14 新闻资讯
250

Next-Frame Diffusion:微软与北大联合开发的开源自回归视频生成框架
Next-Frame Diffusion(NFD)是由微软研究院与北京大学联合开发的开源自回归视频生成框架,作为当前最具突破性的实时交互式视频生成技术之一,其核心创新在于通过块状因果注意...
2025-06-14 新闻资讯
258

LLIA:美团开源的低延时音频驱动肖像视频生成框架
LLIA(Low Latency Interactive Avatar)是由美团技术团队开发并开源的音频驱动肖像视频生成框架,作为当前最具突破性的实时虚拟形象生成技术之一,其核心创新在于将扩散模型...
2025-06-14 新闻资讯
253

AReaL:全异步强化学习框架与推理大模型训练加速引擎
AReaL(Ant Reasoning RL)是蚂蚁技术研究院与清华大学交叉信息研究院联合开发的开源强化学习训练框架,作为全球首个实现全异步训练的推理大模型优化系统,其核心突破在于通过...
2025-06-13 新闻资讯
314