2分钟建模!AI框架GauHuman:实现高质量3D人体快速重建和实时渲染

站长之家 2024-01-11 11:11:23新闻资讯
455

南洋理工大学与商汤科技的S-Lab团队近日发布了一项令人振奋的研究成果,推出了基于Gaussian Splatting的高效3D人体建模框架,被命名为GauHuman。该框架在快速重建和实时渲染方面取得了显著的突破,为数字领域的人体建模提供了高效解决方案。

GauHuman的主要特点之一是其在短时间内完成3D人体建模的能力。通过利用Gaussian Splatting技术,该框架仅需1到2分钟即可完成对单目人体视频的建模,这一速度远远领先于现有的方案。不仅如此,GauHuman还实现了高达189帧每秒的实时渲染,为用户提供更加流畅和逼真的体验。

GauHuman.png

这一框架的应用前景也非常广泛,覆盖了游戏、电影制作、虚拟现实等多个领域。用户只需提供一段单目人体视频以及相应的相机参数和人体动作体形参数(SMPL),即可在短时间内完成对3D数字人的高质量建模。这使得GauHuman在数字创意领域具有巨大的潜力,为创作者提供了更灵活、高效的工具。

GauHuman的建模框架基于Gaussian Splatting,并受到了之前人体神经辐射场(Human NeRF)的启发。通过对标准空间下的3D人体进行建模,再利用线性蒙皮算法(Linear Blend Skinning,LBS)将其转换到目标空间,GauHuman有效地解决了传统方法中的一些难题。在优化算法方面,GauHuman通过3D高斯球的初始化、分裂/克隆/合并操作以及剪枝等手段,进一步提高了建模效率和质量。

在实验中,GauHuman在ZJU_MoCap和MonoCap两个单目人体数据集上进行了比较,与多个先进的3D人体重建方法相比,包括NB、AN、AS、HumanNeRF等,GauHuman在PSNR、SSIM和LPIPS指标上表现出色,验证了其在性能上的卓越。

研究团队表示,虽然GauHuman已经取得了显著的成果,但仍存在一些待解决的问题,如如何从3D高斯中提取人体mesh以及从单目视频中恢复3D人体的细节等。不过,他们对GauHuman的未来发展充满信心,同时已经将代码完全开源,鼓励广大开发者共同参与,共同推动这一领域的研究和创新。

**参考链接:**

[GauHuman论文]https://arxiv.org/abs/2312.02973

[代码开源]https://github.com/skhu101/GauHuman

ai
THE END
tom
不图事事圆满 但图事事甘心。

相关推荐

SE-Agent:中科院、清华大学和阶跃星辰等联合开源的创新型自进化智能体框架
一、SE-Agent是什么SE-Agent(Self-Evolution Agent)是由中国科学院、清华大学和阶跃星辰等机构联合开发的一款创新型自进化智能体框架,旨在通过系统性地优化语言模型(LL...
2025-08-21 新闻资讯
807

MemU:NevaMind-AI团队专为AI伴侣打造的开源长期记忆框架
MemU(Memory Unit)是由NevaMind-AI团队开发的一款专注于AI伴侣场景的下一代开源记忆框架,其核心目标是解决当前AI系统普遍存在的"健忘"问题。与传统的静态数据存储不同,Me...
2025-08-19 新闻资讯
1574

AudioGenie:多模态输入驱动的无训练多智能体音频生成框架
AudioGenie 是由腾讯AI Lab与香港科技大学(广州)联合研发的无需训练的多智能体系统,专注于多模态到多音频生成(MultiModality-to-MultiAudio, MM2MA)任务。它能够从视频、...
2025-08-19 新闻资讯
780

VeOmni:字节跳动与火山引擎开源的全模态AI训练框架
VeOmni 是字节跳动Seed团队与火山引擎联合研发并开源的一款全模态PyTorch原生训练框架,旨在解决当前AI领域从单一文本模态向多模态(文本、图像、语音、视频)演进过程中的系...
2025-08-18 新闻资讯
747

RynnRCP:阿里巴巴达摩院开源的一套机器人上下文协议及框架
RynnRCP 是阿里巴巴达摩院自主研发并开源的一套机器人上下文协议及框架,全称为Robotics Context Protocol。它首次将模型上下文协议(MCP)理念引入具身智能领域,旨在打通从传...
2025-08-14 新闻资讯
676

Voost:NXN实验室开源的一款双向虚拟试衣框架
Voost 是由NXN实验室开发的一款创新性虚拟试衣框架,它通过单个扩散变换器(DiT)实现了虚拟试穿(Virtual Try-On, VTON)与逆向试穿(Virtual Try-Off)的联合学习,解决了传统方法...
2025-08-14 新闻资讯
689