WorldSculpt README

The project's README from github.com/AlayaLab/WorldSculpt. As one markdown file: README.md.

WorldSculpt: Generating Compositional Worlds from Grounded Videos

Muyao Niu1,2   Jixuan He1   Ruihan Yu1   Lian Fu1   Yonghao Yu1   Zheng-Hui Huang1   Yifan Zhan1   Fengbo Lan1  
Yongtao Ge1   Yinqiang Zheng2   Kaipeng Zhang1,✉   Zhixiang Wang1,✉  
1 Alaya Lab   2 The University of Tokyo   ✉ Corresponding Authors  
Teaser image of WorldSculpt
Given RGB images with instance masks and 3D boxes, WorldSculpt produces a compositional mesh representation for very complex scenes consisting of hundreds of individual objects.

TL;DR

🧭 Pipeline

WorldSculpt pipeline

✨ News

🚀 Getting Started

Installation

Step 1: Following TRELLIS.2 Installation

Please first follow the installation guide of TRELLIS.2 to set up the base environment.

Step 2: Installing Additional Dependencies

NATTEN_CUDA_ARCH is the compute capability of your GPU. Print yours with

python -c "import torch; print('%d.%d' % torch.cuda.get_device_capability())"
# H100; replace 9.0 with your own compute capability
NATTEN_CUDA_ARCH="9.0" NATTEN_N_WORKERS=8 pip install natten==0.21.0 --no-build-isolation
pip install https://github.com/LDYang694/Storages/releases/download/20260430/utils3d-0.0.2-py3-none-any.whl
pip install peft pillow imageio imageio-ffmpeg tqdm easydict opencv-python-headless trimesh transformers==4.57.1 zstandard kornia timm diffusers accelerate gradio plyfile matplotlib scikit-image scikit-learn fpsample iopath pycocotools ftfy
pip install "setuptools<81"

Step 3: Downloading Pretrained Checkpoints

hf download AlayaLab/WorldSculpt --local-dir ./pretrained
hf download TencentARC/Pixal3D --local-dir ./pretrained/Pixal3D

Step 4: Downloading Data

# UE-MeshyScene
hf download AlayaLab/WorldSculpt_data --include "UE-MeshyScene/*" --local-dir ./input --repo-type=dataset
cd ./input/UE-MeshyScene
tar xvf scene*.tar
cd ../..

# Marble DEMO data
hf download AlayaLab/WorldSculpt_data --include "Marble/*" --local-dir ./input --repo-type=dataset
cd ./input/Marble
tar xvf Marble.tar.gz
cd ../..

Step 5 🚀🚀: Running Inference

Every option is passed explicitly — the script has no defaults, so a run is fully described by its own command line. Step 4 extracts each dataset into its own subdirectory, so INPUT_ROOT points at that subdirectory, not at ./input (the script reads $INPUT_ROOT/<scene>/transforms.json).

# UE-MeshyScene, scene_00001
INPUT_ROOT=./input/UE-MeshyScene OUTPUT_ROOT=./output CKPT_ROOT=./pretrained \
SAMPLER=official SS_STEP=15000 SHAPE_STEP=15000 \
RENDER=1 FACE_BUDGET=1000000 GPU=0 \
./inference.sh scene_00001

# Marble demo data, marble_serene_living_room_countryside_view
INPUT_ROOT=./input/Marble OUTPUT_ROOT=./output CKPT_ROOT=./pretrained \
SAMPLER=official SS_STEP=15000 SHAPE_STEP=15000 \
RENDER=1 FACE_BUDGET=1000000 GPU=0 \
./inference.sh marble_serene_living_room_countryside_view

🙏 Acknowledgements

We thank Pixal3D, TRELLIS.2, and DINOv3 for their wonderful work and open-source repositories.

📖 Citation

If you find this work useful, please cite:


@misc{niu2026worldsculptgeneratingcompositionalworlds,
      title={WorldSculpt: Generating Compositional Worlds from Grounded Videos}, 
      author={Muyao Niu and Jixuan He and Ruihan Yu and Lian Fu and Yonghao Yu and Zheng-Hui Huang and Yifan Zhan and Fengbo Lan and Yongtao Ge and Yinqiang Zheng and Kaipeng Zhang and Zhixiang Wang},
      year={2026},
      eprint={2609.05416},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2609.05416}, 
}

WorldSculpt (AlayaLab/WorldSculpt)

Searching Database…

Что это такое?WorldSculpt — официальная реализация исследовательского метода, который превращает видео с привязкой к пространству в 3D-сцены: из RGB-изображений с масками объектов и 3D-боксами он строит составную (compositional) сетку очень сложных сцен с сотнями отдельных объектов.
Это готовое приложение или исследовательский код?Исследовательский код, а не приложение: официальная реализация научной статьи. Релиз сентября 2026 года включает Python-скрипты для инференса, предобученный чекпойнт на HuggingFace, статью на arXiv и страницу проекта — всё запускается из командной строки.
Как это запустить и настроить?Пять шагов: установите базовое окружение TRELLIS.2, добавьте дополнительные зависимости, указав в NATTENCUDAARCH compute capability вашей видеокарты, скачайте предобученные чекпойнты и данные, затем запустите скрипт инференса.
Что нужно установить заранее?Видеокарта NVIDIA с CUDA — в NATTENCUDAARCH вы указываете compute capability своей карты — плюс сначала установленное окружение TRELLIS.2 в качестве базы и дополнительные зависимости вроде NATTEN.
Есть ли сложности с запуском инференса?У скрипта инференса нет значений по умолчанию: все опции нужно передавать явно в командной строке. Кроме того, INPUTROOT должен указывать на подпапку распакованного датасета, где лежит transforms.json, а не на ./input.
Как он справляется со сценами из сотен объектов?Ключевая идея — переиспользовать на целых сценах генеративную модель (prior), обученную на отдельных объектах: авторы дообучили Pixal3D принимать частично перекрытый многоракурсный вход, а затем применяют её для составной мешификации очень сложных сцен.
Можно ли скормить ему мир из Marble?Да — один из показанных примеров запускает тот же пайплайн на 3DGS-мире Marble и превращает его в составные меши на уровне объектов.
Что такое бенчмарк UE-MeshyScene?Датасет, выпущенный вместе со статьёй: в нём есть покадровые аннотации для каждого объекта, чтобы оценивать составную реконструкцию мешей на сложных сценах.
Можно ли обучать или дообучать модель самому?README описывает только инференс: в релизе сентября 2026 года — код инференса и предобученный чекпойнт, пайплайн обучения не описан.
Creator
AlayaLab
Size
8.8 MB
Stars
343
Updated
CommitSep 16
Age
1mo
Commits · 90 Days