Hugging Face's logo

Datasets:
NVEagle
/
LocateAnything-Data

Tasks:
Object Detection
ArXiv:
Tags:
visual-grounding
pointing
document-layout-analysis
gui-grounding
megatron-energon
webdataset
Libraries:
WebDataset
Dataset card Files
xet
 Community
LocateAnything-Data / README_CN.md
exiawsh's picture
exiawsh
Add manifest-driven subset downloader
8dd4a66 verified
preview code
|
Raw History Blame Contribute Delete
15.5 kB
metadata 
pretty_name: LocateAnything-Data
task_categories:
  - object-detection
tags:
  - visual-grounding
  - pointing
  - document-layout-analysis
  - gui-grounding
  - megatron-energon
  - webdataset
  - multimodal

LocateAnything-Data

English · 论文 · 模型 · 代码

简介

LocateAnything-Data 是 LocateAnything: Fast and High-Quality Vision-Language Grounding with Parallel Box Decoding 的公开训练数据。

LocateAnything 将目标检测和视觉定位统一为视觉语言任务：给定图片，以及类别、 描述短语、文本内容或动作指令，模型预测相应的边界框或点。数据覆盖自然图像、 密集场景、人物、自动驾驶、具身交互、图形界面、场景文字、文档和表格。

论文提出的 Parallel Box Decoding 将一个框或点作为完整的几何单元，而不是分别 生成各个坐标。LocateAnything-Data 为这一统一任务提供跨视觉领域的多样化空间 监督。

本仓库提供：

  • 使用 JSONL 保存、方便预览的检测、grounding 和 pointing 标注；
  • 使用带索引的 WebDataset TAR 保存的图片；
  • 用于分布式训练的 Megatron-Energon 元数据；
  • 从每条训练标注和打包图片回溯到原始数据集相对路径的公开 mapping。

数据范围

下表按照主要视觉领域组织数据。部分数据集天然覆盖多个领域或任务。

领域 包含的数据集
通用检测与 Grounding COCO、RefCOCO、RefCOCO+、RefCOCOg、G-RefCOCO、Flickr30K、HumanRef-CoT、Objects365、Open Images V6、OWDOD、PACO、PartImageNet、Unsplash、V3Det
密集目标检测 CrowdHuman、DeepFashion2、HumanParts、MOT17Det、MOT20Det、SKU-110K
自动驾驶和机器人 BDD100K、EgoObjects、nuImages、PixMo Points、RoboAfford
GUI GroundCUA、OS-Atlas、ScaleCUA
文字识别 ArT、BLIP3-OCR、IDL-OCR、HierText、ICDAR 2013、ICDAR 2015、LSVT、RCTW、ReCTS、SROIE、TextOCR、WildReceipt
文档、版面与表格 CDLA、DocLayNet、M6Doc、PubLayNet、TableBank、TabRecSet

空间监督类型

所有标注使用统一的 query 表达：

task_type 标注目标 典型用途
detection_grounding 边界框 [x1, y1, x2, y2] 类别检测、短语定位、GUI 定位、OCR 和版面定位
pointing 点 [x, y] 基于点的目标定位

坐标使用 LocateAnything 的归一化空间网格。映射到图片像素时使用 x * width / 1000 和 y * height / 1000。

开源格式

每个数据集都有独立目录，并且可以包含一个或多个标注 view。View 表示同一 媒体源上的一种训练标注，例如 COCO detection 和 RefCOCO grounding 是不同 view，但可以共享底层图片。

LocateAnything-Data/
├── metadataset.yaml
├── metadataset-full.yaml
├── datasets/
│   └── <dataset_id>/
│       ├── metadataset.yaml
│       └── views/<view_id>/
│           ├── metadataset.yaml
│           ├── records.jsonl
│           └── records.jsonl.idx
├── media/
│   └── <pool_id>/
│       ├── .nv-meta/
│       └── shards/
│           ├── image-NNNNNNNN.tar
│           └── image-NNNNNNNN.tar.idx
├── mappings/
│   ├── media/<pool_id>/part-*.parquet
│   └── views/<dataset_id>/<view_id>/part-*.parquet
├── examples/
└── tools/
  • records.jsonl 便于直接查看和处理标注。
  • records.jsonl.idx 保存字节偏移，可以直接定位任意一行。
  • 未压缩 TAR 保留图片的原始编码字节，可以索引读取，无需解压成海量小文件。
  • .tar.idx 和 .nv-meta 供 Megatron-Energon 使用。
  • Parquet mapping 保存标注来源和原始媒体文件名。

标注格式

JSONL 中的每一行是一条独立训练标注：

{
  "_source": {
    "dataset_id": "coco",
    "view_id": "locate_anything_coco_refcoco",
    "sample_id": "coco:locate_anything_coco_refcoco:..."
  },
  "image": {
    "kind": "image",
    "source": "media_00",
    "path": "m/000000012345.jpg"
  },
  "query": {
    "the person holding an umbrella": [[124, 86, 612, 944]]
  },
  "task_type": "detection_grounding"
}

image.source 选择 view 级 metadataset.yaml 声明的辅助媒体池， image.path 是 TAR 内部的精确 member name。

下载

安装 Hugging Face CLI 并下载仓库：

pip install -U huggingface_hub

hf download NVEagle/LocateAnything-Data \
  --repo-type dataset \
  --local-dir LocateAnything-Data

下载指定数据集

先下载 subset 工具：

hf download NVEagle/LocateAnything-Data \
  tools/download_subset.py \
  --repo-type dataset \
  --local-dir LocateAnything-Data

然后使用数据集目录 ID 选择需要下载的数据集：

# 查看全部可选数据集 ID。
python LocateAnything-Data/tools/download_subset.py --list

# 只计算依赖和下载体积，不下载数据文件。
python LocateAnything-Data/tools/download_subset.py \
  --dataset coco \
  --local-dir LocateAnything-Data \
  --dry-run

# 下载一个数据集。
python LocateAnything-Data/tools/download_subset.py \
  --dataset coco \
  --local-dir LocateAnything-Data

# 将多个数据集下载到同一个本地仓库。
python LocateAnything-Data/tools/download_subset.py \
  --dataset coco,paco \
  --local-dir LocateAnything-Data

工具会读取 release manifests，自动下载所选数据集的 JSONL、view mapping、 media mapping、Energon metadata 和所有依赖的媒体池。共享媒体依赖也会自动 解析。例如，选择 paco 时会同时下载其标注引用的 COCO 媒体池。

如果只需要标注和 mapping，不需要仓库中托管的 TAR：

python LocateAnything-Data/tools/download_subset.py \
  --dataset coco,paco \
  --annotations-only \
  --local-dir LocateAnything-Data

对于需要从原始来源获取图片的数据集，工具只下载标注、mapping 和媒体可用性 信息，并提示仍需补齐外部媒体。取得原始图片后，按照 tools/hydrate_restricted_media.py 完成媒体恢复。

Subset 下载以数据集为单位。单个 annotation view 的文件可以单独复制，但它 仍可能依赖该数据集的完整共享媒体池。

完整下载或 subset 下载完成后，进入本地仓库：

cd LocateAnything-Data

查看标注

JSONL 可以直接使用常见命令行工具预览：

sed -n '1,3p' \
  datasets/coco/views/locate_anything_coco_refcoco/records.jsonl \
  | jq .

通过索引读取指定行，不需要扫描 JSONL：

python examples/read_indexed_jsonl.py \
  datasets/coco/views/locate_anything_coco_refcoco/records.jsonl \
  100

可视化样本

安装运行依赖：

pip install "megatron-energon==7.4.0" pillow

下面的示例通过 Energon 读取一个样本，并绘制其中的所有框和点：

from io import BytesIO
from pathlib import Path

from PIL import Image, ImageDraw
from megatron.energon import (
    WorkerConfig,
    get_savable_loader,
    get_train_dataset,
)

from examples.read_energon import LocateAnythingTaskEncoder

dataset = get_train_dataset(
    Path("datasets/ocr_icdar2013/metadataset.yaml"),
    split_part="train",
    worker_config=WorkerConfig(
        rank=0, world_size=1, num_workers=0
    ),
    batch_size=None,
    max_samples_per_sequence=1,
    shuffle_over_epochs_multiplier=1,
    shuffle_buffer_size=None,
    task_encoder=LocateAnythingTaskEncoder(),
    repeat=False,
)
sample = next(iter(get_savable_loader(dataset)))

image = Image.open(BytesIO(sample.image)).convert("RGB")
draw = ImageDraw.Draw(image)

def to_pixel(target):
    values = list(target)
    for i in range(0, len(values), 2):
        values[i] = round(values[i] * image.width / 1000)
        values[i + 1] = round(values[i + 1] * image.height / 1000)
    return values

for label, targets in sample.record["query"].items():
    for target in targets:
        xy = to_pixel(target)
        if len(xy) == 4:
            draw.rectangle(xy, outline="red", width=3)
            draw.text((xy[0], xy[1]), label, fill="red")
        elif len(xy) == 2:
            x, y = xy
            draw.ellipse((x - 5, y - 5, x + 5, y + 5), fill="red")
            draw.text((x + 6, y), label, fill="red")

image.save("sample.png")

训练读取

本仓库使用 megatron-energon==7.4.0。根据训练范围选择入口：

入口 用途
metadataset.yaml 直接包含在本仓库中的全部媒体和标注
metadataset-full.yaml 在本地补齐需要从上游下载的媒体后使用全集
datasets/<dataset_id>/metadataset.yaml 读取单个数据集
datasets/<dataset_id>/views/<view_id>/metadataset.yaml 读取单个标注 view

运行仓库提供的 reader：

python examples/read_energon.py \
  datasets/coco/metadataset.yaml \
  --workers 8 \
  --samples 16

examples/read_energon.py 包含一个最小 task encoder。它根据标注解析媒体源， 从带索引的 TAR 中直接读取编码图片，并返回标注字典和图片字节。

从训练标注找回原始图片

两组 Parquet 关系把每条训练标注关联到对应的原始图片：

  • mappings/views/...：把 JSONL 行关联到媒体 source_id。
  • mappings/media/...：把 source_id 关联到原始数据集相对路径、文件哈希和 TAR member。

权威 join key 是 (pool_id, source_id)。例如：

SELECT
  v.row_id,
  v.source_sample_id,
  m.source_media_name,
  m.source_relative_path,
  m.source_sha256,
  m.member_name
FROM read_parquet(
  'mappings/views/crowdhuman/locate_anything_crowdhuman_crowdhuman/*.parquet'
) AS v
JOIN read_parquet(
  'mappings/media/locany--crowdhuman--train--source_image--v000001/*.parquet'
) AS m
USING (pool_id, source_id)
WHERE v.row_id = 100;

需要从上游下载的媒体

以下数据集的图片需要从原始来源获取。本仓库已经包含它们的标注、JSONL 索引、 source-image mapping 和 metadataset 配置，但不包含图片文件。

数据集目录 图片下载入口 --source-root 下的预期路径
crowdhuman CrowdHuman train/Images/<image>.jpg
deepfashion2 DeepFashion2 train/image/<six-digit-id>.jpg
flickr30k Flickr30K flickr30k-images/<flickr-id>.jpg
partimagenet ImageNet train/<wnid>/<wnid>_<id>.JPEG
object365 Objects365 images/train/patch*/objects365_v1_<id>.jpg
sku110k SKU-110K images/train_<id>.jpg
unsplash TODO——尚无可复现的媒体获取流程 raw_unsplash_images/<photo-id>.jpg

Unsplash TODO。 本仓库已经包含 Unsplash 标注和 source-image mapping， 但 Unsplash 当前的发布方式无法稳定重建本版本引用的历史图片字节，因此暂不支持 Unsplash 媒体恢复。待具备可复现的获取与校验方案后，我们会补充相应流程。

metadataset.yaml 读取图片已经包含在本仓库中的数据集。只有在本地补齐配置 引用的外部媒体池后，才使用 metadataset-full.yaml。当前支持的可复现媒体恢复 流程不包含 Unsplash。

准备一个上游媒体数据集

  1. 从官方入口下载图片并接受相应条款。
  2. 保留上游文件名，并按照上表结构放到一个 source root 下。
  3. 安装 megatron-energon==7.4.0。
  4. 使用对应的数据集 ID 和 source root 运行 hydration 工具。
python tools/hydrate_restricted_media.py \
  --repo-root /data/LocateAnything-Data \
  --dataset crowdhuman \
  --source-root /data/upstream/CrowdHuman

对七个数据集目录分别运行一次，并相应修改 --dataset 和 --source-root。 可用的数据集 ID 为：

crowdhuman
deepfashion2
flickr30k
partimagenet
object365
sku110k
unsplash

工具使用 mappings/media/<pool_id>/part-*.parquet 作为文件清单，在 --source-root 下解析每个 source_relative_path，校验文件，并生成 metadataset-full.yaml 所需的本地 TAR 索引和 Energon 元数据。该工具只负责 准备本地媒体，上游图片需要预先自行下载。

License Information

LocateAnything-Data 由多个上游数据集组成。每个来源数据集仍受其原始 license、 使用条款、访问条件和署名要求约束。使用者在使用前必须查阅并遵守各来源数据集 适用的条款。

本仓库不授予额外的上游媒体权利。

版权问题

本数据集合面向学术研究。如果您认为 LocateAnything-Data 中的任何内容涉及 版权或署名问题，请通过 Hugging Face Community 联系维护者。我们会审查相关请求，并处理经确认的问题；必要时会移除相关内容。

致谢

我们感谢数据范围中所有数据集的创建者和维护者。正是这些工作， 推动了统一检测、grounding、pointing、GUI 理解、文字识别、文档理解、 自动驾驶和机器人等方向的研究。

如果遗漏了重要的数据来源或署名信息，请通过 Hugging Face Community 联系我们。

引用

如果这项工作对您有价值，请引用：

@article{wang2026locateanything,
  title={LocateAnything: Fast and high-quality vision-language grounding with parallel box decoding},
  author={Wang, Shihao and Liu, Shilong and Kuang, Yuanguo and Wei, Xinyu and Liu, Yangzhou and Li, Zhiqi and Man, Yunze and Chen, Guo and Tao, Andrew and Liu, Guilin and others},
  journal={arXiv preprint arXiv:2605.27365},
  year={2026}
}