---
pretty_name: LocateAnything-Data
task_categories:
  - object-detection
tags:
  - visual-grounding
  - pointing
  - document-layout-analysis
  - gui-grounding
  - megatron-energon
  - webdataset
  - multimodal
---

# LocateAnything-Data

[English](README.md) · [论文](https://arxiv.org/abs/2605.27365) ·
[模型](https://huggingface.co/nvidia/LocateAnything-3B) ·
[代码](https://github.com/NVlabs/Eagle/tree/main/Embodied)

## 简介

LocateAnything-Data 是
**LocateAnything: Fast and High-Quality Vision-Language Grounding with
Parallel Box Decoding** 的公开训练数据。

LocateAnything 将目标检测和视觉定位统一为视觉语言任务：给定图片，以及类别、
描述短语、文本内容或动作指令，模型预测相应的边界框或点。数据覆盖自然图像、
密集场景、人物、自动驾驶、具身交互、图形界面、场景文字、文档和表格。

论文提出的 Parallel Box Decoding 将一个框或点作为完整的几何单元，而不是分别
生成各个坐标。LocateAnything-Data 为这一统一任务提供跨视觉领域的多样化空间
监督。

本仓库提供：

- 使用 JSONL 保存、方便预览的检测、grounding 和 pointing 标注；
- 使用带索引的 WebDataset TAR 保存的图片；
- 用于分布式训练的 Megatron-Energon 元数据；
- 从每条训练标注和打包图片回溯到原始数据集相对路径的公开 mapping。

## 数据范围

下表按照主要视觉领域组织数据。部分数据集天然覆盖多个领域或任务。

| 领域 | 包含的数据集 |
|---|---|
| 通用检测与 Grounding | [COCO](datasets/coco/views/locate_anything_coco_coco)、[RefCOCO](datasets/coco/views/locate_anything_coco_refcoco)、[RefCOCO+](datasets/coco/views/locate_anything_coco_refcoco_plus)、[RefCOCOg](datasets/coco/views/locate_anything_coco_refcocog)、[G-RefCOCO](datasets/coco/views/locate_anything_coco_grefcoco)、[Flickr30K](datasets/flickr30k)、[HumanRef-CoT](datasets/humanref_cot)、[Objects365](datasets/object365)、[Open Images V6](datasets/openimages_v6)、[OWDOD](datasets/owdod)、[PACO](datasets/paco)、[PartImageNet](datasets/partimagenet)、[Unsplash](datasets/unsplash)、[V3Det](datasets/v3det) |
| 密集目标检测 | [CrowdHuman](datasets/crowdhuman)、[DeepFashion2](datasets/deepfashion2)、[HumanParts](datasets/humanparts)、[MOT17Det](datasets/mot17det)、[MOT20Det](datasets/mot20det)、[SKU-110K](datasets/sku110k) |
| 自动驾驶和机器人 | [BDD100K](datasets/bdd100k)、[EgoObjects](datasets/egoobjects)、[nuImages](datasets/nuimages)、[PixMo Points](datasets/pixmo_points)、[RoboAfford](datasets/roboafford) |
| GUI | [GroundCUA](datasets/groundcua)、[OS-Atlas](datasets/os_atlas)、[ScaleCUA](datasets/scalecua) |
| 文字识别 | [ArT](datasets/art_ocr)、[BLIP3-OCR](datasets/blip3_ocr)、[IDL-OCR](datasets/idlocr)、[HierText](datasets/ocr_hiertext)、[ICDAR 2013](datasets/ocr_icdar2013)、[ICDAR 2015](datasets/ocr_icdar2015)、[LSVT](datasets/ocr_lsvt)、[RCTW](datasets/ocr_rctw)、[ReCTS](datasets/ocr_rects)、[SROIE](datasets/ocr_sroie)、[TextOCR](datasets/ocr_textocr)、[WildReceipt](datasets/ocr_wildreceipt) |
| 文档、版面与表格 | [CDLA](datasets/cdla)、[DocLayNet](datasets/doclaynet)、[M6Doc](datasets/m6doc)、[PubLayNet](datasets/publaynet)、[TableBank](datasets/tablebank)、[TabRecSet](datasets/tabrecset) |

### 空间监督类型

所有标注使用统一的 `query` 表达：

| `task_type` | 标注目标 | 典型用途 |
|---|---|---|
| `detection_grounding` | 边界框 `[x1, y1, x2, y2]` | 类别检测、短语定位、GUI 定位、OCR 和版面定位 |
| `pointing` | 点 `[x, y]` | 基于点的目标定位 |

坐标使用 LocateAnything 的归一化空间网格。映射到图片像素时使用
`x * width / 1000` 和 `y * height / 1000`。

## 开源格式

每个数据集都有独立目录，并且可以包含一个或多个标注 **view**。View 表示同一
媒体源上的一种训练标注，例如 COCO detection 和 RefCOCO grounding 是不同
view，但可以共享底层图片。

```text
LocateAnything-Data/
├── metadataset.yaml
├── metadataset-full.yaml
├── datasets/
│   └── <dataset_id>/
│       ├── metadataset.yaml
│       └── views/<view_id>/
│           ├── metadataset.yaml
│           ├── records.jsonl
│           └── records.jsonl.idx
├── media/
│   └── <pool_id>/
│       ├── .nv-meta/
│       └── shards/
│           ├── image-NNNNNNNN.tar
│           └── image-NNNNNNNN.tar.idx
├── mappings/
│   ├── media/<pool_id>/part-*.parquet
│   └── views/<dataset_id>/<view_id>/part-*.parquet
├── examples/
└── tools/
```

- `records.jsonl` 便于直接查看和处理标注。
- `records.jsonl.idx` 保存字节偏移，可以直接定位任意一行。
- 未压缩 TAR 保留图片的原始编码字节，可以索引读取，无需解压成海量小文件。
- `.tar.idx` 和 `.nv-meta` 供 Megatron-Energon 使用。
- Parquet mapping 保存标注来源和原始媒体文件名。

### 标注格式

JSONL 中的每一行是一条独立训练标注：

```json
{
  "_source": {
    "dataset_id": "coco",
    "view_id": "locate_anything_coco_refcoco",
    "sample_id": "coco:locate_anything_coco_refcoco:..."
  },
  "image": {
    "kind": "image",
    "source": "media_00",
    "path": "m/000000012345.jpg"
  },
  "query": {
    "the person holding an umbrella": [[124, 86, 612, 944]]
  },
  "task_type": "detection_grounding"
}
```

`image.source` 选择 view 级 `metadataset.yaml` 声明的辅助媒体池，
`image.path` 是 TAR 内部的精确 member name。

## 下载

安装 Hugging Face CLI 并下载仓库：

```bash
pip install -U huggingface_hub

hf download NVEagle/LocateAnything-Data \
  --repo-type dataset \
  --local-dir LocateAnything-Data
```

### 下载指定数据集

先下载 subset 工具：

```bash
hf download NVEagle/LocateAnything-Data \
  tools/download_subset.py \
  --repo-type dataset \
  --local-dir LocateAnything-Data
```

然后使用数据集目录 ID 选择需要下载的数据集：

```bash
# 查看全部可选数据集 ID。
python LocateAnything-Data/tools/download_subset.py --list

# 只计算依赖和下载体积，不下载数据文件。
python LocateAnything-Data/tools/download_subset.py \
  --dataset coco \
  --local-dir LocateAnything-Data \
  --dry-run

# 下载一个数据集。
python LocateAnything-Data/tools/download_subset.py \
  --dataset coco \
  --local-dir LocateAnything-Data

# 将多个数据集下载到同一个本地仓库。
python LocateAnything-Data/tools/download_subset.py \
  --dataset coco,paco \
  --local-dir LocateAnything-Data
```

工具会读取 release manifests，自动下载所选数据集的 JSONL、view mapping、
media mapping、Energon metadata 和所有依赖的媒体池。共享媒体依赖也会自动
解析。例如，选择 `paco` 时会同时下载其标注引用的 COCO 媒体池。

如果只需要标注和 mapping，不需要仓库中托管的 TAR：

```bash
python LocateAnything-Data/tools/download_subset.py \
  --dataset coco,paco \
  --annotations-only \
  --local-dir LocateAnything-Data
```

对于需要从原始来源获取图片的数据集，工具只下载标注、mapping 和媒体可用性
信息，并提示仍需补齐外部媒体。取得原始图片后，按照
[`tools/hydrate_restricted_media.py`](tools/hydrate_restricted_media.py)
完成媒体恢复。

Subset 下载以数据集为单位。单个 annotation view 的文件可以单独复制，但它
仍可能依赖该数据集的完整共享媒体池。

完整下载或 subset 下载完成后，进入本地仓库：

```bash
cd LocateAnything-Data
```

## 查看标注

JSONL 可以直接使用常见命令行工具预览：

```bash
sed -n '1,3p' \
  datasets/coco/views/locate_anything_coco_refcoco/records.jsonl \
  | jq .
```

通过索引读取指定行，不需要扫描 JSONL：

```bash
python examples/read_indexed_jsonl.py \
  datasets/coco/views/locate_anything_coco_refcoco/records.jsonl \
  100
```

## 可视化样本

安装运行依赖：

```bash
pip install "megatron-energon==7.4.0" pillow
```

下面的示例通过 Energon 读取一个样本，并绘制其中的所有框和点：

```python
from io import BytesIO
from pathlib import Path

from PIL import Image, ImageDraw
from megatron.energon import (
    WorkerConfig,
    get_savable_loader,
    get_train_dataset,
)

from examples.read_energon import LocateAnythingTaskEncoder

dataset = get_train_dataset(
    Path("datasets/ocr_icdar2013/metadataset.yaml"),
    split_part="train",
    worker_config=WorkerConfig(
        rank=0, world_size=1, num_workers=0
    ),
    batch_size=None,
    max_samples_per_sequence=1,
    shuffle_over_epochs_multiplier=1,
    shuffle_buffer_size=None,
    task_encoder=LocateAnythingTaskEncoder(),
    repeat=False,
)
sample = next(iter(get_savable_loader(dataset)))

image = Image.open(BytesIO(sample.image)).convert("RGB")
draw = ImageDraw.Draw(image)

def to_pixel(target):
    values = list(target)
    for i in range(0, len(values), 2):
        values[i] = round(values[i] * image.width / 1000)
        values[i + 1] = round(values[i + 1] * image.height / 1000)
    return values

for label, targets in sample.record["query"].items():
    for target in targets:
        xy = to_pixel(target)
        if len(xy) == 4:
            draw.rectangle(xy, outline="red", width=3)
            draw.text((xy[0], xy[1]), label, fill="red")
        elif len(xy) == 2:
            x, y = xy
            draw.ellipse((x - 5, y - 5, x + 5, y + 5), fill="red")
            draw.text((x + 6, y), label, fill="red")

image.save("sample.png")
```

## 训练读取

本仓库使用 `megatron-energon==7.4.0`。根据训练范围选择入口：

| 入口 | 用途 |
|---|---|
| `metadataset.yaml` | 直接包含在本仓库中的全部媒体和标注 |
| `metadataset-full.yaml` | 在本地补齐需要从上游下载的媒体后使用全集 |
| `datasets/<dataset_id>/metadataset.yaml` | 读取单个数据集 |
| `datasets/<dataset_id>/views/<view_id>/metadataset.yaml` | 读取单个标注 view |

运行仓库提供的 reader：

```bash
python examples/read_energon.py \
  datasets/coco/metadataset.yaml \
  --workers 8 \
  --samples 16
```

`examples/read_energon.py` 包含一个最小 task encoder。它根据标注解析媒体源，
从带索引的 TAR 中直接读取编码图片，并返回标注字典和图片字节。

## 从训练标注找回原始图片

两组 Parquet 关系把每条训练标注关联到对应的原始图片：

- `mappings/views/...`：把 JSONL 行关联到媒体 `source_id`。
- `mappings/media/...`：把 `source_id` 关联到原始数据集相对路径、文件哈希和
  TAR member。

权威 join key 是 `(pool_id, source_id)`。例如：

```sql
SELECT
  v.row_id,
  v.source_sample_id,
  m.source_media_name,
  m.source_relative_path,
  m.source_sha256,
  m.member_name
FROM read_parquet(
  'mappings/views/crowdhuman/locate_anything_crowdhuman_crowdhuman/*.parquet'
) AS v
JOIN read_parquet(
  'mappings/media/locany--crowdhuman--train--source_image--v000001/*.parquet'
) AS m
USING (pool_id, source_id)
WHERE v.row_id = 100;
```

## 需要从上游下载的媒体

以下数据集的图片需要从原始来源获取。本仓库已经包含它们的标注、JSONL 索引、
source-image mapping 和 metadataset 配置，但不包含图片文件。

| 数据集目录 | 图片下载入口 | `--source-root` 下的预期路径 |
|---|---|---|
| `crowdhuman` | [CrowdHuman](https://www.crowdhuman.org/download.html) | `train/Images/<image>.jpg` |
| `deepfashion2` | [DeepFashion2](https://github.com/switchablenorms/DeepFashion2) | `train/image/<six-digit-id>.jpg` |
| `flickr30k` | [Flickr30K](https://shannon.cs.illinois.edu/DenotationGraph/data/index.html) | `flickr30k-images/<flickr-id>.jpg` |
| `partimagenet` | [ImageNet](https://www.image-net.org/download.php) | `train/<wnid>/<wnid>_<id>.JPEG` |
| `object365` | [Objects365](https://www.objects365.org/download.html) | `images/train/patch*/objects365_v1_<id>.jpg` |
| `sku110k` | [SKU-110K](https://github.com/eg4000/SKU110K_CVPR19) | `images/train_<id>.jpg` |
| `unsplash` | **TODO——尚无可复现的媒体获取流程** | `raw_unsplash_images/<photo-id>.jpg` |

**Unsplash TODO。** 本仓库已经包含 Unsplash 标注和 source-image mapping，
但 Unsplash 当前的发布方式无法稳定重建本版本引用的历史图片字节，因此暂不支持
Unsplash 媒体恢复。待具备可复现的获取与校验方案后，我们会补充相应流程。

`metadataset.yaml` 读取图片已经包含在本仓库中的数据集。只有在本地补齐配置
引用的外部媒体池后，才使用 `metadataset-full.yaml`。当前支持的可复现媒体恢复
流程不包含 Unsplash。

### 准备一个上游媒体数据集

1. 从官方入口下载图片并接受相应条款。
2. 保留上游文件名，并按照上表结构放到一个 source root 下。
3. 安装 `megatron-energon==7.4.0`。
4. 使用对应的数据集 ID 和 source root 运行 hydration 工具。

```bash
python tools/hydrate_restricted_media.py \
  --repo-root /data/LocateAnything-Data \
  --dataset crowdhuman \
  --source-root /data/upstream/CrowdHuman
```

对七个数据集目录分别运行一次，并相应修改 `--dataset` 和 `--source-root`。
可用的数据集 ID 为：

```text
crowdhuman
deepfashion2
flickr30k
partimagenet
object365
sku110k
unsplash
```

工具使用 `mappings/media/<pool_id>/part-*.parquet` 作为文件清单，在
`--source-root` 下解析每个 `source_relative_path`，校验文件，并生成
`metadataset-full.yaml` 所需的本地 TAR 索引和 Energon 元数据。该工具只负责
准备本地媒体，上游图片需要预先自行下载。

## License Information

LocateAnything-Data 由多个上游数据集组成。每个来源数据集仍受其原始 license、
使用条款、访问条件和署名要求约束。使用者在使用前必须查阅并遵守各来源数据集
适用的条款。

本仓库不授予额外的上游媒体权利。

### 版权问题

本数据集合面向学术研究。如果您认为 LocateAnything-Data 中的任何内容涉及
版权或署名问题，请通过
[Hugging Face Community](https://huggingface.co/datasets/NVEagle/LocateAnything-Data/discussions)
联系维护者。我们会审查相关请求，并处理经确认的问题；必要时会移除相关内容。

## 致谢

我们感谢[数据范围](#数据范围)中所有数据集的创建者和维护者。正是这些工作，
推动了统一检测、grounding、pointing、GUI 理解、文字识别、文档理解、
自动驾驶和机器人等方向的研究。

如果遗漏了重要的数据来源或署名信息，请通过
[Hugging Face Community](https://huggingface.co/datasets/NVEagle/LocateAnything-Data/discussions)
联系我们。

## 引用

如果这项工作对您有价值，请引用：

```bibtex
@article{wang2026locateanything,
  title={LocateAnything: Fast and high-quality vision-language grounding with parallel box decoding},
  author={Wang, Shihao and Liu, Shilong and Kuang, Yuanguo and Wei, Xinyu and Liu, Yangzhou and Li, Zhiqi and Man, Yunze and Chen, Guo and Tao, Andrew and Liu, Guilin and others},
  journal={arXiv preprint arXiv:2605.27365},
  year={2026}
}
```