Hugging Face's logo

Datasets:
Reza2kn
/
visualears-115m-pref350-curriculum-relabels

License:
Dataset card Files
xet
 Community
Dataset Viewer
Duplicate
The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code:   StreamingRowsError
Exception:    CastError
Message:      Couldn't cast
request_id: string
audio_ref: struct<manifest_id: string, source: string, source_key: string, file_path: string, row_index: int64, (... 265 chars omitted)
  child 0, manifest_id: string
  child 1, source: string
  child 2, source_key: string
  child 3, file_path: string
  child 4, row_index: int64
  child 5, audio_col: string
  child 6, text_col: string
  child 7, handler: string
  child 8, duration_s: double
  child 9, raw_duration_s: double
  child 10, chizzled_duration_s: double
  child 11, mosaic_input: string
  child 12, embedding_prefix: null
  child 13, manifest_offset: null
  child 14, embedding_row: null
  child 15, local_audio_path: null
  child 16, chiseled_hf_path: null
teacher_hint_text: null
pool: string
curriculum: struct<duration_s: double, source: string, curriculum_stage: string>
  child 0, duration_s: double
  child 1, source: string
  child 2, curriculum_stage: string
teacher_model: string
teacher_text: string
teacher_text_raw: string
teacher_error: null
teacher_audio_seconds: double
teacher_batch_elapsed_s: double
teacher_transcribed_at: timestamp[s]
uploaded_chunks: list<item: string>
  child 0, item: string
chunk_lines: int64
complete_chunks: int64
source: string
rows_seen: int64
ts: timestamp[s]
to
{'ts': Value('timestamp[s]'), 'source': Value('string'), 'rows_seen': Value('int64'), 'chunk_lines': Value('int64'), 'complete_chunks': Value('int64'), 'uploaded_chunks': List(Value('string'))}
because column names don't match
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/src/worker/utils.py", line 149, in get_rows_or_raise
                  return get_rows(
                      dataset=dataset,
                  ...<4 lines>...
                      column_names=column_names,
                  )
                File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
                  return func(*args, **kwargs)
                File "/src/services/worker/src/worker/utils.py", line 129, in get_rows
                  rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
                File "/src/services/worker/src/worker/utils.py", line 489, in safe_iter
                  yield from ds.decode(False) if ds.features else ds
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2818, in __iter__
                  for key, example in ex_iterable:
                                      ^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2355, in __iter__
                  for key, pa_table in self._iter_arrow():
                                       ~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2380, in _iter_arrow
                  for key, pa_table in self.ex_iterable._iter_arrow():
                                       ~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 536, in _iter_arrow
                  for key, pa_table in iterator:
                                       ^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 419, in _iter_arrow
                  for key, pa_table in self.generate_tables_fn(**gen_kwags):
                                       ~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 343, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 132, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2369, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2297, in cast_table_to_schema
                  raise CastError(
                  ...<3 lines>...
                  )
              datasets.table.CastError: Couldn't cast
              request_id: string
              audio_ref: struct<manifest_id: string, source: string, source_key: string, file_path: string, row_index: int64, (... 265 chars omitted)
                child 0, manifest_id: string
                child 1, source: string
                child 2, source_key: string
                child 3, file_path: string
                child 4, row_index: int64
                child 5, audio_col: string
                child 6, text_col: string
                child 7, handler: string
                child 8, duration_s: double
                child 9, raw_duration_s: double
                child 10, chizzled_duration_s: double
                child 11, mosaic_input: string
                child 12, embedding_prefix: null
                child 13, manifest_offset: null
                child 14, embedding_row: null
                child 15, local_audio_path: null
                child 16, chiseled_hf_path: null
              teacher_hint_text: null
              pool: string
              curriculum: struct<duration_s: double, source: string, curriculum_stage: string>
                child 0, duration_s: double
                child 1, source: string
                child 2, curriculum_stage: string
              teacher_model: string
              teacher_text: string
              teacher_text_raw: string
              teacher_error: null
              teacher_audio_seconds: double
              teacher_batch_elapsed_s: double
              teacher_transcribed_at: timestamp[s]
              uploaded_chunks: list<item: string>
                child 0, item: string
              chunk_lines: int64
              complete_chunks: int64
              source: string
              rows_seen: int64
              ts: timestamp[s]
              to
              {'ts': Value('timestamp[s]'), 'source': Value('string'), 'rows_seen': Value('int64'), 'chunk_lines': Value('int64'), 'complete_chunks': Value('int64'), 'uploaded_chunks': List(Value('string'))}
              because column names don't match

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

🗂️ visualears-115m-pref350-curriculum-relabels

English + فارسی · Part of Shenava 1.0 · Project hub · SLT paper submission

🌟 At a glance | معرفی سریع

English فارسی
🎯 Purpose 115M relabel/curriculum dataset. بازبرچسب‌گذاری‌ها و برنامهٔ درسی ویژهٔ مدل ۱۱۵ میلیونی با تنظیمات ترجیحی پروژه.
🧩 Role training-pipeline and curriculum asset مصنوع خط لوله و برنامهٔ درسی آموزش
📦 Snapshot 65 files; approximately 1.49 GB 65 فایل؛ حدود 1.49 GB
🧱 Packaging 0 Parquet files and 0 standalone audio files 0 فایل Parquet و 0 فایل صوتی مستقل
🗣️ Language Persian / Farsi فارسی
⚖️ License Apache License 2.0 مجوز Apache 2.0

🇬🇧 English dataset card

🧭 Dataset description

115M relabel/curriculum dataset. It is published as one component of the Shenava-1 open Persian speech stack. The collection separates training corpora, relabels, active-learning queues, calibration sets, and held-out evaluation assets so that each repository has a clear operational role.

This card documents the repository snapshot rather than claiming that every file is an interchangeable training example. Consumers must distinguish raw media, manifests, pipeline state, labels, benchmark outputs, and model-generated annotations. Preserve source identifiers and consult retained technical notes for artifact-specific fields.

🎯 Intended uses

  • Reproduce the specific Shenava/VisualEars pipeline stage named by this repository.
  • Train, filter, calibrate, review, or evaluate Persian speech systems according to the role above.
  • Study Persian ASR data quality, acoustic conditions, text normalization, hard words, and semantic error behavior.
  • Build documented derivatives while retaining source revision, row identifiers, provenance, and transformation logs.

🚫 Uses to avoid

  • Do not merge evaluation or gold sets into training data.
  • Do not assume machine-generated labels are equivalent to human-verified ground truth.
  • Do not use uncertain, non-Persian, raw, or calibration queues as clean training data without applying their review decision.
  • Do not use speech content to infer sensitive personal attributes or to identify speakers.
  • Do not publish private information found in audio or transcripts; downstream users remain responsible for privacy review.

📁 Repository structure

Audited snapshot: 65 files, approximately 1.49 GB. Common file groups: .gz × 58, .json × 4, no extension × 2, .md × 1.

Representative or largest paths:

  • chunks/visualears_115m_pref350_full.000015.jsonl.gz
  • chunks/visualears_115m_pref350_full.000014.jsonl.gz
  • chunks/visualears_115m_pref350_full.000033.jsonl.gz
  • chunks/visualears_115m_pref350_full.000016.jsonl.gz
  • chunks/visualears_115m_pref350_full.000028.jsonl.gz

Parquet repositories should be read by shard. Audio-folder repositories may require their metadata/manifests to pair media with labels. Pipeline-state and result repositories can contain JSON, JSONL, CSV, or checkpoint artifacts rather than a conventional train table.

🚀 Loading and inspection 

from datasets import load_dataset

repo_id = "Reza2kn/visualears-115m-pref350-curriculum-relabels"
dataset = load_dataset(repo_id, split="train", streaming=True)
first = next(iter(dataset))
print(first.keys())

If the repository is an artifact archive rather than a directly loadable dataset script, use snapshot_download(repo_id=repo_id, repo_type="dataset") and read its manifests or media files explicitly. Always inspect features, split names, and the card revision before launching a long job.

For audio, confirm the decoded sampling rate and channel count rather than trusting filename extensions. For text, preserve Persian Unicode, ZWNJ/half-space, digits, and original text before applying a normalized view. Never overwrite the source transcript during normalization.

🧬 Provenance and processing

The repository name and collection note define its stage in the Shenava pipeline. Derived labels, confidence signals, curriculum decisions, and quality buckets should be treated as versioned annotations. When creating a derivative, record the source repository revision, selection rule, normalization version, model revision used for pseudo-labeling, and human-review status.

✅ Quality checks

At minimum, validate file readability, unique/stable identifiers, audio duration, transcript emptiness, language, sampling rate, clipping, duplicated content, and manifest/media correspondence. For evaluation data, verify that reference text and sample membership have not changed. For generated labels, manually inspect stratified samples across confidence, duration, source, and acoustic condition.

⚠️ Biases and limitations

The data may unevenly represent accents, regions, ages, genders, speaking styles, recording devices, noise conditions, and formal versus conversational Persian. Filtering can improve average label quality while removing difficult but important speakers. Pseudo-labels inherit model errors. Literary recitation, telephony, far-field audio, and spontaneous speech are distinct domains and should not be treated as interchangeable.

🇮🇷 کارت مجموعه‌داده به فارسی

🧭 معرفی مجموعه‌داده

بازبرچسب‌گذاری‌ها و برنامهٔ درسی ویژهٔ مدل ۱۱۵ میلیونی با تنظیمات ترجیحی پروژه. این مخزن بخشی از زنجیرهٔ باز و فارسی‌محور Shenava-1 است. مجموعه، پیکرهٔ آموزش، بازبرچسب‌گذاری، صف یادگیری فعال، دادهٔ کالیبراسیون و معیارهای نگه‌داشته‌شده را جدا می‌کند تا نقش هر مخزن روشن بماند.

این کارت وضعیت یک نسخهٔ مشخص از مخزن را توضیح می‌دهد و ادعا نمی‌کند که همهٔ فایل‌ها نمونهٔ آموزشی هم‌نوع هستند. رسانهٔ خام، manifest، وضعیت خط لوله، برچسب، خروجی بنچمارک و annotation تولیدشده با مدل باید بر اساس نقش واقعی خود مصرف شوند.

🎯 کاربردهای پیشنهادی

  • بازتولید همان مرحله از خط لولهٔ Shenava/VisualEars که در نام و توضیح مخزن آمده است.
  • آموزش، پالایش، کالیبراسیون، بازبینی یا ارزیابی سامانهٔ گفتار فارسی متناسب با نقش داده.
  • مطالعهٔ کیفیت داده، شرایط صوتی، نرمال‌سازی متن، واژه‌های دشوار و خطاهای معنایی.
  • ساخت مشتق مستند همراه با حفظ نسخهٔ مبدأ، شناسهٔ ردیف، منشأ و گزارش تبدیل.

🚫 کاربردهای نامناسب

  • دادهٔ ارزیابی یا طلایی را وارد آموزش نکنید.
  • برچسب تولیدشده با مدل را بدون بازبینی معادل حقیقت انسانی ندانید.
  • صف نامطمئن، غیرفارسی، خام یا کالیبراسیون را پیش از اعمال تصمیم بازبینی، دادهٔ پاک فرض نکنید.
  • از محتوا برای شناسایی گوینده یا استنباط ویژگی حساس استفاده نکنید.
  • اطلاعات خصوصی احتمالی در صوت یا متن را بازنشر نکنید و ارزیابی حریم خصوصی را انجام دهید.

📁 ساختار مخزن

نسخهٔ ممیزی‌شده شامل 65 فایل با حجم تقریبی 1.49 GB است. گروه‌های رایج فایل: .gz × 58, .json × 4, no extension × 2, .md × 1.

مسیرهای شاخص یا بزرگ:

  • chunks/visualears_115m_pref350_full.000015.jsonl.gz
  • chunks/visualears_115m_pref350_full.000014.jsonl.gz
  • chunks/visualears_115m_pref350_full.000033.jsonl.gz
  • chunks/visualears_115m_pref350_full.000016.jsonl.gz
  • chunks/visualears_115m_pref350_full.000028.jsonl.gz

مخزن Parquet را به‌صورت شاردی بخوانید. در مخزن audio-folder، manifest یا فراداده برای اتصال صوت و برچسب لازم است. مخزن وضعیت خط لوله یا نتایج ممکن است به‌جای جدول train شامل JSON، JSONL، CSV یا چک‌پوینت باشد.

🚀 بارگذاری و بررسی

در بارگذاری با datasets ابتدا نام split و features را بررسی کنید. اگر مخزن آرشیو مصنوع است، با snapshot_download فایل‌های لازم را انتخابی دریافت کنید. نرخ نمونه‌برداری و تعداد کانال را پس از decode تأیید کنید. در متن، نسخهٔ اصلی فارسی، نیم‌فاصله و رقم‌ها را نگه دارید و نمای نرمال‌شده را در ستونی جدا بسازید.

🧬 منشأ و پردازش

نام مخزن و توضیح مجموعه، جایگاه داده را در خط لوله مشخص می‌کند. برچسب مشتق، confidence، تصمیم curriculum و سطل کیفیت را annotation نسخه‌دار بدانید. در ساخت مشتق، revision مبدأ، قاعدهٔ انتخاب، نسخهٔ نرمال‌سازی، مدل تولیدکنندهٔ pseudo-label و وضعیت بازبینی انسانی را ثبت کنید.

✅ کنترل کیفیت

خوانایی فایل، یکتایی شناسه، مدت صوت، متن خالی، زبان، نرخ نمونه، clipping، تکرار محتوا و تطابق manifest با رسانه را بررسی کنید. در دادهٔ ارزیابی، ثابت‌بودن اعضا و متن مرجع ضروری است. برای برچسب ماشینی، نمونه‌گیری لایه‌بندی‌شده بر اساس confidence، مدت، منشأ و شرایط صوتی انجام دهید.

⚠️ سوگیری‌ها و محدودیت‌ها

ممکن است لهجه، منطقه، سن، جنسیت، سبک گفتار، دستگاه ضبط، نویز و گفتار رسمی/محاوره‌ای به‌طور نامتوازن پوشش داده شوند. پالایش شدید می‌تواند میانگین کیفیت را بالا ببرد ولی گویندگان دشوار و مهم را حذف کند. pseudo-label خطای مدل را به ارث می‌برد و حوزه‌هایی مانند شعرخوانی، تلفن، دورمیدان و گفتار خودانگیخته قابل جایگزینی با یکدیگر نیستند.

🔬 Reproducibility | بازتولیدپذیری

  • Pin the dataset revision and record selected files or shards. | نسخهٔ مخزن و شاردهای انتخابی را ثبت کنید.
  • Keep immutable IDs and provenance columns. | شناسهٔ پایدار و ستون منشأ را حفظ کنید.
  • Publish accepted/rejected counts for every filter. | شمارش پذیرش و رد هر فیلتر را منتشر کنید.
  • Separate original, normalized, and model-generated text. | متن اصلی، نرمال‌شده و تولیدشده با مدل را جدا نگه دارید.
  • Audit train/eval overlap by content, speaker when available, and source. | هم‌پوشانی آموزش و ارزیابی را بر اساس محتوا، گویندهٔ موجود و منشأ بررسی کنید.

📚 Citation, links, and license | استناد، پیوندها و مجوز 

@dataset{shenava1_visualears_115m_pref350_curriculum_relabels,
  title  = {visualears-115m-pref350-curriculum-relabels: a Shenava-1 Persian data artifact},
  author = {Reza2kn},
  year   = {2026},
  url    = {https://huggingface.co/datasets/Reza2kn/visualears-115m-pref350-curriculum-relabels}
}

Released under the Apache License 2.0. این مخزن با مجوز Apache 2.0 منتشر شده است.
Downloads last month
491
Total file size:
1.49 GB

Collection including Reza2kn/visualears-115m-pref350-curriculum-relabels