agentlans/traditional-chinese

Taiwan-Focused Traditional Chinese Corpus

While large-scale datasets for Simplified Chinese (Mainland China) are abundant, high-quality, permissively licensed datasets tailored specifically to Taiwanese Traditional Chinese are scarce. This dataset aims to bridge that gap.

Dataset Structure & Configurations

This dataset is split into three configurations, ranging from broad filtering to high-purity quality optimization:

1. raw

• Size: 1,000,000 rows from each source dataset before filtering.
• Curation: Filtered to include exclusively Traditional Chinese text (removing rows with characters exclusive to Simplified Chinese).
• Filtering: Explicitly removed written Cantonese and texts with obvious signs of Mainland China origin. Basic PII redaction (URLs, e-mails, and passwords) was applied.
• Sources: Gathered from the following corpora (utilizing zho_Hant, Traditional Chinese, or cmn_Hani subsets where specific tags were unavailable):
  • statmt/cc100
  • uonlp/CulturaX
  • HuggingFaceFW/fineweb-2
  • HPLT/HPLT2.0_cleaned

2. taiwan-style

• Curation: Built by passing the raw configuration through a custom classifier trained to detect authentic Taiwan-styled phrases, idioms, and vocabulary as defined by the OpenCC package.

3. taiwan-style-quality

• Curation: Built by filtering the taiwan-style configuration using a text quality classifier.
• Technical Details: Modelled after agentlans/bge-small-en-text-quality and adapted for Traditional Chinese using the bilingual agentlans/en-zhtw-google-translate dataset.
• Threshold: Contains only rows achieving a quality score > 0.

Limitations & Biases

• Geographic Purity: The dataset is not 100% pure. Despite strict filtering, some content originating from Hong Kong or Mainland China may still be present.
• Temporal Bias: The text may be outdated and lacks recent Taiwanese cultural trends, internet slang, or modern expressions.
• Content Safety: The raw and taiwan-style configurations are largely unfiltered for safety and may contain toxic, explicit, or sensitive content. The taiwan-style-quality subset reduces this but does not eliminate it entirely.
• Partial Anonymization: Personally identifiable information (PII) removal is limited. While e-mails and passwords were obfuscated, names, phone numbers, and addresses may still exist due to the difficulty of detecting PII in noisy, unstructured Chinese text.
• Formatting Consistency: Numbers and punctuation not consistently normalized. For example, some rows mix English-style periods, parentheses, and quotes with their Traditional Chinese counterparts.
• Geopolitical & Ideological Bias: The text includes a broad spectrum of political opinions regarding history, cross-strait relations, and U.S.-Taiwan-China geopolitics. Content ranges from well-informed discourse to overt propaganda from various factions.

Licensing Information

This dataset is distributed under the Open Data Commons Attribution License (ODC-BY). If you use this dataset, please attribute the source appropriately.

台灣繁體中文語料庫

現今已有不少中文語料庫可供使用，但專門針對台灣繁體中文、具備較高品質且授權條件友善的開放資料集仍相當稀少。

本資料集旨在補足這項缺口，提供以台灣繁體中文為核心、適合語言模型訓練與研究用途的大規模文本資料。

資料集結構

本資料集提供三個版本，從原始資料到品質最佳化資料，可依不同使用需求選擇。

1. raw

• 規模： 過濾前，每個來源資料集最多收錄 1,000,000 列文本。

• 處理方式： 僅保留繁體中文內容，移除含有簡體中文專用字元的文本。

• 過濾方式： 排除粵語內容及具有明顯中國大陸用語特徵的文本，並進行基本的個人識別資訊（PII）匿名化處理，例如網址、電子郵件地址與密碼。

• 資料來源： 資料蒐集自下列公開語料庫。若特定資料集未提供台灣繁體中文標籤，則使用「zho_Hant」、「繁體中文」或「cmn_Hani」等對應子集。

  • statmt/cc100
  • uonlp/CulturaX
  • HuggingFaceFW/fineweb-2
  • HPLT/HPLT2.0_cleaned

2. taiwan-style

• 處理方式： 由 raw 版本透過自訂分類器篩選而成。
• 篩選目標： 保留較符合台灣繁體中文使用習慣的內容，包括詞彙選擇、慣用語、語氣與表達方式等特徵。
• 用語轉換依據： 台灣與中國大陸常見詞彙對應關係主要參考 OpenCC 所定義的轉換規則。

3. taiwan-style-quality

• 處理方式： 在 taiwan-style 版本基礎上，進一步透過文本品質分類器進行篩選。
• 技術說明： 採用 agentlans/bge-small-en-text-quality 作為品質評估模型，並透過 agentlans/en-zhtw-google-translate 資料集進行繁體中文適應。
• 品質篩選標準： 僅保留品質分數大於 0 的文本。

限制與偏誤

• 地域來源： 本資料集並非完全由台灣文本組成。儘管已進行多層過濾，仍可能包含少量來自香港、中國大陸或其他華語地區的內容。
• 時代偏誤： 部分文本可能較為陳舊，無法完整反映近期的台灣社會文化、網路用語或流行趨勢。
• 內容安全性： raw 與 taiwan-style 版本大多未經內容安全過濾，可能包含冒犯性、暴力、露骨或其他敏感內容。taiwan-style-quality 雖有一定程度改善，但無法完全排除此類文本。
• PII 移除限制： 個人識別資訊的移除並非百分之百完整。雖已處理部分常見資訊類型，但仍可能殘留姓名、電話號碼、地址或其他可識別資訊。
• 格式一致性： 由於資料來源多元，數字格式、標點符號與中英文混排方式可能存在差異，未完全統一。
• 政治與意識形態偏誤： 資料內容涵蓋不同政治立場與社會觀點，可能包含事實陳述、評論、倡議內容或政治宣傳等各類文本。

使用方式

本資料集依 Open Data Commons Attribution License（ODC-BY） 授權釋出。

使用、修改或散布本資料集時，請依授權條款標示資料來源與相關著作權資訊。