update README

README.md

@@ -19,39 +19,73 @@ Nemotron-Personas-Japan: 現実世界の分布に基づいた合成ペルソナ
   <p><em>現実世界の分布に基づいたペルソナ生成のための複合AIアプローチ</em></p>
 </center>
 
-## データセット概要 (Dataset Overview)
-Nemotron-Personas-Japan は、日本における人口の多様性と豊かさを捉えることを目的とし、実世界の人口統計、地理的分布、性格特性の分布に基づいて合成的に生成されたペルソナのオープンソースデータセットです。Nemotron-Personas の日本語版であり、名前、性別、年齢、背景、婚姻状況、学歴、職業、居住地などの統計に基づいて整合した初のデータセットです。本バージョンでは、日本語における多様なモデリングユースケースに適した高品質のペルソナを提供します。
+# データセット概要 (Dataset Overview)
+Nemotron-Personas-Japan は、日本における人口の多様性と豊かさを捉えることを目的とし、実世界の人口統計、地理的分布、性格特性の分布に基づいて合成的に生成されたペルソナのオープンソースデータセットです。名前、性別、年齢、背景、婚姻状況、学歴、職業、居住地などの統計に基づいて生成した初のデータセットされた [Nemotron-Personas](https://huggingface.co/datasets/nvidia/Nemotron-Personas) の日本語版です。本バージョンでは、日本語における多様なモデリングユースケースに適した高品質のペルソナを提供します
 
-このデータセットは、合成的に生成されたデータの多様性を高め、データやモデルのバイアスを軽減し、[model collapse](https://en.wikipedia.org/wiki/Model_collapse)（他のモデルの出力を無条件に学習することで生じる劣化）を防ぐために利用できます。特に本データセットは、従来のペルソナ・データセットと比べて、年齢（例：高齢層のペルソナ）、地理（例：地方のペルソナ）、教育、職業など複数の軸にわたる基礎的な人口統計分布をより的確に反映するよう設計されています。
+Nemotron-Personas-Japan は、日本のモデル開発者が重要な地域固有の人口統計や文化的背景を取り入れたソブリンAIシステムを開発することを支援します。本データセットは、日本の地理的・人口統計的な実分布を反映することで、合成データの多様性を高め、バイアスを軽減し、[model collapse](https://en.wikipedia.org/wiki/Model_collapse)（他モデルの出力を無条件に学習することで生じる劣化）を防ぎます。特に、過去のペルソナデータセットと比較して、年齢（例：高齢者ペルソナ）、地理（例：地方在住ペルソナ）、学歴、職業など、複数の軸で人口統計的分布をより代表するように設計されています。例えば、実際の名前、年齢、職業、文化的・教育的背景を含んだ高品質なマルチターン会話データを生成でき、そのデータにユニークな視点や切り口をもたらします。
 
-本データセットは、合成データ生成のためのエンタープライズ向け複合AIシステムである [NeMo Data Designer](https://docs.nvidia.com/nemo/microservices/latest/generate-synthetic-data/index.html) を用いて作成されました。Data Designer に組み込まれた独自の確率的グラフィカルモデル（PGM）に加え、Apache-2.0 ライセンスの GPT-OSS-120B モデル、そして拡張を続ける多様なバリデータや評価器を活用しています。Nemotron-Personas-Japan の拡張版は、NeMo Data Designer 内でも利用可能です。
+本データセットは、合成データ生成のためのエンタープライズ向け複合AIシステム [NeMo Data Designer](https://docs.nvidia.com/nemo/microservices/latest/generate-synthetic-data/index.html) を用いて作成されました。独自の確率的グラフィカルモデル（PGM）、Apache-2.0 ライセンスの GPT-OSS-120B モデル、さらに Data Designer に組み込まれた拡張可能なバリデータや評価器群を活用しています。拡張版の Nemotron-Personas-Japan は、まもなく NeMo Data Designer 上で直接利用可能になります。
 
-Nemotron-Personas-Japan is an open-source (CC BY 4.0) dataset of synthetically-generated personas grounded in real-world demographic, geographic, and personality trait distributions in Japan to capture the diversity and richness of the population. It is a variant of Nemotron-Personas, which is the first dataset of its kind aligned with statistics for names, sex, age, background, marital status, education, occupation and location, among other attributes. This version of the dataset provides high-quality personas for a variety of modeling use-cases in Japanese.
+本データセットは商用利用可能���す。
 
-The dataset can be used by model builders to support Sovereign AI development in Japanese, all while bringing important region-specific nuances to the table. In particular, the dataset is designed to be more representative of underlying demographic distributions along multiple axes, including age (e.g. older personas), geography (e.g., rural personas), education, occupation, etc., as compared to past persona datasets. As an example, one can produce high-quality multi-turn chat conversation data with real names, ages, occupation, cultural and education backgrounds, all of which bring unique perspectives and angles to that data. The dataset can also be used to improve diversity of synthetically-generated data, mitigate data/model biases, and prevent [model collapse](https://en.wikipedia.org/wiki/Model_collapse) (degradation caused by uncurated training on another model's outputs). 
+Nemotron-Personas-Japan is an open-source (CC BY 4.0) dataset of synthetically-generated personas grounded in real-world demographic, geographic, and personality trait distributions in Japan to capture the diversity and richness of the population. It is a variant of [Nemotron-Personas](https://huggingface.co/datasets/nvidia/Nemotron-Personas), which is the first dataset of its kind aligned with statistics for names, sex, age, background, marital status, education, occupation and location, among other attributes. This version of the dataset provides high-quality personas for a variety of modeling use-cases in Japanese.
+
+Nemotron-Personas-Japan supports Japanese model builders in developing [Sovereign AI](https://www.nvidia.com/en-us/lp/industries/global-public-sector/sovereign-ai-technical-overview/) systems that incorporate important region-specific demographics and cultural context. The dataset improves diversity of synthetically-generated data, mitigates biases, and prevents [model collapse](https://medium.com/data-science/addressing-concerns-of-model-collapse-from-synthetic-data-in-ai-7cd380208d14) (degradation caused by uncurated training on another model’s outputs) by reflecting Japan's real geographic and demographic distributions. In particular, the dataset is designed to be more representative of underlying demographic distributions along multiple axes, including age (e.g. older personas), geography (e.g., rural personas), education, occupation, etc., as compared to past persona datasets. As an example, one can produce high-quality multi-turn chat conversation data with real names, ages, occupation, cultural and education backgrounds, all of which bring unique perspectives and angles to that data. 
 
 Produced using [NeMo Data Designer](https://docs.nvidia.com/nemo/microservices/latest/generate-synthetic-data/index.html), an enterprise-grade compound AI system for synthetic data generation, the dataset leverages a proprietary Probabilistic Graphical Model (PGM) along with an Apache-2.0-licensed GPT-OSS-120B model and an ever-expanding set of validators and evaluators built into Data Designer. An extended version of Nemotron-Personas-Japan is available for use in NeMo Data Designer itself.
 
+This dataset is ready for commercial use.
+
 ## データセットに含まれないもの (What is NOT in the dataset)
 ペルソナに重点を置いているため、本データセットには NeMo Data Designer で利用可能な他のフィールド（氏名や合成住所など）は含まれていません。また、企業向けクライアントに関連性の高いペルソナ（例：金融、医療）も除外されています。エンタープライズユースケースをご検討の場合は、ぜひ[こちら](https://www.nvidia.com/en-us/data-center/products/ai-enterprise/contact-sales/)までご連絡ください。
 
 本データは実世界の分布を反映しているものの、完全に人工的に生成されたものです。氏名やペルソナ記述が実在の人物（生存・故人を問わず）に類似している場合でも、それは偶然の一致にすぎず、いかなる関連性も意図されておらず保証されるものではありません。
 
-このデータセットは商用利用可能です。
-
 Given the emphasis on personas, the dataset excludes other fields available in NeMo Data Designer, e.g., first/last names and synthetic addresses. Also excluded are personas generally of relevance to enterprise clients (e.g., finance, healthcare). Please [reach out](https://www.nvidia.com/en-us/data-center/products/ai-enterprise/contact-sales/) to explore enterprise use-cases.
 
 All data, while mirroring real-world distributions, is completely artificially generated. Any similarity in names or persona descriptions to actual persons, living or dead, is purely coincidental.
 
-This dataset is ready for commercial/non-commercial use.
+# データセット作者 (Data Developer)
+NVIDIA Corporation
+
+# リリース日 (Release Date):
+09/23/2025
+
+# ライセンス (License/Terms of Use)
+このデータセットはCreative Commons Attribution 4.0 International License ([CC-BY-4.0](https://creativecommons.org/licenses/by/4.0/legalcode))に基づいて提供されています。
+
+This dataset is licensed under the Creative Commons Attribution 4.0 International License ([CC BY 4.0](https://creativecommons.org/licenses/by/4.0/legalcode)).
+
+# ユースケース (Use Case)
+Sovereign AIの開発、LLMのトレーニング、あるいは合成データの多様性向上、データ/モデルのバイアス軽減、model collapseの防止を目指す開発者
+
+Developers working on Sovereign AI, training LLMs and/or looking to improve diversity of synthetically generated data, mitigate data/model biases, and prevent model collapse.
+
+# データバージョン (Data Version)
+1.0 (09/23/2025)
+
+# 想定される利用方法 (Intended Use)
+Nemotron-Personas-Japan データセット は、オープンモデルを継続的に改善し、最先端技術をさらに前進させるためにコミュニティで活用されることを目的としています。データはあらゆるモデルの学習に自由に利用することができます。私たちはオープンソースコミュニティからのフィードバックを歓迎するとともに、開発者、研究者、データ愛好者の皆様に本データセットを探求し、その上に新たな成果を築いていただくことを期待しています。
+
+Nemotron-Personas-Japan データセットは、日本の国勢調査における自己申告の人口統計データ分布に基づいて構築されています。そのため、本データセットの主な目的は、既存のペルソナ・データセットを用いた合成データ生成において不足しているデータや潜在的なバイアスを補正し、ソブリンAIの開発を支援することにあります。日本の人口構成に忠実で多様性を高めたデータを提供しているものの、利用可能なデータの制約やモデルの合理的な複雑性により、限界が存在します。これにより、いくつかの独立性の仮定を設ける必要があります。例えば、職業は居住地（都道府県）および性別が与えられた場合、学歴とは独立していると仮定しています。同様に、日本の国勢調査からは、生物学的性別とは独立したジェンダーに関する包括的な統計は得られません。今後の課題として、データの忠実性をさらに高める取り組みに委ねています。
+
+The Nemotron-Personas dataset is intended to be used by the community to continue to improve open models and push the state of the art. The data may be freely used to train any model. We welcome feedback from the open-source community and invite developers, researchers, and data enthusiasts to explore the dataset and build upon it.
+
+The Nemotron-Personas-Japan dataset is grounded in distributions of self-reported demographic data in the Japanese census. As such, its primary goal is to support Sovereign AI development by combating missing data and/or potential biases present in model training data today, especially when it comes to existing persona datasets used in synthetic data generation. Despite the improved data diversity and fidelity to Japan’s population, we are still limited by data availability and reasonable model complexity. This results in some necessary independence assumptions; for instance, that occupations are independent of education given location (prefecture) and sex. Similarly, comprehensive statistics on gender, independent of sex, are not available from the Japan Census. We leave further efforts to improve fidelity to future work.
+
+Note that the dataset is focused on adults only.
 
 # データセット詳細 (Dataset Details)
+本データセットには以下が含まれています。
+* 日本語で記録された 100万件のレコード（1レコードあたり6つのペルソナ → 合計600万ペルソナ）
+* 22フィールド：6つのペルソナフィールドと、公式の人口統計・労働統計に基づく16のコンテキストフィールド
+* 約14億トークン数（うちペルソナ関連トークン約8.5億）
+* 人口統計・地理・性格特性などの軸にまたがる包括的なデータ
+* 約95万件のユニークな名前
+* 日本の労働人口を反映する1,500以上の職業カテゴリ
+* プロフェッショナル、スポーツ、芸術、旅行、料理など多様なペルソナタイプ
+* 文化的背景、スキルと専門性、目標と志向、趣味や関心といった自然言語のペルソナ属性
 
-* 600万件の自然な日本語で記述された合成ペルソナ
-* 公式な人口統計および労働統計に基づいた構造化・文脈的フィールド
-* 日本の労働力を反映する1,5200以上の職業カテゴリ
-* 専門ペルソナセット：職業、スポーツ、芸術、旅行、料理
-* ナラティブフィールド：キャリア目標、スキル、趣味、文化的背景、地域的アイデンティティ
 
 Nemotron-Personas-Japan は、日本の公式人口統計および労働統計に整合させつつ、AI トレーニングにおいて重要な領域へ拡張することを目的に設計されました。具体的には次のような点を反映しています：
 
@@ -83,12 +117,19 @@ Nemotron-Personas-Japan was designed to align with Japan's official demographic
 These extensions build on a strong foundation of public data, helping create personas that are both statistically grounded and culturally representative, while remaining synthetic, privacy-preserving, and open.
 
 ## シードデータ (Seed Data)
+日本の人口における社会人口学的および地理的な多様性と複雑性を捉えるために、Nemotron-Personas-Japan は以下の情報を利用しました：
+* 総務省統計局が公開している国勢調査
+* 名字由来net が提供した日本人の名字・名前データ
+
 In order to capture the socio-demographic and geographic diversity and complexity of Japan's population, Nemotron-Personas-Japan leveraged
 * [population census data](https://www.stat.go.jp/data/jinsui/2024np/index.html) published by the Statistics Bureau of Japan (e-Stat)
 * name data provided by [Myoji-Yurai.net](http://Myoji-Yurai.net) (名字由来net) to reflect realistic first and last name distributions in Japan.
 
 ## スキーマ (Schema)
 本データセットには合計22のフィールドが含まれています。内訳は、ペルソナ関連フィールドが6つ、文脈関連フィールドが16つです。研究者にとって、多くの文脈関連フィールドは特定のペルソナを絞り込む際に有用であり、これは既存のデータセットでは困難とされてきた点です。
+<center>
+  <img src="images/nemotron_personas_japan_schema_ja.png" width="700px">
+</center>
 
 The dataset includes 22 fields: 6 persona fields and 16 contextual fields shown below. Researchers will find many contextual fields useful in zoning in on specific personas, which is challenging to do with existing datasets. 
 <center>
@@ -96,30 +137,31 @@ The dataset includes 22 fields: 6 persona fields and 16 contextual fields shown
 </center>
 
 ## フィールド数＆トークン数 (Field & Token Counts)
+グローバルIDを除いて14億トークン（うち8.5億はペルソナトークン）、100万件のレコードと22カラムにわたり、。データは日本の47都道府県すべてを網羅しています。
+
 1.4B tokens (850 persona tokens) across 1M records and 22 columns, excluding the globally unique identifier. Note that data covers all 47 prefectures in Japan.
 <center>
   <img src="images/nemotron_personas_japan_field_stats.png" width="500px">
 </center>
 
-
 # データセット記述と品質評価 (Dataset Description & Quality Assessment)
 以下、データセットの多様性とパターンの品質を確認するため、さまざまな観点からの分析を示しています。
 
 The analysis below provides a breakdown across various axes of the dataset to emphasize the built-in diversity and pattern complexity of data.
 
 ## Names
-本データセットはペルソナに焦点を当てているため、氏名は専用のフィールドとしては提供されていません。しかし、ペルソナプロンプトには、[名字由来net](http://Myoji-Yurai.net) によって提供された 20,000 件のユニークな名前と 97,000 件のユニークな姓が組み込まれています。
+本データセットはペルソナに焦点を当てているため、氏名は専用のフィールドとしては提供されていません。しかし、ペルソナ合成には、名字由来net によって提供された 20,000 件のユニークな名前と 97,000 件のユニークな姓が組み込まれています。
 
 Since the focus of this dataset is on personas, names aren’t provided as dedicated fields. However, infused into persona generation are 20,000 unique first names, 97,000 unique last names provided by [Myoji-Yurai.net](http://Myoji-Yurai.net).
 
 ## 年齢分布 (Age Distribution)
 日本のペルソナにおける年齢分布は、国全体の実際の人口構造を反映しており、中高年層が大きな割合を占め、若年層に向かって徐々に減少していくという特徴があります。この分布はつぼ型をしており、若者が少なく、第一次および第二次ベビーブーム世代に大きな膨らみがあります。さらに、日本の女性は世界的に見ても非常に長寿であり、高齢者に占める女性の割合は高くなっています。
 
-なお、このデータセットには 18 歳未満の未成年は含まれていません（下記の倫理規範セクションを参照）。
+なお、このデータセットには 18 歳未満の未成年は含まれていません。
 
 The age distribution of our Japanese personas mirrors the country’s real demographic structure, characterized by a large proportion of people in the middle to older age groups and a gradual decline toward the younger cohorts. The distribution is shaped like a “vase-shaped,” with fewer young people and a significant expansion in the generations born during the baby boom and the second baby boom. Furthermore, Japanese women are exceptionally long-lived by global standards, and the proportion of women among the elderly is high. 
 
-Note that minors under 18 are excluded from this dataset (see the Ethics section below).
+Note that minors under 18 are excluded from this dataset.
 <center>
   <img src="images/nemotron_personas_japan_age_group_distribution.png" width="600px">
 </center>
@@ -174,41 +216,6 @@ from datasets import load_dataset
 nemotron_personas = load_dataset("nvidia/Nemotron-Personas-Japan", "train")
 ```
 
-# ライセンス (License/Terms of Use)
-このデータセットはCreative Commons Attribution 4.0 International License ([CC-BY-4.0](https://creativecommons.org/licenses/by/4.0/legalcode))に基づいて提供されています。
-
-This dataset is licensed under the Creative Commons Attribution 4.0 International License ([CC BY 4.0](https://creativecommons.org/licenses/by/4.0/legalcode)).
-
-データセット作者 (Data Developer)
-NVIDIA Corporation
-
-# Use Case:
-Developers working on Sovereign AI, training LLMs and/or looking to improve diversity of synthetically generated data, mitigate data/model biases, and prevent model collapse.
-
-# リリース日 (Release Date):
-09/22/2025
-
-# Data Version
-1.0 (09/22/2025)
-
-# 想定される利用方法 (Intended Use)
-Nemotron-Personas-Japan データセット は、オープンモデルを継続的に改善し、最先端技術をさらに前進させるためにコミュニティで活用されることを目的としています。データはあらゆるモデルの学習に自由に利用することができます。私たちはオープンソースコミュニティからのフィードバックを歓迎するとともに、開発者、研究者、データ愛好者の皆様に本データセットを探求し、その上に新たな成果を築いていただくことを期待しています。
-
-The Nemotron-Personas dataset is intended to be used by the community to continue to improve open models and push the state of the art. The data may be freely used to train any model. We welcome feedback from the open-source community and invite developers, researchers, and data enthusiasts to explore the dataset and build upon it.
-
-# 倫理的考慮事項 (Ethical Considerations):
-NVIDIA は、[信頼できる AI](https://www.nvidia.com/en-us/ai-data-science/trustworthy-ai/) は共有すべき責任であると考えており、幅広い AI アプリケーションの開発を可能にするための方針や実践を確立しています。本モデルをダウンロードまたは利用する際は、利用規約に従うとともに、開発者は自社のモデルチームと協力し、本モデルが対象となる業界やユースケースの要件を満たし、想定外の不正使用に対応できるようにしてください。
-
-セキュリティ上の脆弱性や NVIDIA AI に関する懸念事項は、[こちら](https://www.nvidia.com/en-us/support/submit-security-vulnerability/)にご報告ください。
-
-NVIDIA believes [Trustworthy AI](https://www.nvidia.com/en-us/ai-data-science/trustworthy-ai/) is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications. When downloaded or used in accordance with our terms of service, developers should work with their internal teams to ensure this dataset meets requirements for the relevant industry and use case and addresses unforeseen product misuse.
-
-The Nemotron-Personas-Japan dataset is grounded in distributions of self-reported demographic data in the Japanese census. As such, its primary goal is to support Sovereign AI development by combating missing data and/or potential biases present in model training data today, especially when it comes to existing persona datasets used in synthetic data generation. Despite the improved data diversity and fidelity to Japan’s population, we are still limited by data availability and reasonable model complexity. This results in some necessary independence assumptions; for instance, that occupations are independent of location (prefecture) given education, age and sex. Similarly, comprehensive statistics on gender, independent of sex, are not available from the Japan Census. We leave further efforts to improve fidelity to future work.
-
-Note that the dataset is focused on adults only.
-
-Please report security vulnerabilities or NVIDIA AI concerns [here](https://www.nvidia.com/en-us/support/submit-security-vulnerability/).
-
 # データセット特性 (Dataset Characterization)
 
 ## データ収集方法 (Data Collection Method)
@@ -224,8 +231,18 @@ Please report security vulnerabilities or NVIDIA AI concerns [here](https://www.
 * レコード数: 100万 (600万ペルソナ) (Record counts: 1M records (6M personas))
 * ストレージサイズ (Total data storage): 1.73 GB
 
-# Citation
-データが役に立つと思われる場合は、引用してください。
+
+# 倫理的考慮事項 (Ethical Considerations):
+NVIDIA は、[信頼できる AI](https://www.nvidia.com/en-us/ai-data-science/trustworthy-ai/) は共有すべき責任であると考えており、幅広い AI アプリケーションの開発を可能にするための方針や実践を確立しています。本モデルをダウンロードまたは利用する際は、利用規約に従うとともに、開発者は自社のモデルチームと協力し、本モデルが対象となる業界やユースケースの要件を満たし、想定外の不正使用に対応できるようにしてください。
+
+セキュリティ上の脆弱性や NVIDIA AI に関する懸念事項は、[こちら](https://www.nvidia.com/en-us/support/submit-security-vulnerability/)にご報告ください。
+
+NVIDIA believes [Trustworthy AI](https://www.nvidia.com/en-us/ai-data-science/trustworthy-ai/) is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications. When downloaded or used in accordance with our terms of service, developers should work with their internal teams to ensure this dataset meets requirements for the relevant industry and use case and addresses unforeseen product misuse.
+
+Please report security vulnerabilities or NVIDIA AI concerns [here](https://www.nvidia.com/en-us/support/submit-security-vulnerability/).
+
+# 引用 (Citation)
+本データを利用する際には以下を引用してください。
 
 If you find the data useful, please cite:
 ```