| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| |
|
| | """Wikipedia dataset containing cleaned articles of all languages."""
|
| |
|
| |
|
| | import bz2
|
| | import codecs
|
| | import json
|
| | import re
|
| | import xml.etree.cElementTree as etree
|
| | from urllib.parse import quote
|
| | import mwparserfromhell
|
| | from mwparserfromhell.wikicode import Wikicode, Heading
|
| | from multiprocess import Process, Manager
|
| | from tqdm import tqdm
|
| |
|
| | import datasets
|
| |
|
| |
|
| | logger = datasets.logging.get_logger(__name__)
|
| |
|
| |
|
| | _CITATION = """\
|
| | @ONLINE {wikidump,
|
| | author = {Wikimedia Foundation},
|
| | title = {Wikimedia Downloads},
|
| | url = {https://dumps.wikimedia.org}
|
| | }
|
| | """
|
| |
|
| | _DESCRIPTION = """\
|
| | Wikipedia dataset containing cleaned articles of all languages.
|
| | The datasets are built from the Wikipedia dump
|
| | (https://dumps.wikimedia.org/) with one split per language. Each example
|
| | contains the content of one full Wikipedia article with cleaning to strip
|
| | markdown and unwanted sections (references, etc.).
|
| | """
|
| |
|
| | _LICENSE = (
|
| | "This work is licensed under the Creative Commons Attribution-ShareAlike "
|
| | "3.0 Unported License. To view a copy of this license, visit "
|
| | "http://creativecommons.org/licenses/by-sa/3.0/ or send a letter to "
|
| | "Creative Commons, PO Box 1866, Mountain View, CA 94042, USA."
|
| | )
|
| |
|
| |
|
| |
|
| | WIKIPEDIA_LANGUAGES = [
|
| | "aa",
|
| | "ab",
|
| | "ace",
|
| | "ady",
|
| | "af",
|
| | "ak",
|
| | "als",
|
| | "am",
|
| | "an",
|
| | "ang",
|
| | "ar",
|
| | "arc",
|
| | "arz",
|
| | "as",
|
| | "ast",
|
| | "atj",
|
| | "av",
|
| | "ay",
|
| | "az",
|
| | "azb",
|
| | "ba",
|
| | "bar",
|
| | "bat-smg",
|
| | "bcl",
|
| | "be",
|
| | "be-x-old",
|
| | "bg",
|
| | "bh",
|
| | "bi",
|
| | "bjn",
|
| | "bm",
|
| | "bn",
|
| | "bo",
|
| | "bpy",
|
| | "br",
|
| | "bs",
|
| | "bug",
|
| | "bxr",
|
| | "ca",
|
| | "cbk-zam",
|
| | "cdo",
|
| | "ce",
|
| | "ceb",
|
| | "ch",
|
| | "cho",
|
| | "chr",
|
| | "chy",
|
| | "ckb",
|
| | "co",
|
| | "cr",
|
| | "crh",
|
| | "cs",
|
| | "csb",
|
| | "cu",
|
| | "cv",
|
| | "cy",
|
| | "da",
|
| | "de",
|
| | "din",
|
| | "diq",
|
| | "dsb",
|
| | "dty",
|
| | "dv",
|
| | "dz",
|
| | "ee",
|
| | "el",
|
| | "eml",
|
| | "en",
|
| | "eo",
|
| | "es",
|
| | "et",
|
| | "eu",
|
| | "ext",
|
| | "fa",
|
| | "ff",
|
| | "fi",
|
| | "fiu-vro",
|
| | "fj",
|
| | "fo",
|
| | "fr",
|
| | "frp",
|
| | "frr",
|
| | "fur",
|
| | "fy",
|
| | "ga",
|
| | "gag",
|
| | "gan",
|
| | "gd",
|
| | "gl",
|
| | "glk",
|
| | "gn",
|
| | "gom",
|
| | "gor",
|
| | "got",
|
| | "gu",
|
| | "gv",
|
| | "ha",
|
| | "hak",
|
| | "haw",
|
| | "he",
|
| | "hi",
|
| | "hif",
|
| | "ho",
|
| | "hr",
|
| | "hsb",
|
| | "ht",
|
| | "hu",
|
| | "hy",
|
| | "ia",
|
| | "id",
|
| | "ie",
|
| | "ig",
|
| | "ii",
|
| | "ik",
|
| | "ilo",
|
| | "inh",
|
| | "io",
|
| | "is",
|
| | "it",
|
| | "iu",
|
| | "ja",
|
| | "jam",
|
| | "jbo",
|
| | "jv",
|
| | "ka",
|
| | "kaa",
|
| | "kab",
|
| | "kbd",
|
| | "kbp",
|
| | "kg",
|
| | "ki",
|
| | "kj",
|
| | "kk",
|
| | "kl",
|
| | "km",
|
| | "kn",
|
| | "ko",
|
| | "koi",
|
| | "krc",
|
| | "ks",
|
| | "ksh",
|
| | "ku",
|
| | "kv",
|
| | "kw",
|
| | "ky",
|
| | "la",
|
| | "lad",
|
| | "lb",
|
| | "lbe",
|
| | "lez",
|
| | "lfn",
|
| | "lg",
|
| | "li",
|
| | "lij",
|
| | "lmo",
|
| | "ln",
|
| | "lo",
|
| | "lrc",
|
| | "lt",
|
| | "ltg",
|
| | "lv",
|
| | "mai",
|
| | "map-bms",
|
| | "mdf",
|
| | "mg",
|
| | "mh",
|
| | "mhr",
|
| | "mi",
|
| | "min",
|
| | "mk",
|
| | "ml",
|
| | "mn",
|
| | "mr",
|
| | "mrj",
|
| | "ms",
|
| | "mt",
|
| | "mus",
|
| | "mwl",
|
| | "my",
|
| | "myv",
|
| | "mzn",
|
| | "na",
|
| | "nah",
|
| | "nap",
|
| | "nds",
|
| | "nds-nl",
|
| | "ne",
|
| | "new",
|
| | "ng",
|
| | "nl",
|
| | "nn",
|
| | "no",
|
| | "nov",
|
| | "nrm",
|
| | "nso",
|
| | "nv",
|
| | "ny",
|
| | "oc",
|
| | "olo",
|
| | "om",
|
| | "or",
|
| | "os",
|
| | "pa",
|
| | "pag",
|
| | "pam",
|
| | "pap",
|
| | "pcd",
|
| | "pdc",
|
| | "pfl",
|
| | "pi",
|
| | "pih",
|
| | "pl",
|
| | "pms",
|
| | "pnb",
|
| | "pnt",
|
| | "ps",
|
| | "pt",
|
| | "qu",
|
| | "rm",
|
| | "rmy",
|
| | "rn",
|
| | "ro",
|
| | "roa-rup",
|
| | "roa-tara",
|
| | "ru",
|
| | "rue",
|
| | "rw",
|
| | "sa",
|
| | "sah",
|
| | "sat",
|
| | "sc",
|
| | "scn",
|
| | "sco",
|
| | "sd",
|
| | "se",
|
| | "sg",
|
| | "sh",
|
| | "si",
|
| | "simple",
|
| | "sk",
|
| | "sl",
|
| | "sm",
|
| | "sn",
|
| | "so",
|
| | "sq",
|
| | "sr",
|
| | "srn",
|
| | "ss",
|
| | "st",
|
| | "stq",
|
| | "su",
|
| | "sv",
|
| | "sw",
|
| | "szl",
|
| | "ta",
|
| | "tcy",
|
| | "te",
|
| | "tet",
|
| | "tg",
|
| | "th",
|
| | "ti",
|
| | "tk",
|
| | "tl",
|
| | "tn",
|
| | "to",
|
| | "tpi",
|
| | "tr",
|
| | "ts",
|
| | "tt",
|
| | "tum",
|
| | "tw",
|
| | "ty",
|
| | "tyv",
|
| | "udm",
|
| | "ug",
|
| | "uk",
|
| | "ur",
|
| | "uz",
|
| | "ve",
|
| | "vec",
|
| | "vep",
|
| | "vi",
|
| | "vls",
|
| | "vo",
|
| | "wa",
|
| | "war",
|
| | "wo",
|
| | "wuu",
|
| | "xal",
|
| | "xh",
|
| | "xmf",
|
| | "yi",
|
| | "yo",
|
| | "za",
|
| | "zea",
|
| | "zh",
|
| | "zh-classical",
|
| | "zh-min-nan",
|
| | "zh-yue",
|
| | "zu",
|
| | ]
|
| |
|
| |
|
| |
|
| | MEDIA_ALIASES = {
|
| | "ab": ["Медиа", "Файл", "Афаил", "Амедиа", "Изображение"],
|
| | "ace": ["Beureukaih", "Gambar", "Alat", "Berkas"],
|
| | "ady": ["Медиа"],
|
| | "af": ["Lêer", "Beeld"],
|
| | "als": ["Medium", "Datei", "Bild"],
|
| | "am": ["ፋይል", "ስዕል"],
|
| | "an": ["Imachen", "Imagen"],
|
| | "ang": ["Ymele", "Biliþ"],
|
| | "ar": ["ميديا", "صورة", "وسائط", "ملف"],
|
| | "arc": ["ܠܦܦܐ", "ܡܝܕܝܐ"],
|
| | "arz": ["ميديا", "صورة", "وسائط", "ملف"],
|
| | "as": ["চিত্ৰ", "चित्र", "চিত্র", "মাধ্যম"],
|
| | "ast": ["Imaxen", "Ficheru", "Imaxe", "Archivu", "Imagen", "Medios"],
|
| | "atj": ["Tipatcimoctakewin", "Natisinahikaniwoc"],
|
| | "av": ["Медиа", "Файл", "Изображение"],
|
| | "ay": ["Medio", "Archivo", "Imagen"],
|
| | "az": ["Mediya", "Şəkil", "Fayl"],
|
| | "azb": ["رسانه", "تصویر", "مدیا", "فایل", "رسانهای"],
|
| | "ba": ["Медиа", "Рәсем", "Файл", "Изображение"],
|
| | "bar": ["Medium", "Datei", "Bild"],
|
| | "bat-smg": ["Vaizdas", "Medėjė", "Abruozdielis"],
|
| | "bcl": ["Medio", "Ladawan"],
|
| | "be": ["Мультымедыя", "Файл", "Выява"],
|
| | "be-x-old": ["Мэдыя", "Файл", "Выява"],
|
| | "bg": ["Медия", "Файл", "Картинка"],
|
| | "bh": ["मीडिया", "चित्र"],
|
| | "bjn": ["Barakas", "Gambar", "Berkas"],
|
| | "bm": ["Média", "Fichier"],
|
| | "bn": ["চিত্র", "মিডিয়া"],
|
| | "bpy": ["ছবি", "মিডিয়া"],
|
| | "br": ["Skeudenn", "Restr"],
|
| | "bs": ["Mediji", "Slika", "Datoteka", "Medija"],
|
| | "bug": ["Gambar", "Berkas"],
|
| | "bxr": ["Файл", "Меди", "Изображение"],
|
| | "ca": ["Fitxer", "Imatge"],
|
| | "cbk-zam": ["Medio", "Archivo", "Imagen"],
|
| | "cdo": ["文件", "媒體", "圖像", "檔案"],
|
| | "ce": ["Хlум", "Медиа", "Сурт", "Файл", "Медйа", "Изображение"],
|
| | "ceb": ["Payl", "Medya", "Imahen"],
|
| | "ch": ["Litratu"],
|
| | "ckb": ["میدیا", "پەڕگە"],
|
| | "co": ["Immagine"],
|
| | "crh": ["Медиа", "Resim", "Файл", "Fayl", "Ресим"],
|
| | "cs": ["Soubor", "Média", "Obrázok"],
|
| | "csb": ["Òbrôzk", "Grafika"],
|
| | "cu": ["Видъ", "Ви́дъ", "Дѣло", "Срѣдьства"],
|
| | "cv": ["Медиа", "Ӳкерчĕк", "Изображение"],
|
| | "cy": ["Delwedd"],
|
| | "da": ["Billede", "Fil"],
|
| | "de": ["Medium", "Datei", "Bild"],
|
| | "din": ["Ciɛl", "Apamduööt"],
|
| | "diq": ["Medya", "Dosya"],
|
| | "dsb": ["Wobraz", "Dataja", "Bild", "Medija"],
|
| | "dty": ["चित्र", "मिडिया"],
|
| | "dv": ["ފައިލު", "މީޑިއާ", "ފައިލް"],
|
| | "el": ["Εικόνα", "Αρχείο", "Μέσο", "Μέσον"],
|
| | "eml": ["Immagine"],
|
| | "eo": ["Dosiero", "Aŭdvidaĵo"],
|
| | "es": ["Medio", "Archivo", "Imagen"],
|
| | "et": ["Pilt", "Fail", "Meedia"],
|
| | "eu": ["Irudi", "Fitxategi"],
|
| | "ext": ["Archivu", "Imagen", "Mediu"],
|
| | "fa": ["رسانه", "تصویر", "مدیا", "پرونده", "رسانهای"],
|
| | "ff": ["Média", "Fichier"],
|
| | "fi": ["Kuva", "Tiedosto"],
|
| | "fiu-vro": ["Pilt", "Meediä"],
|
| | "fo": ["Miðil", "Mynd"],
|
| | "fr": ["Média", "Fichier"],
|
| | "frp": ["Émâge", "Fichiér", "Mèdia"],
|
| | "frr": ["Medium", "Datei", "Bild"],
|
| | "fur": ["Immagine", "Figure"],
|
| | "fy": ["Ofbyld"],
|
| | "ga": ["Íomhá", "Meán"],
|
| | "gag": ["Mediya", "Medya", "Resim", "Dosya", "Dosye"],
|
| | "gan": ["媒体文件", "文件", "文檔", "档案", "媒體", "图像", "圖像", "媒体", "檔案"],
|
| | "gd": ["Faidhle", "Meadhan"],
|
| | "gl": ["Imaxe", "Ficheiro", "Arquivo", "Imagem"],
|
| | "glk": ["رسانه", "تصویر", "پرونده", "فاىل", "رسانهای", "مديا"],
|
| | "gn": ["Medio", "Imagen", "Ta'ãnga"],
|
| | "gom": ["माध्यम", "मिडिया", "फायल"],
|
| | "gor": ["Gambar", "Berkas"],
|
| | "got": ["𐍆𐌴𐌹𐌻𐌰"],
|
| | "gu": ["દ્રશ્ય-શ્રાવ્ય (મિડિયા)", "દ્રશ્ય-શ્રાવ્ય_(મિડિયા)", "ચિત્ર"],
|
| | "gv": ["Coadan", "Meanyn"],
|
| | "hak": ["文件", "媒體", "圖像", "檔案"],
|
| | "haw": ["Kiʻi", "Waihona", "Pāpaho"],
|
| | "he": ["תמונה", "קו", "מדיה", "קובץ"],
|
| | "hi": ["मीडिया", "चित्र"],
|
| | "hif": ["file", "saadhan"],
|
| | "hr": ["Mediji", "DT", "Slika", "F", "Datoteka"],
|
| | "hsb": ["Wobraz", "Dataja", "Bild"],
|
| | "ht": ["Imaj", "Fichye", "Medya"],
|
| | "hu": ["Kép", "Fájl", "Média"],
|
| | "hy": ["Պատկեր", "Մեդիա"],
|
| | "ia": ["Imagine", "Multimedia"],
|
| | "id": ["Gambar", "Berkas"],
|
| | "ig": ["Nká", "Midia", "Usòrò", "Ákwúkwó orünotu", "Ákwúkwó_orünotu"],
|
| | "ii": ["媒体文件", "文件", "档案", "图像", "媒体"],
|
| | "ilo": ["Midia", "Papeles"],
|
| | "inh": ["Медиа", "Файл", "Изображение"],
|
| | "io": ["Imajo", "Arkivo"],
|
| | "is": ["Miðill", "Mynd"],
|
| | "it": ["Immagine"],
|
| | "ja": ["メディア", "ファイル", "画像"],
|
| | "jbo": ["velsku", "datnyvei"],
|
| | "jv": ["Barkas", "Medhia", "Gambar", "Médhia"],
|
| | "ka": ["მედია", "სურათი", "ფაილი"],
|
| | "kaa": ["Swret", "Таспа", "سۋرەت", "Taspa", "Su'wret", "Сурет", "تاسپا"],
|
| | "kab": ["Tugna"],
|
| | "kbd": ["Медиа", "Файл"],
|
| | "kbp": ["Média", "Fichier"],
|
| | "kg": ["Fisye"],
|
| | "kk": ["Swret", "سۋرەت", "Таспа", "Taspa", "Сурет", "تاسپا"],
|
| | "kl": ["Billede", "Fiileq", "Fil"],
|
| | "km": ["ឯកសារ", "រូបភាព", "មេឌា", "មីឌា"],
|
| | "kn": ["ಚಿತ್ರ", "ಮೀಡಿಯ"],
|
| | "ko": ["미디어", "파일", "그림"],
|
| | "koi": ["Медиа", "Файл", "Изображение"],
|
| | "krc": ["Медиа", "Файл", "Изображение"],
|
| | "ks": ["میڈیا", "فَیِل"],
|
| | "ksh": ["Beld", "Meedije", "Medie", "Belld", "Medium", "Datei", "Meedijum", "Bild"],
|
| | "ku": ["میدیا", "پەڕگە", "Medya", "Wêne"],
|
| | "kv": ["Медиа", "Файл", "Изображение"],
|
| | "kw": ["Restren"],
|
| | "ky": ["Медиа", "Файл"],
|
| | "la": ["Imago", "Fasciculus"],
|
| | "lad": ["Dossia", "Medya", "Archivo", "Dosya", "Imagen", "Meddia"],
|
| | "lb": ["Fichier", "Bild"],
|
| | "lbe": ["Медиа", "Сурат", "Изображение"],
|
| | "lez": ["Медиа", "Mediya", "Файл", "Şəkil", "Изображение"],
|
| | "lfn": ["Fix"],
|
| | "li": ["Afbeelding", "Plaetje", "Aafbeilding"],
|
| | "lij": ["Immaggine", "Immagine"],
|
| | "lmo": ["Immagine", "Imàjine", "Archivi"],
|
| | "ln": ["Média", "Fichier"],
|
| | "lo": ["ສື່ອ", "ສື່", "ຮູບ"],
|
| | "lrc": ["رسانه", "تصویر", "رسانهای", "جانیا", "أسگ", "ڤارئسگأر"],
|
| | "lt": ["Vaizdas", "Medija"],
|
| | "ltg": ["Medeja", "Fails"],
|
| | "lv": ["Attēls"],
|
| | "mai": ["मेडिया", "फाइल"],
|
| | "map-bms": ["Barkas", "Medhia", "Gambar", "Médhia"],
|
| | "mdf": ["Медиа", "Няйф", "Изображение"],
|
| | "mg": ["Rakitra", "Sary", "Média"],
|
| | "mhr": ["Медиа", "Файл", "Изображение"],
|
| | "min": ["Gambar", "Berkas"],
|
| | "mk": ["Податотека", "Медија", "Медиум", "Слика"],
|
| | "ml": ["പ്രമാണം", "ചി", "മീഡിയ", "പ്ര", "ചിത്രം"],
|
| | "mn": ["Медиа", "Файл", "Зураг"],
|
| | "mr": ["चित्र", "मिडिया"],
|
| | "mrj": ["Медиа", "Файл", "Изображение"],
|
| | "ms": ["Fail", "Imej"],
|
| | "mt": ["Midja", "Medja", "Stampa"],
|
| | "mwl": ["Multimédia", "Fexeiro", "Ficheiro", "Arquivo", "Imagem"],
|
| | "my": ["ဖိုင်", "မီဒီယာ"],
|
| | "myv": ["Медия", "Артовкс", "Изображение"],
|
| | "mzn": ["رسانه", "تصویر", "مهدیا", "مدیا", "پرونده", "رسانهای"],
|
| | "nah": ["Mēdiatl", "Īxiptli", "Imagen"],
|
| | "nap": ["Fiùra", "Immagine"],
|
| | "nds": ["Datei", "Bild"],
|
| | "nds-nl": ["Ofbeelding", "Afbeelding", "Bestaand"],
|
| | "ne": ["मीडिया", "चित्र"],
|
| | "new": ["किपा", "माध्यम"],
|
| | "nl": ["Bestand", "Afbeelding"],
|
| | "nn": ["Fil", "Bilde", "Filpeikar"],
|
| | "no": ["Fil", "Medium", "Bilde"],
|
| | "nov": [],
|
| | "nrm": ["Média", "Fichier"],
|
| | "nso": ["Seswantšho"],
|
| | "nv": ["Eʼelyaaígíí"],
|
| | "oc": ["Imatge", "Fichièr", "Mèdia"],
|
| | "olo": ["Kuva", "Medii", "Failu"],
|
| | "or": ["ମାଧ୍ୟମ", "ଫାଇଲ"],
|
| | "os": ["Ныв", "Медиа", "Файл", "Изображение"],
|
| | "pa": ["ਤਸਵੀਰ", "ਮੀਡੀਆ"],
|
| | "pcd": ["Média", "Fichier"],
|
| | "pdc": ["Medium", "Datei", "Bild", "Feil"],
|
| | "pfl": ["Dadai", "Medium", "Datei", "Bild"],
|
| | "pi": ["मीडिया", "पटिमा"],
|
| | "pl": ["Plik", "Grafika"],
|
| | "pms": ["Figura", "Immagine"],
|
| | "pnb": ["میڈیا", "تصویر", "فائل"],
|
| | "pnt": ["Εικόνα", "Αρχείον", "Εικόναν", "Μέσον"],
|
| | "ps": ["انځور", "رسنۍ", "دوتنه"],
|
| | "pt": ["Multimédia", "Ficheiro", "Arquivo", "Imagem"],
|
| | "qu": ["Midya", "Imagen", "Rikcha"],
|
| | "rm": ["Multimedia", "Datoteca"],
|
| | "rmy": ["Fişier", "Mediya", "Chitro", "Imagine"],
|
| | "ro": ["Fişier", "Imagine", "Fișier"],
|
| | "roa-rup": ["Fişier", "Imagine", "Fișier"],
|
| | "roa-tara": ["Immagine"],
|
| | "ru": ["Медиа", "Файл", "Изображение"],
|
| | "rue": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"],
|
| | "rw": ["Dosiye", "Itangazamakuru"],
|
| | "sa": ["चित्रम्", "माध्यमम्", "सञ्चिका", "माध्यम", "चित्रं"],
|
| | "sah": ["Миэдьийэ", "Ойуу", "Билэ", "Изображение"],
|
| | "sat": ["ᱨᱮᱫ", "ᱢᱤᱰᱤᱭᱟ"],
|
| | "sc": ["Immàgini"],
|
| | "scn": ["Immagine", "Mmàggini", "Mèdia"],
|
| | "sd": ["عڪس", "ذريعات", "فائل"],
|
| | "se": ["Fiila"],
|
| | "sg": ["Média", "Fichier"],
|
| | "sh": ["Mediji", "Slika", "Медија", "Datoteka", "Medija", "Слика"],
|
| | "si": ["රූපය", "මාධ්යය", "ගොනුව"],
|
| | "sk": ["Súbor", "Obrázok", "Médiá"],
|
| | "sl": ["Slika", "Datoteka"],
|
| | "sq": ["Figura", "Skeda"],
|
| | "sr": ["Датотека", "Medij", "Slika", "Медија", "Datoteka", "Медиј", "Medija", "Слика"],
|
| | "srn": ["Afbeelding", "Gefre"],
|
| | "stq": ["Bielde", "Bild"],
|
| | "su": ["Média", "Gambar"],
|
| | "sv": ["Fil", "Bild"],
|
| | "sw": ["Faili", "Picha"],
|
| | "szl": ["Plik", "Grafika"],
|
| | "ta": ["படிமம்", "ஊடகம்"],
|
| | "tcy": ["ಮಾದ್ಯಮೊ", "ಫೈಲ್"],
|
| | "te": ["ఫైలు", "దస్త్రం", "బొమ్మ", "మీడియా"],
|
| | "tet": ["Imajen", "Arquivo", "Imagem"],
|
| | "tg": ["Акс", "Медиа"],
|
| | "th": ["ไฟล์", "สื่อ", "ภาพ"],
|
| | "ti": ["ፋይል", "ሜድያ"],
|
| | "tk": ["Faýl"],
|
| | "tl": ["Midya", "Talaksan"],
|
| | "tpi": ["Fail"],
|
| | "tr": ["Medya", "Resim", "Dosya", "Ortam"],
|
| | "tt": ["Медиа", "Рәсем", "Файл", "Räsem", "Изображение"],
|
| | "ty": ["Média", "Fichier"],
|
| | "tyv": ["Медиа", "Файл", "Изображение"],
|
| | "udm": ["Медиа", "Файл", "Суред", "Изображение"],
|
| | "ug": ["ۋاسىتە", "ھۆججەت"],
|
| | "uk": ["Медіа", "Медиа", "Файл", "Изображение", "Зображення"],
|
| | "ur": ["میڈیا", "تصویر", "وسیط", "زریعہ", "فائل", "ملف"],
|
| | "uz": ["Mediya", "Tasvir", "Fayl"],
|
| | "vec": ["Immagine", "Imàjine", "Mèdia"],
|
| | "vep": ["Pilt", "Fail"],
|
| | "vi": ["Phương_tiện", "Tập_tin", "Hình", "Tập tin", "Phương tiện"],
|
| | "vls": ["Afbeelding", "Ofbeeldienge"],
|
| | "vo": ["Ragiv", "Magod", "Nünamakanäd"],
|
| | "wa": ["Imådje"],
|
| | "war": ["Medya", "Fayl", "Paypay"],
|
| | "wo": ["Xibaarukaay", "Dencukaay"],
|
| | "wuu": ["文件", "档案", "图像", "媒体"],
|
| | "xal": ["Аһар", "Боомг", "Изображение", "Зург"],
|
| | "xmf": ["მედია", "სურათი", "ფაილი"],
|
| | "yi": ["מעדיע", "תמונה", "טעקע", "בילד"],
|
| | "yo": ["Fáìlì", "Amóhùnmáwòrán", "Àwòrán"],
|
| | "za": ["媒体文件", "文件", "档案", "图像", "媒体"],
|
| | "zea": ["Afbeelding", "Plaetje"],
|
| | "zh": ["媒体文件", "F", "文件", "媒體", "档案", "图像", "圖像", "媒体", "檔案"],
|
| | "zh-classical": ["文件", "媒體", "圖像", "檔案"],
|
| | "zh-min-nan": ["tóng-àn", "文件", "媒體", "Mûi-thé", "圖像", "檔案"],
|
| | "zh-yue": ["檔", "档", "文件", "图", "媒體", "圖", "档案", "图像", "圖像", "媒体", "檔案"],
|
| | }
|
| |
|
| |
|
| |
|
| | CAT_ALIASES = {
|
| | "ab": ["Категория", "Акатегориа"],
|
| | "ace": ["Kawan", "Kategori"],
|
| | "af": ["Kategorie"],
|
| | "ak": ["Nkyekyem"],
|
| | "als": ["Kategorie"],
|
| | "am": ["መደብ"],
|
| | "an": ["Categoría"],
|
| | "ang": ["Flocc"],
|
| | "ar": ["تصنيف"],
|
| | "arc": ["ܣܕܪܐ"],
|
| | "arz": ["تصنيف"],
|
| | "as": ["CAT", "শ্ৰেণী", "श्रेणी", "শ্রেণী"],
|
| | "ast": ["Categoría"],
|
| | "atj": ["Tipanictawin"],
|
| | "av": ["Категория"],
|
| | "ay": ["Categoría"],
|
| | "az": ["Kateqoriya"],
|
| | "azb": ["بؤلمه"],
|
| | "ba": ["Төркөм", "Категория"],
|
| | "bar": ["Kategorie"],
|
| | "bat-smg": ["Kategorija", "Kateguorėjė"],
|
| | "bcl": ["Kategorya"],
|
| | "be": ["Катэгорыя"],
|
| | "be-x-old": ["Катэгорыя"],
|
| | "bg": ["Категория"],
|
| | "bh": ["श्रेणी"],
|
| | "bjn": ["Tumbung", "Kategori"],
|
| | "bm": ["Catégorie"],
|
| | "bn": ["বিষয়শ্রেণী", "വിഭാഗം"],
|
| | "bpy": ["থাক"],
|
| | "br": ["Rummad"],
|
| | "bs": ["Kategorija"],
|
| | "bug": ["Kategori"],
|
| | "bxr": ["Категори", "Категория"],
|
| | "ca": ["Categoria"],
|
| | "cbk-zam": ["Categoría"],
|
| | "cdo": ["分類"],
|
| | "ce": ["Категори", "Тоба", "Кадегар"],
|
| | "ceb": ["Kategoriya"],
|
| | "ch": ["Katigoria"],
|
| | "ckb": ["پ", "پۆل"],
|
| | "co": ["Categoria"],
|
| | "crh": ["Категория", "Kategoriya"],
|
| | "cs": ["Kategorie"],
|
| | "csb": ["Kategòrëjô"],
|
| | "cu": ["Катигорї", "Категория", "Катигорїꙗ"],
|
| | "cv": ["Категори"],
|
| | "cy": ["Categori"],
|
| | "da": ["Kategori"],
|
| | "de": ["Kategorie"],
|
| | "din": ["Bekätakthook"],
|
| | "diq": ["Kategoriye", "Kategori"],
|
| | "dsb": ["Kategorija"],
|
| | "dty": ["श्रेणी"],
|
| | "dv": ["ޤިސްމު"],
|
| | "el": ["Κατηγορία"],
|
| | "eml": ["Categoria"],
|
| | "eo": ["Kategorio"],
|
| | "es": ["CAT", "Categoría"],
|
| | "et": ["Kategooria"],
|
| | "eu": ["Kategoria"],
|
| | "ext": ["Categoría", "Categoria"],
|
| | "fa": ["رده"],
|
| | "ff": ["Catégorie"],
|
| | "fi": ["Luokka"],
|
| | "fiu-vro": ["Katõgooria"],
|
| | "fo": ["Bólkur"],
|
| | "fr": ["Catégorie"],
|
| | "frp": ["Catègorie"],
|
| | "frr": ["Kategorie"],
|
| | "fur": ["Categorie"],
|
| | "fy": ["Kategory"],
|
| | "ga": ["Rang", "Catagóir"],
|
| | "gag": ["Kategori", "Kategoriya"],
|
| | "gan": ["分類", "分类"],
|
| | "gd": ["Roinn-seòrsa"],
|
| | "gl": ["Categoría"],
|
| | "glk": ["جرگه", "رده"],
|
| | "gn": ["Ñemohenda"],
|
| | "gom": ["वर्ग", "श्रेणी"],
|
| | "gor": ["Dalala"],
|
| | "got": ["𐌷𐌰𐌽𐍃𐌰"],
|
| | "gu": ["શ્રેણી", "CAT", "શ્રે"],
|
| | "gv": ["Ronney"],
|
| | "hak": ["分類"],
|
| | "haw": ["Māhele"],
|
| | "he": ["קטגוריה", "קט"],
|
| | "hi": ["श्र", "श्रेणी"],
|
| | "hif": ["vibhag"],
|
| | "hr": ["CT", "KT", "Kategorija"],
|
| | "hsb": ["Kategorija"],
|
| | "ht": ["Kategori"],
|
| | "hu": ["Kategória"],
|
| | "hy": ["Կատեգորիա"],
|
| | "ia": ["Categoria"],
|
| | "id": ["Kategori"],
|
| | "ie": ["Categorie"],
|
| | "ig": ["Ébéonọr", "Òtù"],
|
| | "ii": ["分类"],
|
| | "ilo": ["Kategoria"],
|
| | "inh": ["ОагӀат"],
|
| | "io": ["Kategorio"],
|
| | "is": ["Flokkur"],
|
| | "it": ["CAT", "Categoria"],
|
| | "ja": ["カテゴリ"],
|
| | "jbo": ["klesi"],
|
| | "jv": ["Kategori"],
|
| | "ka": ["კატეგორია"],
|
| | "kaa": ["Sanat", "Kategoriya", "Санат", "سانات"],
|
| | "kab": ["Taggayt"],
|
| | "kbd": ["Категория", "Категориэ"],
|
| | "kbp": ["Catégorie"],
|
| | "kg": ["Kalasi"],
|
| | "kk": ["Sanat", "Санат", "سانات"],
|
| | "kl": ["Sumut_atassuseq", "Kategori", "Sumut atassuseq"],
|
| | "km": ["ចំនាត់ថ្នាក់ក្រុម", "ចំណាត់ក្រុម", "ចំណាត់ថ្នាក់ក្រុម"],
|
| | "kn": ["ವರ್ಗ"],
|
| | "ko": ["분류"],
|
| | "koi": ["Категория"],
|
| | "krc": ["Категория"],
|
| | "ks": ["زٲژ"],
|
| | "ksh": ["Saachjropp", "Saachjrop", "Katejori", "Kategorie", "Saachjrupp", "Kattejori", "Sachjrop"],
|
| | "ku": ["Kategorî", "پۆل"],
|
| | "kv": ["Категория"],
|
| | "kw": ["Class", "Klass"],
|
| | "ky": ["Категория"],
|
| | "la": ["Categoria"],
|
| | "lad": ["Kateggoría", "Katēggoría", "Categoría"],
|
| | "lb": ["Kategorie"],
|
| | "lbe": ["Категория"],
|
| | "lez": ["Категория"],
|
| | "lfn": ["Categoria"],
|
| | "li": ["Categorie", "Kategorie"],
|
| | "lij": ["Categorîa", "Categoria"],
|
| | "lmo": ["Categuria", "Categoria"],
|
| | "ln": ["Catégorie"],
|
| | "lo": ["ໝວດ"],
|
| | "lrc": ["دأسە"],
|
| | "lt": ["Kategorija"],
|
| | "ltg": ["Kategoreja"],
|
| | "lv": ["Kategorija"],
|
| | "mai": ["CA", "श्रेणी"],
|
| | "map-bms": ["Kategori"],
|
| | "mdf": ["Категорие", "Категория"],
|
| | "mg": ["Sokajy", "Catégorie"],
|
| | "mhr": ["Категория", "Категорий"],
|
| | "min": ["Kategori"],
|
| | "mk": ["Категорија"],
|
| | "ml": ["വിഭാഗം", "വി", "വർഗ്ഗം", "വ"],
|
| | "mn": ["Ангилал"],
|
| | "mr": ["वर्ग"],
|
| | "mrj": ["Категори", "Категория"],
|
| | "ms": ["Kategori"],
|
| | "mt": ["Kategorija"],
|
| | "mwl": ["Catadorie", "Categoria"],
|
| | "my": ["ကဏ္ဍ"],
|
| | "myv": ["Категория"],
|
| | "mzn": ["رج", "رده"],
|
| | "nah": ["Neneuhcāyōtl", "Categoría"],
|
| | "nap": ["Categurìa", "Categoria"],
|
| | "nds": ["Kategorie"],
|
| | "nds-nl": ["Categorie", "Kattegerie", "Kategorie"],
|
| | "ne": ["श्रेणी"],
|
| | "new": ["पुचः"],
|
| | "nl": ["Categorie"],
|
| | "nn": ["Kategori"],
|
| | "no": ["Kategori"],
|
| | "nrm": ["Catégorie"],
|
| | "nso": ["Setensele"],
|
| | "nv": ["Tʼááłáhági_átʼéego", "Tʼááłáhági átʼéego"],
|
| | "oc": ["Categoria"],
|
| | "olo": ["Kategourii"],
|
| | "or": ["ବିଭାଗ", "ଶ୍ରେଣୀ"],
|
| | "os": ["Категори"],
|
| | "pa": ["ਸ਼੍ਰੇਣੀ"],
|
| | "pcd": ["Catégorie"],
|
| | "pdc": ["Abdeeling", "Kategorie"],
|
| | "pfl": ["Kadegorie", "Sachgrubb", "Kategorie"],
|
| | "pi": ["विभाग"],
|
| | "pl": ["Kategoria"],
|
| | "pms": ["Categorìa"],
|
| | "pnb": ["گٹھ"],
|
| | "pnt": ["Κατηγορίαν"],
|
| | "ps": ["وېشنيزه"],
|
| | "pt": ["Categoria"],
|
| | "qu": ["Katiguriya"],
|
| | "rm": ["Categoria"],
|
| | "rmy": ["Shopni"],
|
| | "ro": ["Categorie"],
|
| | "roa-rup": ["Categorie"],
|
| | "roa-tara": ["Categoria"],
|
| | "ru": ["Категория", "К"],
|
| | "rue": ["Категория", "Катеґорія"],
|
| | "rw": ["Ikiciro"],
|
| | "sa": ["वर्गः"],
|
| | "sah": ["Категория"],
|
| | "sat": ["ᱛᱷᱚᱠ"],
|
| | "sc": ["Categoria"],
|
| | "scn": ["Catigurìa"],
|
| | "sd": ["زمرو"],
|
| | "se": ["Kategoriija"],
|
| | "sg": ["Catégorie"],
|
| | "sh": ["Kategorija", "Категорија"],
|
| | "si": ["ප්රවර්ගය"],
|
| | "sk": ["Kategória"],
|
| | "sl": ["Kategorija"],
|
| | "sq": ["Kategoria", "Kategori"],
|
| | "sr": ["Kategorija", "Категорија"],
|
| | "srn": ["Categorie", "Guru"],
|
| | "stq": ["Kategorie"],
|
| | "su": ["Kategori"],
|
| | "sv": ["Kategori"],
|
| | "sw": ["Jamii"],
|
| | "szl": ["Kategoryjo", "Kategoria"],
|
| | "ta": ["பகுப்பு"],
|
| | "tcy": ["ವರ್ಗೊ"],
|
| | "te": ["వర్గం"],
|
| | "tet": ["Kategoría", "Kategoria"],
|
| | "tg": ["Гурӯҳ"],
|
| | "th": ["หมวดหมู่"],
|
| | "ti": ["መደብ"],
|
| | "tk": ["Kategoriýa"],
|
| | "tl": ["Kategorya", "Kaurian"],
|
| | "tpi": ["Grup"],
|
| | "tr": ["Kategori", "KAT"],
|
| | "tt": ["Төркем", "Törkem", "Категория"],
|
| | "ty": ["Catégorie"],
|
| | "tyv": ["Аңгылал", "Категория"],
|
| | "udm": ["Категория"],
|
| | "ug": ["تۈر"],
|
| | "uk": ["Категория", "Категорія"],
|
| | "ur": ["زمرہ"],
|
| | "uz": ["Turkum", "Kategoriya"],
|
| | "vec": ["Categoria"],
|
| | "vep": ["Kategorii"],
|
| | "vi": ["Thể_loại", "Thể loại"],
|
| | "vls": ["Categorie"],
|
| | "vo": ["Klad"],
|
| | "wa": ["Categoreye"],
|
| | "war": ["Kaarangay"],
|
| | "wo": ["Wàll", "Catégorie"],
|
| | "wuu": ["分类"],
|
| | "xal": ["Янз", "Әәшл"],
|
| | "xmf": ["კატეგორია"],
|
| | "yi": ["קאטעגאריע", "קאַטעגאָריע"],
|
| | "yo": ["Ẹ̀ka"],
|
| | "za": ["分类"],
|
| | "zea": ["Categorie"],
|
| | "zh": ["分类", "分類", "CAT"],
|
| | "zh-classical": ["分類", "CAT"],
|
| | "zh-min-nan": ["分類", "Lūi-pia̍t"],
|
| | "zh-yue": ["分类", "分類", "类", "類"],
|
| | }
|
| |
|
| | _BASE_URL_TMPL = "https://dumps.wikimedia.org/{lang}wiki/{date}/"
|
| | _INFO_FILE = "dumpstatus.json"
|
| |
|
| |
|
| | _VERSION = datasets.Version("2.0.0", "")
|
| |
|
| |
|
| | class WikipediaConfig(datasets.BuilderConfig):
|
| | """BuilderConfig for Wikipedia."""
|
| |
|
| | def __init__(self, language=None, date=None, version=_VERSION, **kwargs):
|
| | """BuilderConfig for Wikipedia.
|
| |
|
| | Args:
|
| | language: string, the language code for the Wikipedia dump to use.
|
| | date: string, date of the Wikipedia dump in YYYYMMDD format. A list of
|
| | available dates can be found at https://dumps.wikimedia.org/enwiki/.
|
| | **kwargs: keyword arguments forwarded to super.
|
| | """
|
| | super().__init__(
|
| | name=f"{date}.{language}",
|
| | description=f"Wikipedia dataset for {language}, parsed from {date} dump.",
|
| | version=version,
|
| | **kwargs,
|
| | )
|
| | self.date = date
|
| | self.language = language
|
| |
|
| |
|
| | _DATE = "20230401"
|
| |
|
| |
|
| | class Wikipedia(datasets.GeneratorBasedBuilder):
|
| | """Wikipedia dataset."""
|
| |
|
| |
|
| | BUILDER_CONFIG_CLASS = WikipediaConfig
|
| | BUILDER_CONFIGS = [
|
| | WikipediaConfig(
|
| | language=lang,
|
| | date=_DATE,
|
| | )
|
| | for lang in WIKIPEDIA_LANGUAGES
|
| | ]
|
| |
|
| | def _info(self):
|
| | return datasets.DatasetInfo(
|
| | description=_DESCRIPTION,
|
| | features=datasets.Features(
|
| | {
|
| | "id": datasets.Value("string"),
|
| | "url": datasets.Value("string"),
|
| | "title": datasets.Value("string"),
|
| | "text": datasets.Value("string"),
|
| | }
|
| | ),
|
| |
|
| | supervised_keys=None,
|
| | homepage="https://dumps.wikimedia.org",
|
| | citation=_CITATION,
|
| | )
|
| |
|
| | def _split_generators(self, dl_manager):
|
| | def _base_url(lang):
|
| | return _BASE_URL_TMPL.format(lang=lang.replace("-", "_"), date=self.config.date)
|
| |
|
| | lang = self.config.language
|
| |
|
| | info_url = _base_url(lang) + _INFO_FILE
|
| |
|
| | downloaded_files = dl_manager.download_and_extract({"info": info_url})
|
| |
|
| | xml_urls = []
|
| | total_bytes = 0
|
| | with open(downloaded_files["info"], encoding="utf-8") as f:
|
| | dump_info = json.load(f)
|
| | multistream_dump_info = dump_info["jobs"]["articlesmultistreamdump"]
|
| | assert (
|
| | multistream_dump_info["status"] == "done"
|
| | ), "Specified dump (%s) multistream status is not 'done': %s" % (
|
| | _base_url(lang),
|
| | multistream_dump_info["status"],
|
| | )
|
| |
|
| | for fname, info in multistream_dump_info["files"].items():
|
| | if ".xml" not in fname:
|
| | continue
|
| | total_bytes += info["size"]
|
| | xml_urls.append(_base_url(lang) + fname)
|
| |
|
| |
|
| |
|
| | print("Dowloading Wikipedia dump")
|
| | downloaded_files = dl_manager.download({"xml": xml_urls})
|
| | print("Finished downloading Wikipedia dump")
|
| |
|
| | return [
|
| | datasets.SplitGenerator(
|
| | name=datasets.Split.TRAIN, gen_kwargs={"filepaths": downloaded_files["xml"], "language": lang}
|
| | )
|
| | ]
|
| |
|
| | def _generate_examples(self, filepaths, language, no_labels=False):
|
| |
|
| |
|
| | def _extract_content(filepath):
|
| | """Extracts article content from a single WikiMedia XML file."""
|
| | logger.info("generating examples from = %s", filepath)
|
| | content = []
|
| | f = bz2.BZ2File(filename=filepath)
|
| |
|
| | utf_f = codecs.getreader("utf-8")(f)
|
| | context = etree.iterparse(utf_f, events=("end",))
|
| | for unused_event, elem in context:
|
| | if not elem.tag.endswith("page"):
|
| | continue
|
| | namespace = elem.tag[:-4]
|
| | title = elem.find(f"./{namespace}title").text
|
| | ns = elem.find(f"./{namespace}ns").text
|
| | id_ = elem.find(f"./{namespace}id").text
|
| | red_ = elem.find(f"./{namespace}redirect")
|
| |
|
| |
|
| | if ns != "0":
|
| | elem.clear()
|
| | continue
|
| |
|
| | raw_content = elem.find(f"./{namespace}revision/{namespace}text").text
|
| | elem.clear()
|
| |
|
| |
|
| | if raw_content is None or red_ is not None:
|
| | continue
|
| |
|
| | content.append((id_, title, raw_content))
|
| | return content
|
| |
|
| | def _clean_content(inputs, language):
|
| | """Cleans raw wikicode to extract text."""
|
| | id_, title, raw_content = inputs
|
| | try:
|
| | text = _parse_and_clean_wikicode(raw_content, parser=mwparserfromhell, language=language)
|
| | except (mwparserfromhell.parser.ParserError) as e:
|
| | logger.error("mwparserfromhell ParseError: %s", e)
|
| | return
|
| |
|
| | if not text:
|
| | return
|
| |
|
| | url = _construct_url(title, language)
|
| |
|
| | return id_, {"id": id_, "url": url, "title": title, "text": text}
|
| |
|
| | print("Parsing and cleaning Wikipedia examples")
|
| | with Manager() as manager:
|
| | examples = manager.list()
|
| | processes = []
|
| | for filepath in filepaths:
|
| | def parse_and_clean(examples):
|
| | content = _extract_content(filepath)
|
| | for obj in tqdm(content):
|
| | examples.append(_clean_content(obj, language=language))
|
| | p = Process(target=parse_and_clean, args=(examples,))
|
| | p.start()
|
| | processes.append(p)
|
| |
|
| | for p in processes:
|
| | p.join()
|
| |
|
| | print("Parsed and cleaned Wikipedia examples")
|
| |
|
| | for example in examples:
|
| | if example is not None:
|
| | yield example
|
| |
|
| |
|
| | def _parse_and_clean_wikicode(raw_content, parser, language):
|
| | """Strips formatting and unwanted sections from raw page content."""
|
| | wikicode = parser.parse(raw_content)
|
| |
|
| |
|
| | re_rm_magic = re.compile("__[A-Z]*__", flags=re.UNICODE)
|
| |
|
| |
|
| | media_prefixes = "|".join(["File", "Image", "Media"] + MEDIA_ALIASES.get(language, []))
|
| | re_rm_wikilink = re.compile(f"^(?:{media_prefixes}):", flags=re.IGNORECASE | re.UNICODE)
|
| |
|
| | def rm_wikilink(obj):
|
| | return bool(re_rm_wikilink.match(str(obj.title)))
|
| |
|
| |
|
| | def rm_tag(obj):
|
| | return str(obj.tag) in {"ref", "table"}
|
| |
|
| |
|
| | cat_prefixes = "|".join(["Category"] + CAT_ALIASES.get(language, []))
|
| | re_clean_wikilink = re.compile(f"^(?:{cat_prefixes}):", flags=re.IGNORECASE | re.UNICODE)
|
| |
|
| | def is_category(obj):
|
| | return bool(re_clean_wikilink.match(str(obj.title)))
|
| |
|
| | def clean_wikilink(obj):
|
| | text = obj.__strip__()
|
| | text = re.sub(re_clean_wikilink, "", text)
|
| | obj.text = text
|
| |
|
| | def try_replace_obj(obj):
|
| | try:
|
| | clean_wikilink(obj)
|
| | except ValueError:
|
| |
|
| | pass
|
| |
|
| | def try_remove_obj(obj, section):
|
| | try:
|
| | section.remove(obj)
|
| | except ValueError:
|
| |
|
| | pass
|
| |
|
| | section_text = []
|
| |
|
| | hierarchical_headings = []
|
| | for section in wikicode.get_sections(flat=True, include_lead=True, include_headings=True):
|
| | section: Wikicode
|
| | for obj in section.ifilter_wikilinks(recursive=True):
|
| | if rm_wikilink(obj):
|
| | try_remove_obj(obj, section)
|
| | elif is_category(obj):
|
| | try_replace_obj(obj)
|
| | for obj in section.ifilter_tags(matches=rm_tag, recursive=True):
|
| | try_remove_obj(obj, section)
|
| |
|
| | striped_text = _custom_strip_code(section, hierarchical_headings).strip()
|
| | section_text.append(re.sub(re_rm_magic, "", striped_text))
|
| | return "\n\n".join(section_text)
|
| |
|
| |
|
| | def _construct_url(title, language):
|
| |
|
| | return f"https://{language}.wikipedia.org/wiki/{quote(title)}"
|
| |
|
| |
|
| | def _custom_strip_code(section: Wikicode, hierarchical_headings, normalize=True, collapse=True, keep_template_params=False):
|
| | kwargs = {
|
| | "normalize": normalize,
|
| | "collapse": collapse,
|
| | "keep_template_params": keep_template_params,
|
| | }
|
| |
|
| | nodes = []
|
| |
|
| | for node in section.nodes:
|
| | if isinstance(node, Heading):
|
| | while len(hierarchical_headings) + 1 < node.level:
|
| | hierarchical_headings.append('')
|
| | while len(hierarchical_headings) + 1 > node.level:
|
| | hierarchical_headings.pop()
|
| | hierarchical_headings.append(str(node.title))
|
| | stripped = 'Section::::' + ':'.join([h.strip() for h in hierarchical_headings if h.strip()])
|
| | else:
|
| | stripped = node.__strip__(**kwargs)
|
| | if stripped:
|
| | nodes.append(str(stripped))
|
| |
|
| | if collapse:
|
| | stripped = "".join(nodes).strip("\n")
|
| | while "\n\n\n" in stripped:
|
| | stripped = stripped.replace("\n\n\n", "\n\n")
|
| | return stripped
|
| | return "".join(nodes)
|
| |
|
