Datasets:
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.
Log in or Sign Up to review the conditions and access this dataset content.
Til-Corpus-Additions-v2
Қазақша мәтіндер топтамасы · Дополнение казахских текстов · Kazakh text addition
Қазақша
Til-Corpus-Additions-v2 — Til-Corpus қорын толықтыруға дайындалған, көлемі 6.09 ГБ қазақша мәтіндер жинағы. Репозиторийде кітап OCR мәтіндері, жазба материалдар және білім беру сайттарынан жиналған мәтіндер бір схемаға келтірілген.
Құрамы
Жинақта 249 файл бар. Дереккөздердегі өңделген жазбалардың premium және clean деңгейлері сақталған. Әр жолда мәтінмен бірге тіл, бағалау нәтижесі, санат, сапа деңгейі, дереккөз және мәтінді алу жолы беріледі.
| Өріс | Мазмұны |
|---|---|
text |
Құжаттың, беттің немесе транскрипттің мәтіні |
lang, score, category |
Модель-сарапшы берген белгілер |
tier |
premium немесе clean деңгейі |
source |
Мәтін алынған қор |
route |
ocr, web немесе asr өңдеу жолы |
Қалай жүктеуге болады
from datasets import load_dataset
ds = load_dataset(
"TilQazyna/Til-Corpus-Additions-v2",
split="train",
streaming=True,
)
premium = ds.filter(lambda row: row["tier"] == "premium")
print(next(iter(premium)))
streaming=True жазбаларды бүкіл жинақты алдын ала көшірмей оқуға мүмкіндік береді.
Қолжетімділік
Карточка мен файлдар тізімі баршаға көрінеді, ал файлдарды жүктеу үшін репозиторий бетіндегі «Request access» батырмасы арқылы өтінім жіберу қажет. Өтінімді TilQazyna командасы қарайды.
Байланысты репозиторийлер
Мәтіндер Til-Books-KazNEB, Til-Zharar-v2 және Til-Web-KK қорларынан алынған. Бұл жинақ Til-Corpus корпусын толықтырады.
Русский
Til-Corpus-Additions-v2 — коллекция казахских текстов объёмом 6.09 ГБ, подготовленная для пополнения Til-Corpus. В одной схеме собраны OCR-тексты книг, письменные материалы и тексты с образовательных сайтов.
Что внутри
В репозитории 249 файлов. Из обработанных частей источников отобраны записи уровней premium и clean. Каждая строка содержит текст, язык, оценку, категорию, уровень качества, источник и способ получения текста.
| Поле | Содержание |
|---|---|
text |
Текст документа, страницы или расшифровки |
lang, score, category |
Метки модели-судьи |
tier |
Уровень premium или clean |
source |
Исходная коллекция |
route |
Способ обработки: ocr, web или asr |
Как загрузить
from datasets import load_dataset
ds = load_dataset(
"TilQazyna/Til-Corpus-Additions-v2",
split="train",
streaming=True,
)
premium = ds.filter(lambda row: row["tier"] == "premium")
print(next(iter(premium)))
Параметр streaming=True читает записи без предварительной загрузки всей коллекции.
Доступ
Карточка и список файлов открыты всем. Для скачивания нужно отправить заявку кнопкой «Request access» на странице репозитория; решение принимает команда TilQazyna.
Связанные репозитории
Тексты поступили из Til-Books-KazNEB, Til-Zharar-v2 и Til-Web-KK. Коллекция служит дополнением к Til-Corpus.
English
Til-Corpus-Additions-v2 is a 6.09 GB collection of Kazakh text prepared as an addition to Til-Corpus. It brings book OCR, written materials, and educational web text into a shared schema for corpus assembly.
Contents
The repository contains 249 files. It retains the premium and clean rows from the processed portions of its sources. Each row records the text, language, judge score, category, quality tier, source collection, and acquisition route.
| Field | Contents |
|---|---|
text |
Document, page, or transcript text |
lang, score, category |
Labels assigned by the model judge |
tier |
The premium or clean quality tier |
source |
Source collection |
route |
Processing route: ocr, web, or asr |
Loading the data
from datasets import load_dataset
ds = load_dataset(
"TilQazyna/Til-Corpus-Additions-v2",
split="train",
streaming=True,
)
premium = ds.filter(lambda row: row["tier"] == "premium")
print(next(iter(premium)))
With streaming=True, the script reads records without downloading the complete collection first.
Access
The card and file listing are publicly visible. To download the files, submit the form behind the “Request access” button on the repository page; the TilQazyna team reviews each request.
Related repositories
The texts come from Til-Books-KazNEB, Til-Zharar-v2, and Til-Web-KK. This collection contributes additional material to Til-Corpus.
Лицензия · License: other · TilQazyna
- Downloads last month
- 8