aiplatforms/wikipedia-RuDataset

AI Platforms Wikipedia RU Dataset

Большой русскоязычный энциклопедический корпус на основе материалов Wikipedia.

Датасет предназначен для экспериментов с continued pretraining, языковой адаптацией, retrieval-корпусами и оценкой локальных русскоязычных LLM.

Состав

Репозиторий содержит:

• wikipedia_rudataset.parquet — русскоязычный Wikipedia-корпус в Parquet.

Ориентировочный размер: миллионы текстовых записей (1M<n<10M).

Назначение

• continued pretraining / domain-adaptive pretraining для русского языка;
• подготовка retrieval/RAG корпуса;
• обучение моделей лучше работать с энциклопедическим стилем;
• построение baseline для локальных LLM и embedding/RAG экспериментов.

Формат и подготовка

Данные опубликованы в Parquet. Перед использованием рекомендуется:

• очистить служебные строки и слишком короткие/длинные фрагменты;
• дедуплицировать тексты;
• нарезать документы на чанки под контекстное окно модели;
• сохранить сведения об источниках, если корпус используется в RAG.

Лицензии

Материалы Wikipedia распространяются на условиях совместимых лицензий, включая CC BY-SA 3.0 и GFDL. При использовании датасета учитывайте требования атрибуции и share-alike.

Ограничения

• Энциклопедический корпус не является instruction/chat датасетом сам по себе.
• В данных могут быть устаревшие сведения и редакционные артефакты.
• Для SFT ассистента лучше смешивать этот корпус с диалоговыми и instruction-данными.

AI Platforms

AI Platforms внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-инфраструктуру.