name: Григорий
location: Москва, Россия 🇷🇺
role: AI Engineer & LLM Developer
focus: Local-first AI / Russian-language LLMs
philosophy: "Building things that think"Я занимаюсь проектированием автономных AI-систем, которые работают на потребительском железе — без облаков, без подписок и без зависимости от чужих API. Меня не устраивает модель «заплати за токен и молись на uptime», поэтому я строю альтернативу: полноценный локальный AI-стек, где пользователь сам контролирует модель, данные и стоимость. Это инженерная позиция, а не идеологическая — просто в долгосрочной перспективе локальный инференс всегда дешевле и стабильнее облачного.
Мой основной фокус — русскоязычные LLM: обучение, тонкая настройка, квантизация и инференс на архитектурах от llama.cpp до кастомных Transformer-декодеров. Я глубоко работаю с механизмами внимания (GQA, RoPE, MoE) и не боюсь спускаться на уровень математики и C++, когда PyTorch перестаёт справляться. Особый интерес представляют методы эффективного обучения — QLoRA, GaLore, DoRA — которые позволяют дообучать модели заметно большего размера, чем позволяет «наивная» оценка VRAM.
Помимо текстовых моделей я занимаюсь математическими нейросетями (Pythagoras — Transformer-Decoder для арифметических задач) и генеративным искусством (Repin — GAN-студия с glassmorphism UI). Все эти проекты объединены в экосистему Tolstoy AI Studio — мой долгосрочный конструкторский эксперимент по созданию суверенной AI-инфраструктуры. Я верю, что для русскоязычного AI-комьюнити критически важно иметь собственные инструменты, датасеты и модели, а не полагаться на перевод англоязычных решений.
В свободное время ковыряюсь в высшей математике, оптимизирую алгоритмы и пишу инженерные инструменты — от chaos-прокси до парсеров. Считаю, что хороший AI-engineer должен уметь и обучать сеть, и развернуть её в проде, и написать CLI, которым будет приятно пользоваться. Если вы разделяете этот подход — давайте знакомиться.
| 🔭 | Сейчас развиваю | Tolstoy AI Studio — комплексную экосистему для русскоязычных LLM |
| 🧠 | В фокусе | llama.cpp, MoE, GQA, RoPE, Transformer-архитектуры, GAN |
| 🎓 | Интересы | Высшая математика, проектирование AI-систем, оптимизация алгоритмов |
| ⚡ | Инструменты | WSL 2, CMake, OpenRouter API, Polza.ai |
| 🤝 | Открыт к | Коллаборациям по open-source AI, локальным LLM и dev-tools |
|
📄 Паперы
|
🛠 Технологии
|
|
📖 Книги
|
🎯 Практики
|
Автономная мультимодальная AI-экосистема — от генерации текста до математической логики и графики. Все компоненты работают локально на потребительском железе. Принципы: открытые форматы (GGUF), воспроизводимость обучения, нулевая зависимость от облачных API.
%%{init: {'theme': 'dark', 'themeVariables': { 'primaryColor': '#1f6feb', 'primaryTextColor': '#e6edf3', 'primaryBorderColor': '#58A6FF', 'lineColor': '#58A6FF', 'secondaryColor': '#161b22', 'tertiaryColor': '#0d1117', 'fontSize': '14px'}}}%%
flowchart TB
subgraph ECOSYSTEM["🏗️ TOLSTOY AI STUDIO"]
direction TB
T21["🚀 Tolstoy 2.1\nПлатформа генерации текста\nи обучения LLM"]
CLI["⚙️ Tolstoy-CLI v8.0.0\nФреймворк обучения и инференса\nрусских LLM"]
PYT["📐 Pythagoras-1.0\nMath-нейросеть\nTransformer-Decoder"]
REP["🎨 Repin 2.0\nGAN арт-студия\nGlassmorphism UI"]
end
subgraph TELEGRAM["🤖 TELEGRAM DEV-STACK"]
direction TB
TGV["🗄️ TG-Vault\nS3-прокси для хранилища\nповерх Telegram"]
TMK["🧪 TeleMock\nЛокальный эмулятор\nTelegram Bot API"]
TLM["📊 TeleMetric\nМониторинг для\nTelegram-ботов"]
TPC["🧠 TelePromptCache\nСемантический кэш\nLLM-ответов"]
MGO["💇 MasterGo\nCRM для бьюти-мастеров\nTelegram Mini App"]
end
T21 <-->|"🔗 API"| CLI
CLI -->|"📊 Модели"| PYT
CLI -->|"🖼️ Генерация"| REP
TMK -->|"🧪 Тестирование"| TLM
TGV -->|"📦 Хранение"| TMK
TPC -->|"⚡ Кэш"| MGO
style ECOSYSTEM fill:#0d1117,stroke:#58A6FF,stroke-width:2px,color:#e6edf3
style T21 fill:#161b22,stroke:#1f6feb,stroke-width:2px,color:#e6edf3
style CLI fill:#161b22,stroke:#238636,stroke-width:2px,color:#e6edf3
style PYT fill:#161b22,stroke:#a371f7,stroke-width:2px,color:#e6edf3
style REP fill:#161b22,stroke:#f78166,stroke-width:2px,color:#e6edf3
style TELEGRAM fill:#0d1117,stroke:#2CA5E0,stroke-width:2px,color:#e6edf3
style TGV fill:#161b22,stroke:#2CA5E0,stroke-width:2px,color:#e6edf3
style TMK fill:#161b22,stroke:#9B59B6,stroke-width:2px,color:#e6edf3
style TLM fill:#161b22,stroke:#E67E22,stroke-width:2px,color:#e6edf3
style TPC fill:#161b22,stroke:#27AE60,stroke-width:2px,color:#e6edf3
style MGO fill:#161b22,stroke:#E91E63,stroke-width:2px,color:#e6edf3
Возможности: end-to-end пайплайн от препроцессинга датасета до GGUF-квантизации, LoRA/QLoRA-адаптеры, мониторинг метрик в реальном времени, профилирование VRAM, шаблоны конфигов под популярные модели.
|
Возможности: мульти-модельный чат, сравнение ответов side-by-side, шаблоны промптов, dark/light темы, история диалогов, экспорт сессий в JSON, hot-swap моделей без перезапуска.
|
Возможности: пошаговое решение арифметических задач, кастомный токенизатор чисел, обучение на синтетическом датасете с генератором примеров, трейн/валидация с early stopping, интерпретация attention-карт.
|
Возможности: Progressive GAN, генерация в высоком разрешении, чекпойнты по эпохам, CLI-batch генерация, gallery-режим для просмотра результатов, экспорт в PNG/WebP.
|
Набор Go-библиотек и приложений для полного цикла разработки Telegram-ботов и Mini App: от эмуляции API в тестах до продакшн-мониторинга, семантического кэширования и бесконечного хранилища.
🗄️ TG-Vault
Превращает приватный Telegram-канал в безлимитное S3-хранилище. Динамический chunking файлов любого размера, потоковый стриминг, S3-совместимый слой для AWS CLI / Cyberduck, BBolt для метаданных, Docker-образ < 20 МБ.
|
🧪 TeleMock
Полная замена
|
Drop-in библиотека с нулевыми зависимостями. RPS через кольцевой буфер, EMA-латенси, счётчики ошибок/паник, метрики рантайма Go, дампы горутин через pprof — всё в Telegram-native UI с inline-кнопками.
|
Перехватывает запросы, ищет семантический дубликат в in-memory индексе и возвращает ответ без вызова LLM. Параллельный vector scan, L2-нормализация (DotProduct ~3× быстрее), LRU-вытеснение, multi-tenancy, pure-Go SQLite без CGO.
|
💇 MasterGo
Один Go-бинарник со встроенным Preact-фронтендом и SQLite. Онлайн-запись клиентов, сетка слотов, аналитика выручки, cron-напоминания, HMAC-валидация initData, Docker-образ ~8 МБ.
|
Инъекция задержек, сброс соединений и ограничение полосы без перезапуска — через REST API или CLI. Идеально для chaos-экспериментов в CI.
|
HTTP/2, ротация прокси, Playwright fallback, экспорт в CSV/XLSX. Plug-and-play архитектура.
|
Найди мёртвые проекты, очисти кэш зависимостей, освободи место. Анализирует
|
Эти принципы направляют каждое архитектурное решение в моих проектах:
|
🏠 Local-first. Модель и данные должны работать на машине пользователя. Облако — опция, не требование. Если инструмент ломается без интернета — это плохой инструмент. 🔓 Open formats. GGUF, ONNX, safetensors — никаких проприетарных контейнеров. Пользователь всегда может унести модель с собой и открыть в другом инструменте. 📉 Cost-aware. Каждый токен имеет цену. Локальный инференс = предсказуемая стоимость без сюрпризов в конце месяца и без rate-limit'ов. |
🔬 Reproducible. Один seed → один результат. Препроцессинг, токенизация, веса — всё версионируется и логируется. Эксперимент без логов — не эксперимент. 🇷🇺 Russian-native. Качество на русском — первоклассный гражданин, не afterthought. Токенизатор и датасет рассчитаны под кириллицу с самого начала. ⚙️ Pragmatic C++. Когда PyTorch медленный — спускаюсь на уровень C++/CUDA. Когда не медленный — не спускаюсь. Инженерия, а не религия. |
Открыт к коллаборациям по open-source AI, локальным LLM, dev-tools и инструментам для русскоязычного AI-комьюнити.
|
🤝 Help wanted
В репозиториях Tolstoy AI Studio размечаю issues |
💬 Обсудим LLM-обучение, квантизация, локальный инференс — пишите в Telegram, отвечаю всем без исключения. |
🚀 Менторство Готов подсказать новичкам, которые входят в локальные LLM и хотят собирать свои модели с нуля. |