AI Academy: Визуализация
Интерактивная среда для глубокого понимания LLM и векторных пространств.
Большие языковые модели (LLM)
Изучите основы работы больших языковых моделей и выбора подходящей модели для ваших задач
В этом разделе вы изучите принципы работы LLM, научитесь выбирать подходящие модели, управлять размером контекста, оптимизировать температуру и работать с инструментами.
Промпт-инженерия и эффективные взаимодействия
Освойте навыки составления эффективных запросов к языковым моделям
В этом разделе вы научитесь писать эффективные промпты, структурировать запросы для получения нужных результатов и использовать различные техники промпт-инженерии.
Тема 2.1: Основы промпт-инженерии
Принципы составления эффективных промптов, базовые компоненты хорошего промпта, типичные ошибки при составлении запросов.
Тема 2.2: Продвинутые техники
Few-shot промптинг, Chain-of-Thought, техника ReAct, промпты с саморефлексией и другие стратегии.
Тема 2.3: Структурированный вывод
Получение структурированного вывода (JSON, CSV), парсинг результатов, техники валидации данных.
Тема 2.4: Бизнес-шаблоны
Готовые шаблоны промптов для типичных бизнес-задач, адаптация под конкретные нужды, библиотеки промптов.
Векторные эмбеддинги
Изучите основы и применение векторных эмбеддингов в задачах ИИ
В этом разделе вы узнаете, что такое векторные эмбеддинги, как они работают и какие задачи можно решать с их помощью.
Векторы
Визуализация
💡 Подсказка: Слова, связанные по смыслу, находятся ближе друг к другу в векторном пространстве.
Результаты
3D Визуализация
2D Визуализация
Ближайшие пары
Матрица расстояний
Визуализация
Retrieval-Augmented Generation (RAG)
Изучите технологию дополнения языковых моделей внешними знаниями
В этом разделе вы научитесь создавать системы, которые улучшают качество ответов LLM, дополняя их данными из внешних источников.
Тема 4.1: Основы RAG
Принципы работы RAG, компоненты RAG-систем, сравнение с чистыми LLM.
Тема 4.2: Векторные хранилища
Строение векторных БД, индексация документов, разбиение на чанки, выбор хранилища.
Тема 4.3: Методы поиска
Семантический и гибридный поиск, ранжирование, многозапросный ретривер, HyDE.
Тема 4.4: Продвинутые техники
RAG-fusion, многоступенчатая генерация, интеграция с базами знаний, оценка качества.
Fine-tuning и адаптация моделей
Научитесь настраивать и адаптировать языковые модели под конкретные задачи
В этом разделе вы изучите методы дообучения и адаптации языковых моделей с использованием ваших данных.
Тема 5.1: Основы fine-tuning
Принципы дообучения, подготовка данных, разница между SFT и RLHF, метрики оценки.
Тема 5.2: Эффективное обучение
PEFT, LoRA, QLoRA, оптимизация параметров для малых вычислительных ресурсов.
Тема 5.3: Обратная связь
DPO, RLHF, модели обратной связи.
Тема 5.4: Практика
Пошаговое руководство по дообучению, типичные ошибки, оптимизация производительности.
Оценка и тестирование LLM
Изучите методы оценки качества и производительности языковых моделей
В этом разделе вы научитесь оценивать качество LLM, обнаруживать ограничения и проводить сравнительный анализ.
Тема 6.1: Основы оценки
Ключевые метрики, бенчмарки, автоматические и человеческие методы оценки.
Тема 6.2: Бенчмарки
MMLU, HumanEval, MT-Bench, GSM-8K, фреймворки для тестирования.
Тема 6.3: Модельная оценка
LLM как судьи, reward models, ограничения модельной оценки.
Тема 6.4: Безопасность
Red-teaming, галлюцинации, предвзятость, обнаружение уязвимостей.
Развертывание и интеграция LLM
Научитесь внедрять языковые модели в реальные приложения и сервисы
В этом разделе вы изучите методы развертывания, оптимизации производительности и масштабирования.
Тема 7.1: Основы развертывания
Архитектуры LLM-приложений, API vs локальное развертывание, обзор платформ.
Тема 7.2: Оптимизация инференса
Квантизация, Flash Attention, KV-кэширование, спекулятивное декодирование.
Тема 7.3: Масштабирование
Очереди, балансировка нагрузки, параллельное выполнение, управление GPU/CPU.
Тема 7.4: Интеграция
API и SDK для работы с LLM, интеграция с веб- и мобильными приложениями, чат-ботами.