Я проектирую RAG-системы, когда языковая модель должна отвечать на основе документов и базы знаний. Я начинаю с источников, структуры данных и правил обновления материалов.
Затем я определяю индекс, способ поиска и передачу релевантного контекста в модель. Это позволяет оценивать ответы не по впечатлению, а по понятным сценариям и тестовым вопросам.
Для сценариев с самостоятельным выполнением задач посмотрите разработку AI-агентов или вернитесь к проектированию AI-систем.
Из чего я собираю RAG
Я выбираю компоненты по качеству данных, сценарию поиска и ограничениям проекта.
Данные и индексация
Я определяю источники, разбиение документов и правила обновления индекса.
Поиск и ответы
Я проектирую retrieval и передачу найденного контекста в языковую модель.
Что я учитываю в архитектуре
Я строю RAG не вокруг одной модели, а вокруг всего пути работы со знаниями.
- Я анализирую источники данных
- Я определяю стратегию индексации
- Я проектирую поиск контекста
- Я задаю критерии качества ответов
