Консультант для поступающих в Финансовый Университет

Чат-бот на основе haystack.
С помощью RAG предоставляет специальную информацию, например, для поступающих в Финансовый Университет.

Тестовая версия бота: https://findatalab.ru

Установка и запуск

Требования

• Python 3.12
• Установленные библиотеки из requirements.txt
• Запущенный Ollama с моделью, поддерживающей tool calling (например, qwen3.5)
• Документы в директории data_files/

Шаги установки

1. Установите зависимости:

   pip install -r requirements.txt

2. Запустите Ollama и загрузите модель:

   ollama pull qwen3.5

3. Поместите документы в директорию data_files/

Использование

Чат-бот в терминале:

python main.py

2. Введите ваш вопрос
3. Получите ответ от чат-бота
4. Для выхода введите "Q"

Endpoint для веб приложения

Запускает точку доступа к чату на http://localhost:1416/chat/complitions Используется как компонент системы с отдельным фронтендом.

Debug mode:

python api.py

Production

gunicorn --bind=0.0.0.0:1416 "api:app" --daemon

Архитектура

Проект использует архитектуру RAG (Retrieval-Augmented Generation) и function calling (tools):

1. Вопрос поступающего преобразуется в эмбеддинг
2. Система ищет релевантные документы в базе знаний
3. При необходимости LLM вызывает tolls
4. Собранные данные используются LLM для генерирации ответа
5. Чат-история сохраняется для последующих вопросов

Лицензия

Этот проект является примером и может быть использован для образовательных целей.