dimitriev.gs/llm-agent-backend
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
60 Commits 1 Branch 0 Tags 2.4 MiB
Python 98.2%
Batchfile 1.8%
dev
Go to file
dimitrievgs 52d5196a48 Change provider to polza.ai
2026-07-13 00:14:48 +03:00
.vscode Add routerai models 2026-07-08 23:36:41 +03:00
app Change provider to polza.ai 2026-07-13 00:14:48 +03:00
build Add build scripts 2026-06-06 19:29:23 +03:00
docs Add build scripts 2026-06-06 19:29:23 +03:00
.gitignore Add build scripts 2026-06-06 19:29:23 +03:00
build.bat Add build scripts 2026-06-06 19:29:23 +03:00
Compile.md Add Compile.md 2026-06-06 23:44:45 +03:00
README.md Debug faction turns 2026-07-06 01:49:31 +03:00
requirements.txt Change provider to polza.ai 2026-07-13 00:14:48 +03:00
run-llm-backend.bat Add build scripts 2026-06-06 19:29:23 +03:00
run-transcribe-parsing.py basic transcribe for vosk 2026-04-30 12:07:29 +03:00
run-transcribe-vosk.py basic transcribe for vosk 2026-04-30 12:07:29 +03:00

README.md

LLM Agent Backend

Бэкенд-сервер на Python для обеспечения работы интеллектуального агента в Obsidian. Использует LangGraph для управления логикой рассуждений и Flask для взаимодействия с плагином.

Структура проекта

├── llm-agent-backend/ # Корневая директория бэкенда │ ├── app/ # Исходный код приложения │ │ ├── api.py # Flask сервер, HTTP эндпоинты и WebSocket (SocketIO) │ │ ├── run.py # Точка входа для запуска приложения │ │ ├── workflows.py # Определение графов LangGraph и логики потоков │ │ ├── react_agent.py # Реализация ReAct (Reasoning and Acting) агента │ │ ├── llm_client.py # Клиент для работы с моделями (OpenAI, Google, Mistral) │ │ ├── mcp_tools.py # Интеграция с Model Context Protocol (MCP) инструментами │ │ ├── graph_history_manager.py # Управление историей диалогов и состоянием графов в SQLite │ │ ├── voice_service.py # Сервис распознавания речи (Vosk) │ │ ├── title_generator.py # Генерация названий для чатов на основе контекста │ │ ├── heartbeat_monitor.py # Мониторинг активности и состояния подключения │ │ ├── models.py # Описание структур данных и схем │ │ └── services.py # Вспомогательные сервисы │ ├── docs/ # Техническая документация и скриншоты настроек │ ├── env/ # Виртуальное окружение Python (venv) │ ├── build.bat # Скрипт сборки проекта │ ├── requirements.txt # Список зависимостей Python │ ├── run-llm-backend.bat # Батник для быстрого запуска сервера │ └── graph_history.db # БД SQLite с историей графов и сообщений

Основные технологии

  • Python 3.11+
  • LangChain / LangGraph: Управление состоянием агента и цепочками рассуждений.
  • Flask / Flask-SocketIO: API и real-time взаимодействие с Obsidian.
  • Vosk / SoundDevice: Локальное распознавание речи.
  • SQLite: Хранение истории взаимодействий.

Установка

  1. Убедитесь, что установлен Python 3.11.
  2. Создайте виртуальное окружение в папке env: 
    python -m venv env
  3. Активируйте окружение и установите зависимости: 
    env\Scripts\activate
pip install -r requirements.txt

Запуск

Вариант 1: Через батник (рекомендуется)

Запустите run-llm-backend.bat из корня проекта.

Вариант 2: Вручную из терминала

python app/run.py

Сервер будет доступен по адресу: http://localhost:5000

Ключевые возможности

  • Двустороннее общение: Агент может инициировать запросы к Obsidian (через API плагина).
  • Инструменты (Tools): Поддержка вызова функций через MCP и кастомные инструменты.
  • Память: Сохранение состояния графов, что позволяет продолжать диалог с любого места.
  • Голосовое управление: Возможность диктовать команды напрямую в микрофон с транскрибацией в реальном времени.