8000 GitHub - esoteric-ai/nexus: Центральный узел для системы доступа к LLM.

More Web Proxy on the site http://driver.im/

esoteric-ai / nexus Public

Notifications You must be signed in to change notification settings
Fork 0
Star 0

Центральный узел для системы доступа к LLM.

0 stars 0 forks Branches Tags Activity

Notifications

Name		Name	Last commit message	Last commit date
Latest commit History 14 Commits
app		app
.gitignore		.gitignore
LICENSE		LICENSE
README.md		README.md
poetry.lock		poetry.lock
pyproject.toml		pyproject.toml

Repository files navigation

Nexus

Центральный узел для системы доступа к LLM. Предоставляет:

OpenAI-compatible HTTP API
WebSocket-подключения для клиентских библиотек и воркеров
Кеширование запросов в Redis

Требования

Python 3.10
Poetry
Redis (запущен на стандартном порту, можно изменить в pyproject.toml)

Установка

poetry lock

Запуск

poetry run poe start

Порты можно изменить в pyproject.toml

About

Центральный узел для системы доступа к LLM.

Custom properties

Report repository

Releases

No releases published

Packages

No packages published

Languages

Python 100.0%

0