# Xorbits Inference: 모델 서빙을 쉽게 🤖

Xinference Enterprise · Self-Hosting · 문서

[![PyPI Latest Release](https://img.shields.io/pypi/v/xinference.svg?style=for-the-badge)](https://pypi.org/project/xinference/) [![License](https://img.shields.io/pypi/l/xinference.svg?style=for-the-badge)](https://github.com/xorbitsai/inference/blob/main/LICENSE) [![Build Status](https://img.shields.io/github/actions/workflow/status/xorbitsai/inference/python.yaml?branch=main&style=for-the-badge&label=GITHUB%20ACTIONS&logo=github)](https://actions-badge.atrox.dev/xorbitsai/inference/goto?ref=main) [![Docker Pulls](https://img.shields.io/docker/pulls/xprobe/xinference?style=for-the-badge&logo=docker)](https://hub.docker.com/r/xprobe/xinference) [![Discord](https://img.shields.io/badge/join_Discord-5462eb.svg?logo=discord&style=for-the-badge&logoColor=%23f5f5f5)](https://discord.gg/Xw9tszSkr5) [![Telegram](https://img.shields.io/badge/join_Telegram-26A5E4.svg?logo=telegram&style=for-the-badge&logoColor=white)](https://t.me/+nCNpwmySwk9iYmI1) [![Twitter](https://img.shields.io/twitter/follow/xorbitsio?logo=x&style=for-the-badge)](https://twitter.com/xorbitsio)

Xorbits Inference (Xinference)는 언어, 음성 인식, 멀티모달 모델을 위한 강력하고 다목적의 라이브러리입니다. Xinference를 사용하면 단 한 줄의 명령으로 자체 모델이나 통합된 최첨단 모델을 배포하고 서비스로 제공할 수 있습니다. 연구자, 개발자, 데이터 과학자 모두 최신 AI 모델의 기능을 최대한 활용할 수 있습니다.

👉 우리 Discord 커뮤니티에 참여하세요! · Telegram 그룹에 참여하기

## 🔥 주요 하이라이트 ### 프레임워크 개선 - 에이전트 네이티브 배포: Xinference는 [Xagent](https://github.com/xorbitsai/xagent)와 통합되어 동적 플래닝, 도구 사용 및 자율적 다단계 추론을 지원하며 정적 파이프라인의 한계를 넘어섭니다. - 자동 배칭: 여러 동시 요청을 자동으로 묶어 처리량을 크게 향상시킵니다. : [#4197](https://github.com/xorbitsai/inference/pull/4197) - [Xllamacpp](https://github.com/xorbitsai/xllamacpp): Xinference 팀이 관리하는 새로운 llama.cpp Python 바인딩은 연속 배칭을 지원하며 프로덕션에 더 적합합니다. : [#2997](https://github.com/xorbitsai/inference/pull/2997) - 분산 추론: 모델을 여러 워커에 걸쳐 실행할 수 있습니다: [#2877](https://github.com/xorbitsai/inference/pull/2877) - vLLM 개선: 여러 복제본 간 KV 캐시 공유: [#2732](https://github.com/xorbitsai/inference/pull/2732) ### 신규 모델 - VibeThinker 시리즈 통합 ([1.5B](https://huggingface.co/WeiboAI/VibeThinker-1.5B), [3B](https://huggingface.co/WeiboAI/VibeThinker-3B)): [#5085](https://github.com/xorbitsai/inference/pull/5085) - Nex-N2 시리즈 통합 ([mini](https://huggingface.co/nex-agi/Nex-N2-mini), [Pro](https://huggingface.co/nex-agi/Nex-N2-Pro), [Pro-fp8](https://huggingface.co/nex-agi/Nex-N2-Pro-fp8)): [#5094](https://github.com/xorbitsai/inference/pull/5094) - [Unlimited-OCR](https://huggingface.co/baidu/Unlimited-OCR) 통합: [#5103](https://github.com/xorbitsai/inference/pull/5103) - [Ornith-1.0-35B](https://huggingface.co/deepreinforce-ai/Ornith-1.0-35B) 통합: [#5119](https://github.com/xorbitsai/inference/pull/5119) - [MiniCPM5-1B](https://huggingface.co/openbmb/MiniCPM5-1B) 통합: [#5010](https://github.com/xorbitsai/inference/pull/5010) - jina-embeddings-v5 시리즈 통합 ([text-nano](https://huggingface.co/jinaai/jina-embeddings-v5-text-nano), [text-small](https://huggingface.co/jinaai/jina-embeddings-v5-text-small), [omni-nano](https://huggingface.co/jinaai/jina-embeddings-v5-omni-nano), [omni-small](https://huggingface.co/jinaai/jina-embeddings-v5-omni-small)): [#5018](https://github.com/xorbitsai/inference/pull/5018) - MiniCPM-V-4.6 시리즈 통합 ([MiniCPM-V-4.6](https://huggingface.co/openbmb/MiniCPM-V-4.6), [MiniCPM-V-4.6-Thinking](https://huggingface.co/openbmb/MiniCPM-V-4.6-Thinking)): [#5025](https://github.com/xorbitsai/inference/pull/5025) - Tencent Hy-MT2 시리즈 통합 ([1.8B](https://huggingface.co/tencent/Hy-MT2-1.8B), [7B](https://huggingface.co/tencent/Hy-MT2-7B), [30B-A3B](https://huggingface.co/tencent/Hy-MT2-30B-A3B)): [#5029](https://github.com/xorbitsai/inference/pull/5029) ### 통합 - [Xagent](https://github.com/xorbitsai/xagent): 플래닝, 메모리, 툴 통합을 제공하는 엔터프라이즈 에이전트 플랫폼. - [Dify](https://docs.dify.ai/advanced/model-configuration/xinference): 시각화와 제어가 가능한 LLMOps 플랫폼. - [FastGPT](https://github.com/labring/FastGPT): 데이터 처리와 모델 호출을 위한 LLM 기반 지식 플랫폼. - [RAGFlow](https://github.com/infiniflow/ragflow): 문서의 심층 이해를 위한 오픈소스 RAG 엔진. - [MaxKB](https://github.com/1Panel-dev/MaxKB): RAG 통합형 오픈소스 지식베이스 어시스턴트. ## 주요 기능 🌟 모델 배포 간소화: LLM, 음성 인식, 멀티모달 모델의 배포를 단순화합니다. 실험용 및 프로덕션 모델을 단일 명령으로 설정하고 배포할 수 있습니다. ⚡️ 최첨단 모델에 대한 쉬운 접근성: 통합된 최신 모델을 단 한 명령으로 시험해볼 수 있습니다. Xinference는 오픈소스 최첨단 모델에 대한 접근을 제공합니다. 🖥 이기종 하드웨어 지원: GPU와 CPU를 효율적으로 활용(예: [ggml](https://github.com/ggerganov/ggml))하여 추론 속도를 높입니다. ⚙️ 유연한 API 및 인터페이스: OpenAI 호환 RESTful API(함수 호출 포함), RPC, CLI, Web UI 등 다양한 인터페이스를 제공합니다. 🌐 분산 배포: 여러 장치와 머신에 걸친 분산 추론을 용이하게 합니다. 🔌 서드파티 통합: [LangChain](https://python.langchain.com/docs/integrations/providers/xinference), [LlamaIndex], [Dify], [Chatbox] 등과의 통합을 지원합니다. ## 왜 Xinference인가 | 기능 | Xinference | FastChat | OpenLLM | RayLLM | |-------------------------------------------|------------|----------|---------|--------| | OpenAI 호환 RESTful API | ✅ | ✅ | ✅ | ✅ | | vLLM 통합 | ✅ | ✅ | ✅ | ✅ | | 다양한 추론 엔진(GGML, TensorRT) | ✅ | ❌ | ✅ | ✅ | | 다양한 플랫폼(CPU, Metal) | ✅ | ✅ | ❌ | ❌ | | 멀티노드 클러스터 배포 | ✅ | ❌ | ❌ | ✅ | | 이미지 모델(텍스트→이미지) | ✅ | ✅ | ❌ | ❌ | | 텍스트 임베딩 모델 | ✅ | ❌ | ❌ | ❌ | | 멀티모달 모델 | ✅ | ❌ | ❌ | ❌ | | 음성 모델 | ✅ | ❌ | ❌ | ❌ | | OpenAI 기능(함수 호출) | ✅ | ❌ | ❌ | ❌ | ## Xinference 사용법 - **Self-Hosting Xinference Community Edition** 스타터 가이드를 따라 로컬에서 Xinference를 시작하세요. 자세한 내용은 문서(https://inference.readthedocs.io/) 참조. - **기업용 Xinference** 엔터프라이즈 기능이 필요하면 다음으로 문의하세요: mailto:info@xinference.co?subject=[GitHub]Business%20License%20Inquiry ## 최신 상태 유지 GitHub에서 Xinference에 별을 눌러 릴리스 알림을 받으세요. ![star-us](../assets/stay_ahead.gif) ## 시작하기 * [문서](https://inference.readthedocs.io/en/latest/index.html) * [내장 모델](https://inference.readthedocs.io/en/latest/models/builtin/index.html) * [커스텀 모델](https://inference.readthedocs.io/en/latest/models/custom.html) * [배포 문서](https://inference.readthedocs.io/en/latest/getting_started/using_xinference.html) ### Docker NVIDIA GPU 사용자는 [Xinference Docker 이미지](https://inference.readthedocs.io/en/latest/getting_started/using_docker_image.html)를 사용할 수 있습니다. 설치 전에 Docker 및 CUDA가 설치되어 있는지 확인하세요. ```bash docker run --name xinference -d -p 9997:9997 -e XINFERENCE_HOME=/data -v :/data --gpus all xprobe/xinference:latest xinference-local -H 0.0.0.0 ``` ### K8s (Helm) GPU가 활성화된 Kubernetes 클러스터에서 다음과 같이 설치하세요: ``` # 레포지토리 추가 helm repo add xinference https://xorbitsai.github.io/xinference-helm-charts # 인덱스 업데이트 및 버전 확인 helm repo update xinference helm search repo xinference/xinference --devel --versions # Xinference 설치 helm install xinference xinference/xinference -n xinference --version 0.0.1-v ``` 자세한 K8s 옵션은 문서를 참조하세요. ### Quickstart pip으로 Xinference를 설치합니다: ```bash pip install "xinference[all]" ``` 로컬 인스턴스를 시작하려면: ```bash $ xinference-local ``` 그런 다음 Web UI, cURL, CLI 또는 Python 클라이언트를 통해 사용해보세요. ![web UI](../assets/screenshot.png) ## 기여하기 | 플랫폼 | 목적 | |---------------------------------------------------------------------------|---------------------------------------| | [Github Issues](https://github.com/xorbitsai/inference/issues) | 버그 리포트 및 기능 요청 | | [Discord](https://discord.gg/Xw9tszSkr5) | 다른 사용자와 협업 | | [Telegram](https://t.me/+nCNpwmySwk9iYmI1) | 커뮤니티 토론 | | [Twitter](https://twitter.com/xorbitsio) | 공지 및 업데이트 | ## 인용 이 프로젝트가 유용했다면 다음과 같이 인용해 주세요: ```bibtex @inproceedings{lu2024xinference, title = "Xinference: Making Large Model Serving Easy", author = "Lu, Weizheng and Xiong, Lingfeng and Zhang, Feng and Qin, Xuye and Chen, Yueguo", booktitle = "Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing: System Demonstrations", month = nov, year = "2024", address = "Miami, Florida, USA", publisher = "Association for Computational Linguistics", url = "https://aclanthology.org/2024.emnlp-demo.30", pages = "291--300", } ``` ## 기여자

## 스타 히스토리 [![Star History Chart](https://api.star-history.com/svg?repos=xorbitsai/inference&type=Date)](https://star-history.com/#xorbitsai/inference&Date)