Mystic

Mystic 提供一个完全托管的平台，可以直接在您自己的云账户中部署模型，优化成本和性能。

Mystic 的共享集群允许低成本按需访问 GPU，但性能取决于实时可用性。

Mystic 通过使用临时实例、在同一 GPU 上并行运行模型以及在不使用时自动缩减到 0 个 GPU 来优化成本。

Mystic 支持多种推理引擎，如 vLLM、TensorRT、Deepspeed 和 Exllama，允许您自定义选择。

Mystic 提供 API、CLI 和 Python SDK，让您无需 Kubernetes 或 DevOps 专业知识即可部署模型，并配有仪表板来管理部署。

Mystic 提供两种选项：直接在您自己的 AWS、Azure 或 GCP 云账户中部署模型，或使用 Mystic 的共享 GPU 集群，按需付费。

Mystic 通过使用临时实例、在同一 GPU 上并行运行模型以及在不使用时自动缩减到 0 个 GPU 来优化成本。

Mystic 支持多种推理引擎，如 vLLM、TensorRT、Deepspeed 和 Exllama，允许您自定义选择。

不需要，Mystic 提供 API、CLI 和 Python SDK，让您无需 Kubernetes 或 DevOps 专业知识即可部署模型。

您可以访问 Mystic 网站 https://www.mystic.ai，了解他们的部署选项和定价。