vLLM-Omni 推出，開源 AI 推論引擎新生態與 Ollama 的定位之爭vLLM 團隊釋出 vLLM-Omni。這對於手握 DGX 等高階算力的開發者來說，意味著以前需要串接 Whisper (STT) 和 TTS 的複雜語音互動流程，現在可以在一個模型內、以極低的延遲完成。