AWS Machine Learning Blog· Joseph Cottingham·· 4 小时前AI 评分36
别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
Amazon SageMaker AI 上部署 TTS 时,自动扩缩容目标值往往靠猜,文章改用两项实测数据推算。方法是将 8200 万参数的 Kokoro-82M 以自定义容器部署在实时端点,实测单实例在 SLO 内的最大并发 Q_max 与一次完整扩容耗时 T_total,再通过算术推导扩容阈值、缩容阈值和两个冷却时间。
来源:AWS Machine Learning Blog · aws.amazon.com