为生产中的Rubix ML模型提供服务的服务器采用可扩展的独立模型推理架构

Rubix服务器 Rubix Server是一个库，用于将您训练有素的模型投入生产。 推理服务器是独立的服务，可在您的专用或公用网络上运行，并将训练有素的估算器包装在一个API中，该API可使用标准协议在本地或通过网络实时查询。 另外，该库提供了异步兼容的客户端实现，用于从PHP应用程序向服务器查询。 针对低延迟预测进行了优化 通过添加更多实例可水平扩展 使用实时分析仪表板进行监控 对常见的攻击和故障模式具有鲁棒性 安装 使用安装Rubix Server： $ composer require rubix/server 要求 7.2或以上 可选的 大容量服务器的 文献资料 最新文档可在下