服务机器学习模型——架构,流处理引擎和框架指南

机器学习当然是当今软件工程中最热门的话题之一,但该领域的一个方面需要更多关注:如何为经过培训的模型提供服务。通常,两个不同的小组负责模型培训和模型服务。数据科学家经常介绍他们自己的机器学习工具,使软件工程师创建互补的模型服务框架以跟上步伐。这不是一个非常有效的系统。

该实际报告展示了一种更标准化的模型服务和模型评分方法。作为Lightbend首席架构师的作者Boris Lublinsky介绍了作为输入流处理的一部分实时服务模型的架构。这种方法还可以使数据科学团队更新模型,而无需重新启动现有应用程序。

使用Python,Beam,Flink,Spark,Kafka流和Akka代码示例(可在GitHub上获得),Lublinsky使用几种流行的流处理引擎和框架来检查构建此模型评分解决方案的不同方法。

你会探索:

使用Predictive Model Markup Language(PMML)和TensorFlow作为示例导出模型的方法
实施 Lightbend的 流处理引擎的架构:Spark,Flink和Beam
使用流处理库实现相同的解决方案:Kafka Streams和Akka Streams
用可查询状态监视体系结构的方法

详细请见PDF:https://info.lightbend.com/rs/558-NCX-702/images/ebook-serving-machine-learning-models.pdf

最后更新于 三月 19, 2021

心有多大,路就有多远