分批处理机器学习模型的输入

授权

摘要

方法、系统和装置，包括在计算机存储介质上编码的计算机程序，用于分批处理机器学习模型的输入。所述方法中的一种包括：接收请求流，每个请求识别相应的输入以供由第一机器学习模型处理；将来自每个请求的所述相应的输入添加到输入的第一队列以供由所述第一机器学习模型处理；在第一时间确定到所述第一时间时为止所述第一队列中的输入的计数等于或者超过最大批大小，并且作为响应：从到所述第一时间时为止所述队列中的所述输入生成第一成批输入，使得所述第一成批输入中的输入的计数等于所述最大批大小，并且提供所述第一成批输入以供由所述第一机器学习模型处理。

基本信息

专利标题：

分批处理机器学习模型的输入

专利标题（英）：

暂无

公开（公告）号：

CN108885571A

申请号：

CN201680084418.2

公开（公告）日：

2018-11-23

申请日：

2016-12-21

授权号：

CN108885571B

授权日：

2022-04-15

发明人：

诺亚·菲德尔克里斯托弗·奥尔斯顿杰里迈亚·哈姆森

申请人：

谷歌有限责任公司

申请人地址：

美国加利福尼亚州

代理机构：

中原信达知识产权代理有限责任公司

代理人：

周亚荣

优先权：

CN201680084418.2

主分类号：

G06F9/54

IPC分类号：

G06F9/54