金融界2025年6月4日消息,国家知识产权局信息显示,支付宝(杭州)信息技术有限公司申请一项名为“大模型推理加速的方法和系统”的专利,公开号CN120087476A,申请日期为2025年02月。
专利摘要显示,本说明书提供一种大模型推理加速的方法和系统,其中,大模型的推理过程包括多个阶段,不同阶段对应不同的量化模型,量化模型为对预先训练好的原始大模型进行量化处理得到的。该方法包括:获得推理请求,推理请求用于请求基于原始大模型对待推理信息进行推理,基于各阶段各自对应的量化模型对待推理信息进行推理,得到并输出目标推理结果。其中,多个阶段包括Prefill阶段和Decode阶段,Prefill阶段对应的量化模型为经第一量化方案得到的第一量化模型,Decode阶段对应的量化模型为经第二量化方案的第二量化模型,且第一量化方案和第二量化方案分别是基于相应阶段对应的推理需求确定的。
天眼查资料显示,支付宝(杭州)信息技术有限公司,成立于2016年,位于杭州市,是一家以从事互联网和相关服务为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析,支付宝(杭州)信息技术有限公司共对外投资了12家企业,参与招投标项目41次,财产线索方面有商标信息1条,专利信息5000条,此外企业还拥有行政许可57个。
来源:金融界