支付宝申请大语言模型的剪枝推理方法及装置专利，能够减少大语言模型推理时的计算量_黄金资讯

支付宝申请大语言模型的剪枝推理方法及装置专利，能够减少大语言模型推理时的计算量

创始人

2026-09-08 15:11:09

0次

国家知识产权局信息显示，支付宝（杭州）数字服务技术有限公司申请一项名为“大语言模型的剪枝推理方法及装置”的专利，公开号CN122713418A，申请日期为2026年6月。

专利摘要显示，本说明书实施例披露一种大语言模型的剪枝推理方法及装置。该方法包括通过所述大语言模型中的第一模型层执行以下步骤：先对接收的第一表征数据进行注意力处理，得到注意力矩阵；其中所述第一表征数据根据输入所述大语言模型的第一词元序列确定，该序列中的预定部分被划分为多个片段。再基于所述注意力矩阵，计算所述多个片段对应的多个重要性权重。接着，根据所述重要性权重，从所述多个片段中确定目标片段集，该集合满足：所对应重要性权重的和值大于预定的目标阈值，并且包含的片段数量最少。之后，将第二表征数据输入至下一模型层，所述第二表征数据中对应于所述预定部分的表征数据仅包含所述目标片段集对应的隐状态数据。

天眼查资料显示，支付宝（杭州）数字服务技术有限公司，成立于2016年，位于杭州市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析，支付宝（杭州）数字服务技术有限公司共对外投资了11家企业，参与招投标项目72次，财产线索方面有商标信息92条，专利信息10119条，此外企业还拥有行政许可60个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

来源：市场资讯

企业片段数据语言投资推理方法模型服务表征专利模型层杭州

上一篇：资金榜丨居同类基金首位！银行ETF易方达（516310）净流入4293.7万元

下一篇：半两财经｜警惕非法互联网贷款陷阱，北京金融监管局提示：消费者理性审慎办理借贷

支付宝申请大语言模型的剪枝推理方法及装置专利，能够减少大语言模型推理时的计算量

相关内容

热门资讯