支付宝申请训练大语言模型的方法及装置专利，降低异常训练轮次的影响
创始人
2025-05-28 21:09:55
0次
金融界2025年5月28日消息，国家知识产权局信息显示，支付宝（杭州）信息技术有限公司申请一项名为“训练大语言模型的方法及装置”的专利，公开号CN120046685A，申请日期为2025年02月。
专利摘要显示，本说明书实施例涉及训练大语言模型的方法及装置，方法包括：首先，通过将目标批次的训练样本输入所述大语言模型，确定目标训练轮次的过程数据，所述训练样本包括文本数据，所述过程数据包括训练损失值或各个参数的梯度值；然后，获取对目标训练轮次之前的连续N个训练轮次的过程数据进行统计得到的基准值；接下来，当所述目标训练轮次的过程数据与所述基准值之间的目标差异超过预设的第一阈值时，将所述目标训练轮次确定为异常训练轮次；最后，对所述异常训练轮次进行目标处理；所述目标处理包括跳过所述异常训练轮次，或者调整所述异常训练轮次中的超参数，以降低该异常训练轮次的影响。
天眼查资料显示，支付宝（杭州）信息技术有限公司，成立于2016年，位于杭州市，是一家以从事互联网和相关服务为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析，支付宝（杭州）信息技术有限公司共对外投资了12家企业，参与招投标项目41次，财产线索方面有商标信息1条，专利信息5000条，此外企业还拥有行政许可57个。
来源：金融界
相关内容
热门资讯
欧盟委员会公布对乌克兰900亿...
当地时间1月14日，欧盟委员会主席冯德莱恩、欧盟委员会负责经济与金融事务的委员东布罗夫斯基斯以及欧盟...
梅赛德斯 - 奔驰：目标股价从...
1月14日｜伯恩斯坦：将梅赛德斯-奔驰目标股价从60欧元上调至66欧元。 本文由 AI算法生成，仅作...
美国财政部：美国财长贝森特在与...
美国财政部：美国财长贝森特在与日本同行会晤中指出“汇率过度波动不可取”，并“强调了稳健制定和沟通货币...
央行加量续作6个月期买断式逆回...
央广网北京1月14日消息（记者 冯方）1月14日，央行发布公告称，为保持银行体系流动性充裕，央行将于...
日本央行行长：如果经济展望实现...
日本央行行长植田和男：如果经济和物价发展与预测相符，且工资和物价适度上涨，将继续加息。
英澳加等8国央行联名声援鲍威尔...
据路透社14日报道，美国联邦检察官对美联储主席鲍威尔展开刑事调查后，英国、加拿大等多国央行行长13日...
在岸人民币兑美元夜盘收盘报6....
每经AI快讯，1月15日，在岸人民币兑美元夜盘收盘报6.9739，较上一交易日夜盘收涨56个基点。 ...
深圳天居悦湾城市发展有限公司成...
天眼查显示，近日，深圳天居悦湾城市发展有限公司成立，法定代表人为胡淼源，注册资本5000万人民币，由...
中国建设银行（CICHF.US...
截至2026年1月14日（美国东部时间）收盘，中国建设银行(CICHF.US)报收于1.0美元/股，...
美国三季度经常帐 -2264亿...
美国三季度经常帐 -2264亿美元，预期 -2380亿美元，前值 -2513亿美元。