支付宝申请训练大语言模型的方法及装置专利，降低异常训练轮次的影响
创始人
2025-05-28 21:09:55
0次
金融界2025年5月28日消息，国家知识产权局信息显示，支付宝（杭州）信息技术有限公司申请一项名为“训练大语言模型的方法及装置”的专利，公开号CN120046685A，申请日期为2025年02月。
专利摘要显示，本说明书实施例涉及训练大语言模型的方法及装置，方法包括：首先，通过将目标批次的训练样本输入所述大语言模型，确定目标训练轮次的过程数据，所述训练样本包括文本数据，所述过程数据包括训练损失值或各个参数的梯度值；然后，获取对目标训练轮次之前的连续N个训练轮次的过程数据进行统计得到的基准值；接下来，当所述目标训练轮次的过程数据与所述基准值之间的目标差异超过预设的第一阈值时，将所述目标训练轮次确定为异常训练轮次；最后，对所述异常训练轮次进行目标处理；所述目标处理包括跳过所述异常训练轮次，或者调整所述异常训练轮次中的超参数，以降低该异常训练轮次的影响。
天眼查资料显示，支付宝（杭州）信息技术有限公司，成立于2016年，位于杭州市，是一家以从事互联网和相关服务为主的企业。企业注册资本10000万人民币。通过天眼查大数据分析，支付宝（杭州）信息技术有限公司共对外投资了12家企业，参与招投标项目41次，财产线索方面有商标信息1条，专利信息5000条，此外企业还拥有行政许可57个。
来源：金融界
相关内容
热门资讯
比特币升破69000美元，日内...
每经AI快讯，3月4日，比特币升破69000美元，日内涨2.5%。 每日经济新闻
麦格理下调MongoDB目标价...
麦格理将MongoDB的目标价从385美元下调至300美元，维持“中性”评级。(格隆汇)
印度卢比兑美元跌至纪录新低
印度卢比触及纪录低点，下跌0.7%至92.0713/美元。 来源：金融界AI电报
韩国央行：若有必要，将在外汇市...
韩国央行3月4日称，若有必要，将在外汇市场采取行动，以防止羊群效应；金融市场波动可能会持续。
Agilent 安捷伦U204...
U2040 X系列宽动态范围功率传感器特性： 频率范围：10 MHz 33 GHz（取决于传感器） ...
美股跌！欧股跌！黄金白银，大跌...
当地时间周二，美国三大股指集体收跌，欧洲三大股指全线大跌。国际金银价格波动加剧，在欧洲交易时段跌幅不...
新质生产力赋能黄金内湾——《黄...
党的二十届三中全会提出“因地制宜发展新质生产力”，为新时代高质量发展指明方向。作为粤港澳大湾区的核心...
印尼盾兑美元汇率跌至16930...
印尼盾兑美元汇率跌至16930，创2月19日以来新低。 来源：金融界AI电报
深圳市易工品贸易有限公司成立，...
天眼查显示，近日，深圳市易工品贸易有限公司成立，法定代表人为吴剑，注册资本1000万人民币，由广州市...
深圳市克碳科技有限公司成立，注...
天眼查显示，近日，深圳市克碳科技有限公司成立，法定代表人为戴越，注册资本2000万人民币，由克拉玛依...