微软崔宏禹:GPT-4以后,不建议再用微调进行特定领域的模型适配

1685177153487

鞭牛士 5月27日消息,据澎湃新闻报道,5月26日,微软(中国)有限公司创新技术总经理崔宏禹在上海举行的向星力·未来数据技术峰会(FDTC)上回应了当下一个广泛被提及的问题,即如何用自己的数据训练自己的模型,将私域数据与GPT的能力相融合。

崔宏禹解答道,“一般来说,我们推荐两种方式。一种是微调(在不改动预训练模型的基础上,在模型顶层增加分类器或一些特征映射,使微调后的模型能够更贴合实际使用场景),但在GPT-4以后,我们已经不建议或者已经不让大家使用微调的方式了。我们更推荐的是嵌入(将一个内容实体映射为低维向量,从而可以获得内容之间的相似度)的方式。”

本文内容(包含图片或视频在内)系用户自行上传分享,网站仅提供信息存储服务。如作品内容涉及版权问题,请及时与鱼捕头联系,我们将在第一时间删除。文章地址:https://www.yubutou.com/27247.html

(0)
鞭牛士的头像鞭牛士
上一篇 2023年5月28日 00:10:00
下一篇 2023年5月28日 00:10:39

相关推荐

发表回复

登录后才能评论

联系我们

17896001082

在线咨询: QQ交谈

邮件:2718562165@qq.com

工作时间:周一至周五,9:00-18:00,节假日休息