前言
在做组内2030项目时,我具体做的一个工作是对大模型进行LoRA微调,在整个过程中有许多坑,其中有些值得记录的问题,于是便产生了这篇博客。
问题
我在得到微调好的模型后,需要对模型进行性能测评。在加载模型时,遇到如下报错
ValueError: Can't find 'adapter_config.json'
补充:报错截图忘截了,但关键报错信息如上。
解决方法
这个问题我找了几种解决方法都没用,看到朋友进行微调生成的模型能够成功评测,才明白原来是微调后的模型文件不完整的原因啊~T_T
下面是可以进行成功加载并进行评测的模型文件构成:
下面是我微调后不能成功加载的模型文件构成:
两相对比,发现缺少了文件名以adapter开头的两个文件。
在确保我和朋友代码一样的情况下,对比了我和他环境中安装的包,结果发现我的transformers版本号为4.29.2,他的transformers版本号为4.31.0
于是使用如下命令重新安装transformers,再次微调训练模型,可以发现模型文件便完整了。_
pip install transformers==4.31.0
1.本站内容仅供参考,不作为任何法律依据。用户在使用本站内容时,应自行判断其真实性、准确性和完整性,并承担相应风险。
2.本站部分内容来源于互联网,仅用于交流学习研究知识,若侵犯了您的合法权益,请及时邮件或站内私信与本站联系,我们将尽快予以处理。
3.本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
4.根据《计算机软件保护条例》第十七条规定“为了学习和研究软件内含的设计思想和原理,通过安装、显示、传输或者存储软件等方式使用软件的,可以不经软件著作权人许可,不向其支付报酬。”您需知晓本站所有内容资源均来源于网络,仅供用户交流学习与研究使用,版权归属原版权方所有,版权争议与本站无关,用户本人下载后不能用作商业或非法用途,需在24个小时之内从您的电脑中彻底删除上述内容,否则后果均由用户承担责任;如果您访问和下载此文件,表示您同意只将此文件用于参考、学习而非其他用途,否则一切后果请您自行承担,如果您喜欢该程序,请支持正版软件,购买注册,得到更好的正版服务。
5.本站是非经营性个人站点,所有软件信息均来自网络,所有资源仅供学习参考研究目的,并不贩卖软件,不存在任何商业目的及用途
暂无评论内容