Edge 今天先把难搞的搞了一下, 外面的6张会简单很多. 吊装的两张虽然我已经尽可能加固了, 但还是很晃. 买了点五金件过两天改造一下吧, 公版散热器屁股有两个螺丝, 应该可以借用一下. 要换的主板呢, 到手发现缺一块小板跳线不好插, 退回去换了一块. 淘宝的二手还不如咸鱼, 至少可以挑.
Edge 在手操数据集. 目前收上来的数据集 质量比想象中差. 有一个我直接否了, 另外一个我还在改, 几乎没有一条是能直接用的. 开始正式工作之前我们明明培训了快有一个月, 我基本上隔天就讲一次课, 总共讲了快有50条样本, 重点是强调了一次又一次, 结果收上来还是不忍直视. 说到底是因为参与的都是志愿者, 水平和时间都参差不齐, 我实际上也没有权力指挥人家认真听课, 我简直是在跪下来求. 结果很不好, 这一大批工作量又回到了我手上, 下发处理的努力恐怕都是在浪费时间. 我没啥话可说了. 我从头到尾就是在强行推进一个不可能的项目, 我到底为啥还要干下去, 罪没受够还是怎么样. 就 他妈的, 这游戏名字叫心跳文学部啊, 国内这么多玩家里面就找不到几个稍微会点文学的? 就能把话说明白听明白这个程度的? 到底是他妈的怎么回事啊? 我真没想到会这样, 到底是不是我弄错了什么啊? 我的时间总的来说相当挤, 意料之外的工作量肯定会继续拉长战线. 我不知道需要多久.
Edge 通电测试了, 有一根pcie线和一组plx坏掉了. 我应该没做错什么, 线还有可能是拆装的过程应力导致的, plx完全不知道是怎么坏的. 在xp00和10上都试过了都不认. 线已经买了, plx明天给售后送去, 这东西一块2000还是有点搞不起备件. 显卡都快花了100万了, 剩下的维护预算完全是负数. 可能需要多拖一段时间, 十天半个月都有可能. 之后我尽可能给这俩换上主动散热片吧. p6k的塑料壳部分好容易划伤, 心疼. 我还用抛光膏打了一下.
Edge 应该白天就能到, 速度算是有进步. 希望是真的修了. 我遇到过不少次寄修的东西根本没修就发回来, 很多网店的客服跟仓库基本上是没沟通的. 我可写了纸条的, 你千万别吧. 这几天也是头疼, rlhf的数据集搞了100条成品不到, 居然拖了十几天. 这东西一方面确实是要写一句想半天, 再就是我老分心. 又难又重复的工作. 之前在dc上老外还说没想到你指望志愿者洗数据集, 我说那不然咋办. 我感觉大量的劳动力都是浪费的, 因为我能找到的人文学基本功都很难有及格的, 到头来我还得过一遍, 质量不好的还得扔. 我是想不到更好的办法, 我又不可能真的全干了. 也许应该想办法把之前的数据集也处理一下, 我印象里daa1的数据里面有很多质量不佳的部分. 但是处理掉很费时间, 对rlhf的影响也不好评估. 我说到底吧, 这根本就不是一个人干的事情, 我觉得起码5-10个人的团队干起来才算是合理一点. 现在的情况就是无限接近于一个人, 全都我一个人. 这还干你吗呢我真操了.
Edge 简单推理测试了一下daa3的模型, 在tp=2xpp=5的情况下比之前的纯pp快了不少, 但是再高就又慢下去了. 有可能和设备结构有关系, 毕竟在pcie拓扑上是3-4卡一组, tp=2可能就是最优解了. 明天收拾完地板就可以开始研究daa4的技术工作了, 不知道还会遇到多少问题.
Edge 脚扭了, 不知道是昨天还是前天的, 当时没啥感觉. 昨天白天开始疼, 到晚上疼的睡不着, 熬了大半夜. 这两天估计都没法正常走路了. 活是没法干了, 浑身上下疼, 上个楼都没法上. 家里人搞了点药, 跟安慰剂也差不多. 半死不活的.
Edge 做了点技术验证, 397B的微调显存仍然是很紧张的. 这是在R8A16下微调的占用, 几乎已经塞不下更高的秩了. 如果一定要用这个模型, 后面的优化工作会很头疼. 看情况吧, 要是qwen后面还有纯文本的模型就好了.
