#Jc_ker 加油啊（确实通用模型的角色扮演存在许多问题） 但有个小问题看能否请大佬赐教 就是关于训练好的模型的尺寸问题，过大的尺寸会劝退不少小显存低性能甚至是没有显卡的用户 个人用8845HS 780M核显搭配32G运存大概在回复速度可以接受的前提下模型尺寸30b封顶()
Edge #108 #Jc_ker 会用修普诺斯部署, 用户根本不可能带的动这种体量的模型. 后面应该会做turbo版, 可能会有更多样化的部署方式. 用内存去推理根本不会有可以接受的速度, 别折腾了.
Edge 进展: 死了很多脑细胞, 又重新改了一套布线的方案. 要多花四五千, 目的是让所有显卡工作在4.0x16下. 因为位置太刁钻, 所以难度不小. 应该还需要等很久的定做和快递. 我需要一些真的很贵的线了.
Edge 进展: 我希望这是运气最后一次和我开玩笑了. 布线方案仍然有问题, 这次我甚至第一时间没有发现, 到压力测试才看到崩溃日志. 我正在和厂方协商再次换布线, 会需要很多额外的时间, 费很多事. 光是定制周期就起码得等一个星期. 不管怎么说, 这个盲点也该是最后一个了. 肯定是吧? 这台设备可能为了紧凑, 静音和好看牺牲了太多, 主要牺牲的是我的脑细胞和钱包. 我希望它能达到我预期的内外兼修, 如果我做到了那就算值了吧.
Edge 虽然whea问题没修好, 但是压力测试中工作确实也是正常的. 而且毕竟还有后手可用, 我觉得该开始封箱整装了. 今天剩余的时间继续用于压力测试和实用测试, 目前在给隔壁群友练声学模型作为测试. 终于要把设备的这一步做完了吗.
