Edge #108 #Jc_ker 会用修普诺斯部署, 用户根本不可能带的动这种体量的模型. 后面应该会做turbo版, 可能会有更多样化的部署方式. 用内存去推理根本不会有可以接受的速度, 别折腾了.
Edge 进展: 死了很多脑细胞, 又重新改了一套布线的方案. 要多花四五千, 目的是让所有显卡工作在4.0x16下. 因为位置太刁钻, 所以难度不小. 应该还需要等很久的定做和快递. 我需要一些真的很贵的线了.
Edge 进展: 我希望这是运气最后一次和我开玩笑了. 布线方案仍然有问题, 这次我甚至第一时间没有发现, 到压力测试才看到崩溃日志. 我正在和厂方协商再次换布线, 会需要很多额外的时间, 费很多事. 光是定制周期就起码得等一个星期. 不管怎么说, 这个盲点也该是最后一个了. 肯定是吧? 这台设备可能为了紧凑, 静音和好看牺牲了太多, 主要牺牲的是我的脑细胞和钱包. 我希望它能达到我预期的内外兼修, 如果我做到了那就算值了吧.
Edge 虽然whea问题没修好, 但是压力测试中工作确实也是正常的. 而且毕竟还有后手可用, 我觉得该开始封箱整装了. 今天剩余的时间继续用于压力测试和实用测试, 目前在给隔壁群友练声学模型作为测试. 终于要把设备的这一步做完了吗.
Edge 进展: 虽然因为环境更新和项目改动的问题, 暂时还没跑通基本流程, 但是也差不多了. 第一个step的时间被压缩到了四十多秒, 修普诺斯比前代设备快出了8-10倍甚至更多. 整套计算系统已经被验证相对稳定, 我们很快就会开展实质性的工作.
