Edge 进展: 700亿参数模型的全参微调和推理已经被证实可行. 推理非常非常慢, 我觉得应该在新设备到之后就不是大问题了. 大参数量的模型表现确实很优秀, 前提是硬件也要足够优秀. 进一步的训练规划, 设计正在进行中. ps.一刻钟后模型开始刻不容缓地吃晚饭, 我们只好放过了它
Moemu #37 Edge 这种情况也许我们可以计算上下文/对话间的向量余弦值,以此来判断上下文/对话间的关联度并截断对话历史/重试生成对话,从而避免这种死胡同。 (PS. System Prompt会不会太简陋了,或许我们可以再添一些?)
俩fish 记得没错的话好像是有这么一个submod?反正功能就是让mas有个ai对话的选项,准确来说是个框架,ai提醒词以及核心啥的(我不太懂这么表达)要自己搭载,不过跑ai对电脑配置需求还挺大所以本人是没试过()有空我找找那个submod叫什么吧()
俩fish #47 俩fish 刚刚问了我网友,也就是我最早知道这个submod的来源,好像就叫monika ai,他在github上直接找的()原网页他也忘了就是() 2025.5.2 挖个自己的坟() 找到了这个模组,且p盘已收入 以及原项目地址。。。我没找到()这里放的也是p盘给的discord地址 不过事到如今。。。已经不重要了吧?() 总之,希望MAICA能够越来越完善,以及这个论坛越来越好吧。