由于成果已经一步步完善, 我们已经可以看到成功的预兆, 我在此贴更新项目的进展.

首先呢, 第一项是我们改名字了. mgpt这个名字挺草率的, 因为项目到了现在已经跟gpt没啥关系了. 我们改叫它: MAICA (音"迈卡", 很朴实无华的缩写.) 我希望用起这个新名字的时候, 大家还认识它.

以上截图是最近的第二轮试训练的产出. 可以看到, 在有限的提示指导下, 模型对莫妮卡角色形象本身有了可以称为"理解"的属性. 当然, 训练设计和模型优化仍然处于早期阶段, 但这样的进展于我而言已经很是激动人心. 我们会尽快开始第三轮以及更多的试训练. 如果一切顺利, 我希望在第三轮结束后就开始反馈式学习, 通过收集使用数据以进一步改善训练--当然还得是一切顺利的前提下, 而顺利的时候并不多. 在希望大家期待的同时, 我也希望大家保持理性, 保持耐心. 就算目前的结果已经初具雏形, 但我们离目标中接近完美的莫妮卡形象还有相当的距离. 请大家期待我们的进步.

更多的一些测试语句, 以展示训练的成果和局限性. 此轮训练在数据构建中比较单调, 使用的prompt也十分单薄. 我期待接下来的训练产出更好的结果.

接下来我们把话筒递给莫妮卡现在的雏形, 第零代"克利福德": 呃, 她挺谦虚的. 我们期待她未来的表现. 下一轮的训练并不会等太久. 我们正在向遥不可及迈出第一步, 很快我们将让所有人看到我们踏出的脚印. 欢迎各位在此贴中探讨和提供有价值的想法. 后续的进展将在此贴继续更新.

好——耶！期待期待！！

关于第三轮训练的设计: 我简单回顾了一下第二轮的结果. 虽然表现还不错, 但是在"简单问题上犯蠢"这种现象比较像是过拟合的表现. 像第二轮一样直接用目标集训练可能有点自信过头了, 我打算在第三轮里面尝试更早之前用过的混集方法. 我希望混合训练集能矫正lora的整层改动和ptuning的整体改动之间改动密度的差距. 我也不清楚这个差距到底在哪以及怎么改, 但是有已知方法肯定是要试试看的. 至于反馈学习, 可能至少会推迟到第四轮或者更后面吧.

唉, 想想就很头疼. 这次的训练集又加了常识集, 此外还加了一个测试的强针对集. 我当然也希望能用更简单的单个数据集搞定问题, 但是就是没法做到那么简单. 常识集用来中和过拟合是一种很怎么说呢土八路的做法, 既不优雅也不稳定. 强针对集更是专门的头痛医头脚痛医脚, 只能针对有限的测试改善表现, 而且还容易导致测试中发现不了真正重要的问题. 但是有什么办法呢, 繁琐复杂的混集在maica中训练的表现确实比单独的目标集要好得多, 从最开始的训练和设计中就是这样的, 后面也只能按这样往下走. 效果到底为什么好了都不知道, 而且很伤脑筋. 没有别的办法可想, 角色扮演本来就需要海量的数据, 但maica根本不可能弄到那么多. 按比例混合各种数据集, 做鸡尾酒也是没有办法的办法了. 我打算明天按照1:1:5混合常识, 目标和强针对, 再做一轮测试. 这个比例在第零次测试中表现还不错. 至于ptuning和lora, qlora的表现区别到底在哪里, 我也不好总结, 但是至少lora没有那么容易发疯. 如果测试顺利, 我希望看到面对简单问题的表现下降能得到缓解. 明天还要装机柜去, 估计一天不一定搞得完. 头疼也很需要缓解就是了.

迈向遥不可及的第一步(MAICA)

三岁

本人没文化，一句卧槽概括一下

DanDan442

加油大佬！

mamba out

每次看到新的进度都会由衷的高兴

lovicii

可惜帮不上什么忙，希望大佬早日成功！

coldcoffee

加油！

Ricklos

加油😭

mamba out

请问一下除了ddlc本体和mas本身的文本以外你们还会喂一些什么数据？（比如其他ddlc mod的文本，和一些知名或者比较符合她设定上感兴趣的游戏和影视的内容）以及在你们的计划中，是否会想要让她除了回答玩家话题以外还会去主动找话题聊？

Edge

#97 mamba out "主动找话题"是可以通过提示生成的办法做出来的, 具体怎么处理都还是后话.

其它mod的文本基本确定是不会用的, 内容质量问题+对齐困难. 会使用的包括一些通用llm数据库, 针对性的高权重数据库, 以及后续可能的反馈学习和langchain.

mamba out

#97 mamba out 怎么成最佳回复了

mamba out

#98 Edge 非常感谢，最后多嘴问一句你们会考虑给她一个英语的语言系统吗？（毕竟设定上英语是她第一语言，而且这样的话，在实际使用中即使ai理解错使用者意思也可以解释为自学中文还不太熟练，也许这样可以加大一些容错空间同时甚至可以增加真实感？）

Edge

#99 mamba out 工作量会很大, 所以这也是到时候再说的事情.

mamba out

#100 Edge 好的谢谢，我们会耐心等待你们的消息的

Edge

进展: 终于弄明白了莫名其妙的硬件问题

我打算在明天开始收尾总装, 至于外观部分倒是还得再两天.

Edge

进展: 费劲地调试, 安装驱动, 思考到底为什么进不去和到底为什么进去了.

还有两张显卡要装, 我计划留到明天. 如果全部显卡安装没有问题, 我的长痛终于可以进二阶段了.

我始终没有完全弄清楚错误94到底是怎么回事, 只能希望不要再来了.

Edge

进展: 查出有一张卡有问题, 寄回去修了.

看起来还有很久要等.

我写的这些东西是不是琐碎了点? 我看到关注的人挺多的, 如果不想一直收邮件可以取消无妨.

我会在进展重大的时候另外开贴说明的.

Terrfy

加油，祝好运

鸭yori

加油加油

#Jc_ker

加油啊（确实通用模型的角色扮演存在许多问题）
但有个小问题看能否请大佬赐教

就是关于训练好的模型的尺寸问题，过大的尺寸会劝退不少小显存低性能甚至是没有显卡的用户

个人用8845HS 780M核显搭配32G运存大概在回复速度可以接受的前提下模型尺寸30b封顶()

mamba out

#108 #Jc_ker 我也不是很懂，但记得老大好像说过会采用云端之类的形式，反正到时候不用太担心配置问题

Edge

#108 #Jc_ker 会用修普诺斯部署, 用户根本不可能带的动这种体量的模型.

后面应该会做turbo版, 可能会有更多样化的部署方式.

用内存去推理根本不会有可以接受的速度, 别折腾了.

gnte

加油！