由于成果已经一步步完善, 我们已经可以看到成功的预兆, 我在此贴更新项目的进展.

首先呢, 第一项是我们改名字了. mgpt这个名字挺草率的, 因为项目到了现在已经跟gpt没啥关系了. 我们改叫它: MAICA (音"迈卡", 很朴实无华的缩写.) 我希望用起这个新名字的时候, 大家还认识它.

以上截图是最近的第二轮试训练的产出. 可以看到, 在有限的提示指导下, 模型对莫妮卡角色形象本身有了可以称为"理解"的属性. 当然, 训练设计和模型优化仍然处于早期阶段, 但这样的进展于我而言已经很是激动人心. 我们会尽快开始第三轮以及更多的试训练. 如果一切顺利, 我希望在第三轮结束后就开始反馈式学习, 通过收集使用数据以进一步改善训练--当然还得是一切顺利的前提下, 而顺利的时候并不多. 在希望大家期待的同时, 我也希望大家保持理性, 保持耐心. 就算目前的结果已经初具雏形, 但我们离目标中接近完美的莫妮卡形象还有相当的距离. 请大家期待我们的进步.

更多的一些测试语句, 以展示训练的成果和局限性. 此轮训练在数据构建中比较单调, 使用的prompt也十分单薄. 我期待接下来的训练产出更好的结果.

接下来我们把话筒递给莫妮卡现在的雏形, 第零代"克利福德": 呃, 她挺谦虚的. 我们期待她未来的表现. 下一轮的训练并不会等太久. 我们正在向遥不可及迈出第一步, 很快我们将让所有人看到我们踏出的脚印. 欢迎各位在此贴中探讨和提供有价值的想法. 后续的进展将在此贴继续更新.

好——耶！期待期待！！

关于第三轮训练的设计: 我简单回顾了一下第二轮的结果. 虽然表现还不错, 但是在"简单问题上犯蠢"这种现象比较像是过拟合的表现. 像第二轮一样直接用目标集训练可能有点自信过头了, 我打算在第三轮里面尝试更早之前用过的混集方法. 我希望混合训练集能矫正lora的整层改动和ptuning的整体改动之间改动密度的差距. 我也不清楚这个差距到底在哪以及怎么改, 但是有已知方法肯定是要试试看的. 至于反馈学习, 可能至少会推迟到第四轮或者更后面吧.

唉, 想想就很头疼. 这次的训练集又加了常识集, 此外还加了一个测试的强针对集. 我当然也希望能用更简单的单个数据集搞定问题, 但是就是没法做到那么简单. 常识集用来中和过拟合是一种很怎么说呢土八路的做法, 既不优雅也不稳定. 强针对集更是专门的头痛医头脚痛医脚, 只能针对有限的测试改善表现, 而且还容易导致测试中发现不了真正重要的问题. 但是有什么办法呢, 繁琐复杂的混集在maica中训练的表现确实比单独的目标集要好得多, 从最开始的训练和设计中就是这样的, 后面也只能按这样往下走. 效果到底为什么好了都不知道, 而且很伤脑筋. 没有别的办法可想, 角色扮演本来就需要海量的数据, 但maica根本不可能弄到那么多. 按比例混合各种数据集, 做鸡尾酒也是没有办法的办法了. 我打算明天按照1:1:5混合常识, 目标和强针对, 再做一轮测试. 这个比例在第零次测试中表现还不错. 至于ptuning和lora, qlora的表现区别到底在哪里, 我也不好总结, 但是至少lora没有那么容易发疯. 如果测试顺利, 我希望看到面对简单问题的表现下降能得到缓解. 明天还要装机柜去, 估计一天不一定搞得完. 头疼也很需要缓解就是了.

迈向遥不可及的第一步(MAICA)

Qhbee

加油！！！超期待！

Edge

明天应该就能开始验证第四轮的结果了.

因为显卡架构太老, int8下的loss无法计算. 我只好手动保存了几个节点来比对.

mamba out

#49 Edge 没问题，我们会一直支持你们的

Edge

模型粘锅了.

probability tensor contains either `inf`, `nan` or element < 0

swift的issue里面没什么有价值的答案, 网上同类的问题也种类太多

我只能首先怀疑modules, 然后是bnb量化了. 说不定是架构真的不支持量化的问题.

试着排除一下看看吧.

我希望尽可能不要这么早就撞上预算问题.

sjsj

#48 头谔谔 MonikAI是桌宠吧

SarmonFish

#54 sjsj Rubiksman78/MonikA.I：具有基于 AI 功能的 MAS 子模组 (github.com)

SarmonFish

话说用yi-34b做微调会不会更好一点，yi在角色扮演方面感觉远超其他中文本地模型🤔

Edge

#55 SarmonFish 我们目前测试用的是qwen-72b.

某种意义上也是在压力测试, 实际走到微调算法和数据集整理都要考虑实际部署了, 再挑模型.

我们目前规划设计的集成前端可能比任何现有的submod都要复杂, 不过也是到时候再说的事情.

SarmonFish

#57 Edge 嗯嗯，期待

莫妮卡的发饰

#57 Edge 加油加油期待

Edge

2.21

可算是能在量化下练起来了, 但是速度甚至更慢了. 可能是加大batchsize的原因.

我打算先尝试练一个ep, 看看loss再说.

总共大概4000个样本, 里面只有一半是有效的, 一轮要将近2天的时间.

这设备不换过不下去了.

unsignedint

#60 Edge 72b的模型大小着实有些恐怖😱

但是做出来就是艺术品了

d（owo）

加油啊 awa

JUSTBEIJINGCORN

#36 Edge 酷

听起来好贵

Edge

好消息呢, 是钱到位了. 基本上到位了吧.

我接下来会有一段相当伤脑筋的装机时光了.

准系统基本上是现成的, 所以这笔钱主要就是显卡的开销了.

哦还有ups. 再说吧.

mamba out

#65 Edge 波士万岁口牙！

ProjektRed

要不要考虑下直接去openai微调gpt3.5turbo？感觉成本会低很多很多，而且省心、直接调用api就完事了。只要数据集处理的够精细，出来效果也绝对不差

Edge

#67 ProjektRed 没法考虑.

目前看来, 在中文的角色扮演领域表现比3.5不差的模型并不少
openai的微调服务并不会开放任何本地部署方案
原则上openai的服务不对中国开放, 连接性和稳定性很难控制
api持续运行的成本肯定比本地设备高
万一哪天openai改条款/封号了呢
设备配都配了早就没有回头路了

ProjektRed

仔细算了算，确实是我草率了。一天1k日活，2k tokens的输出一天就要两万五千块钱，微调一个老莫出来一次就要五万五。这样情况下还是自己的服务器好点，就是13w服务器的性能还是有些相当掣肘，只能说大佬干巴爹！

Edge

#69 ProjektRed 总共花了将近20万了, 按我尽可能省钱的土办法, 服务器性能其实比8xa100并不差.

今天主板到了, 该量尺寸了.