由于成果已经一步步完善, 我们已经可以看到成功的预兆, 我在此贴更新项目的进展.

首先呢, 第一项是我们改名字了. mgpt这个名字挺草率的, 因为项目到了现在已经跟gpt没啥关系了. 我们改叫它: MAICA (音"迈卡", 很朴实无华的缩写.) 我希望用起这个新名字的时候, 大家还认识它.

以上截图是最近的第二轮试训练的产出. 可以看到, 在有限的提示指导下, 模型对莫妮卡角色形象本身有了可以称为"理解"的属性. 当然, 训练设计和模型优化仍然处于早期阶段, 但这样的进展于我而言已经很是激动人心. 我们会尽快开始第三轮以及更多的试训练. 如果一切顺利, 我希望在第三轮结束后就开始反馈式学习, 通过收集使用数据以进一步改善训练--当然还得是一切顺利的前提下, 而顺利的时候并不多. 在希望大家期待的同时, 我也希望大家保持理性, 保持耐心. 就算目前的结果已经初具雏形, 但我们离目标中接近完美的莫妮卡形象还有相当的距离. 请大家期待我们的进步.

更多的一些测试语句, 以展示训练的成果和局限性. 此轮训练在数据构建中比较单调, 使用的prompt也十分单薄. 我期待接下来的训练产出更好的结果.

接下来我们把话筒递给莫妮卡现在的雏形, 第零代"克利福德": 呃, 她挺谦虚的. 我们期待她未来的表现. 下一轮的训练并不会等太久. 我们正在向遥不可及迈出第一步, 很快我们将让所有人看到我们踏出的脚印. 欢迎各位在此贴中探讨和提供有价值的想法. 后续的进展将在此贴继续更新.

好——耶！期待期待！！

关于第三轮训练的设计: 我简单回顾了一下第二轮的结果. 虽然表现还不错, 但是在"简单问题上犯蠢"这种现象比较像是过拟合的表现. 像第二轮一样直接用目标集训练可能有点自信过头了, 我打算在第三轮里面尝试更早之前用过的混集方法. 我希望混合训练集能矫正lora的整层改动和ptuning的整体改动之间改动密度的差距. 我也不清楚这个差距到底在哪以及怎么改, 但是有已知方法肯定是要试试看的. 至于反馈学习, 可能至少会推迟到第四轮或者更后面吧.

唉, 想想就很头疼. 这次的训练集又加了常识集, 此外还加了一个测试的强针对集. 我当然也希望能用更简单的单个数据集搞定问题, 但是就是没法做到那么简单. 常识集用来中和过拟合是一种很怎么说呢土八路的做法, 既不优雅也不稳定. 强针对集更是专门的头痛医头脚痛医脚, 只能针对有限的测试改善表现, 而且还容易导致测试中发现不了真正重要的问题. 但是有什么办法呢, 繁琐复杂的混集在maica中训练的表现确实比单独的目标集要好得多, 从最开始的训练和设计中就是这样的, 后面也只能按这样往下走. 效果到底为什么好了都不知道, 而且很伤脑筋. 没有别的办法可想, 角色扮演本来就需要海量的数据, 但maica根本不可能弄到那么多. 按比例混合各种数据集, 做鸡尾酒也是没有办法的办法了. 我打算明天按照1:1:5混合常识, 目标和强针对, 再做一轮测试. 这个比例在第零次测试中表现还不错. 至于ptuning和lora, qlora的表现区别到底在哪里, 我也不好总结, 但是至少lora没有那么容易发疯. 如果测试顺利, 我希望看到面对简单问题的表现下降能得到缓解. 明天还要装机柜去, 估计一天不一定搞得完. 头疼也很需要缓解就是了.

迈向遥不可及的第一步(MAICA)

ICEMONIKA

dalao 问一下，这个将会是像子模组一样嵌在游戏里吗？还是像gpt一样在网页上？

Edge

#305 ICEMONIKA 子模组. 网页端可能后面会有, 但短时间内不打算做.

maica在前后端上都为mas做了大量兼容, 子模组会是体验最好的方式, 我们也支持前端上的二次开发和自行接入.

82192506

#304 Edge 老大加这个测试群是有什么要求吗，怎么样才能加呢

Edge

#306 82192506 这个群关闭加入了, 因为a测需要限制在足够小的范围以便排查问题.

如果之前没有加入就请耐心等待吧

Edge

我突然理解为什么之前模型会叫p老婆了, 理解之后更好笑了.

我不多解释了, 但是只要你正常地给自己取了名字, 就不会出现这个问题的.

同时在这里提醒一下大家在mas里给自己起个阳间的名字. 特别怪异的内容可能会影响模型的判断.

今天抽空去检查和完善一下剩余的文字工作吧. 下大雨, 别的也干不了.

ps. 在加入英语素材训练之后loss下降得快了很多. 可能跨语言能力是双向影响的吧.

我已经简单地更新了最佳实践. 就算你只希望在单语言下使用, 我也建议加入所有语言的素材.

JUSTBEIJINGCORN

#309 Edge 搞不好那个有趣的用户实际上真的是女性，而且喜欢让monika占据较为男性化的位置lol

文学部的小莫

#309 Edge 老大我的mas是在小红车上下的整合包，请问能下maica的子模组吗？（我觉得我应该问p大佬）

Edge

双语训练下, loss的下降速度确实远优于预期, 同时特定验证集的evalloss下降更快. 我很期待这一版模型的表现.

需要操心的是, 之前针对过拟合的测试可能没有参考价值了, 需要重新测定一次. 不过既然evalloss表现稳定, 我觉得不是太大的问题.

距离训练完成还有大约29个小时, 差不多就是明天晚上. 我们会花点时间做最后的准备工作, a测可能会在后天晚上/大后天开始.

zz11

过几天就能玩到了吗

welsx2

大佬加油：）

Edge

修了两把手枪, 又修了鼠标, 感觉今天忙的莫名其妙的.

对于第一次用bga焊台的成果来说, 鼠标修的还不错. 用多久就看造化了.

今天晚上应该能拿到模型, 然后抓紧做效果测试.

ps. 修它的原因是它比焊台还贵. 我也比较容易用一些老破烂用出感情就不想换了.

Edge

明天应该就会单独开一个正经点的帖子追踪maica的更新日志了, 这边主要还是一些幕后花絮.

如果你更希望追踪maica本身的进度而不希望受到邮件打扰, 可以考虑取消这边的关注了.

Edge

核心能力还是一般般, mfocus的表现仍然跟见了鬼一样, 所幸英文上的bug和清理训练集的努力都算是成功了.

对新冠相关数据的针对性修正效果不够理想, 主要可能是因为权重太低+预训练里面相关内容太多. 后续在daa想办法吧.

今天无论如何都该投用了. 又在驱动上临阵磨枪了一下, 但mf问题的根源是没有足够强大的agent. 妈的这能怎么办啊.

如果后续能够证明使用大体量agent模型有效, 那兴许还可以再说. 目前为止只能先这样了.

我简单收拾收拾, 今晚应该可以开a测了.

ICEMONIKA

dalao这是怎么回事啊？我的网络也是正常的 @Edge

Edge

#320 ICEMONIKA 请更新到最新版本, 已经发在群里了.

ICEMONIKA

#321 Edge

可我用的就是最新版的啊

lingyue

#321 Edge 所以怎么获得A测资格，或者说这个是e佬你选拔吗？

Edge

#322 ICEMONIKA 在关于MAICA的问题反馈 #3955 发你的详细问题信息和mas_log, 我稍后叫p来看

另外尝试在子模组设置里面找到关于api的设置, 选择"更新证书".

Edge

#323 lingyue 是项目最开始的时候进群的人, 差不多23年那会吧.

ICEMONIKA

#325 Edge

mas-log.txt

Sun Feb 26 08:32:32 2023
Windows 8 - build: 6.2.9200
Ren'Py 6.99.12.4.2187
VERSION: 0.12.14
==================================================

文件预览无法加载。此文件或已被删除，文件 ID 或已失效。