Shiroyama.W PC这边的8bit要求的D/RAM都上16了. 我不觉得手机端的性能下能有什么看得过去的结果 当然以及显而易见的。 手机端的计算能力 你潭之前有想用手机跑TTS的来着 考虑这种东西做什么 大部分预算四位数的PC移动端都完全不怎么满足本地部署的性能的 你在手机上期待还是不必要了。
Edge #8 谏念 你还知道加个maica的标签, 能不能起码把maica研究明白? 数据集和sft最佳实践的开源地址都写在仓库页面里面了, 不看? 看不到? 真以为我们做过的工作都不重要? 连现成的信息都整理不明白, 我的建议是好好念书洗洗睡, 别想着自己倒腾这些了.
Him666233 手机端跑AI,有一说一,跑的参数真的是只能跑那种很小的,然后效果基本上都不太好,有时候还会胡言乱语,特别是搞角色扮演,特别特别拉,然后再加上手机目前的算力来讲,token输出速度也是慢的要死,只能说是如果能接受所有缺点的话,那确实是能跑,但用起来体验跟便秘没区别,不过用来娱乐娱乐玩一下还是可以的