手机本地AI运行框架最终版

嗯，对，大概就是变成猪妞了吧

o.bin

init python:
    import requests
    import json
    import socket
    import re

文件预览无法加载。此文件或已被删除，文件 ID 或已失效。

呃，仅适合运行内存16GB及以上的手机（推荐运行7~14b模型，能理解提示词较长的内容）

代码是我的本地AI写的，不存在任何夹带私货的情况

只支持几个表情😭😭

#4 谏念关于只能支持几个表情这件事，为什么不参考MAICA的实现呢

o.bin

init python:
    import requests
    import json
    import socket
    class MNNHandler(object):

文件预览无法加载。此文件或已被删除，文件 ID 或已失效。

这是初版的，提示词就一句，适合性能低的手机运行（0.5~4b非深度思考模型）（这个版本不支持删除深度思考内容）

在/storage/emulated/0/MAS/文件夹创建一个名字叫mnn_memory.json的文件（记忆文件）

框架装载方法

mnnchat下载方法（不支持本地

PI的手机没有办法使用这个）

权限打开的方法（如果有

现在就差优化低配手机的体验感了（最大的问题是小模型不知道什么是表情，进而也就没有办法搞了，只能优化一下提示词了）

#10 谏念对于这种小模型，我觉得可以做一套提示词筛查的逻辑将ai返回的内容进行筛查检测到提示词就输出相应的表情。小模型本地微调不太可能，而且提示词有点太简单了😥效果可能不佳

#11 cake 为什么不尝试把compact打包一个linux版尝试在手机上调呢

#11 cake AI太小了（也有我菜的原因）

#12 Sir.P 太复杂了，我这样现在目前是有手就行的状态

#13 Panghu1102 现在是靠一个映射字典来弄的，但是不怎么准的，小模型也不太支持太多的表情

#13 Panghu1102 确实筛查了，现在是模型输出一个词语，比如（开心）传输回来的时候读取这个词语，然后删掉括号和括号中的内容，做出表情

#16 谏念不用这样呀，关键词这个写rpy就好了，不需要让模型知道

我统一说一下，我是个纯菜狗，搞这个东西出来主要就是想要优化一下聊天的方式，没想着搞得多好，技术限制，我也没有办法（求大佬们善待）

我会继续优化表情和提示词，一两天以后大概就可以了

#19 谏念我记得好像有人发过提示词吧，我去“借鉴”一下