微信聊天记录微调大模型:WeClone 数字分身从数据到上线的最短路径
微信聊天记录微调大模型WeClone 数字分身从数据到上线的最短路径【免费下载链接】WeClone One-stop solution for creating your AI twin from chat history Fine-tune LLMs with your chat logs to capture your unique style, then bind to a chatbot to bring your digital self to life.项目地址: https://gitcode.com/GitHub_Trending/we/WeClone群里消息刷到凌晨想回一条哈哈哈又懒得动手指。WeClone 做的事很简单拿你的微信聊天记录微调一个 chatglm3-6b 大模型训出懂你说话习惯的数字分身再接进微信机器人私聊群聊自动替你回话。读完整篇你会拿到一条命令的训练流程和上线两个终端就跑的部署方式。️ 环境搭好16GB 显存够不够16GB 显存够用。基座是 6B 参数的 chatglm3-6b走 LoRA 微调低秩分解只训练少量适配参数而非全部参数SFT监督微调阶段的实际显存开销就落在 16GB 上下卡更紧的话把 settings.json 里的per_device_train_batch_size和gradient_accumulation_steps调小即可。克隆仓库、建环境、装依赖三步命令跑完git clone https://gitcode.com/GitHub_Trending/we/WeClone conda create -n weclone python3.10 conda activate weclone pip install -r requirements.txt跑完没有报错依赖就齐了。 数据是效果的天花板从原始记录到训练集模型多大不重要你的数据有多像你才重要。原始记录是 PyWxDump 导出的 CSV把每个联系人或群聊的 CSV 文件夹统一放进./data/csv接着跑一次预处理脚本python make_dataset/csv_to_json.py结束时会打印处理后的数据量并生成 SFT 训练集 JSON。隐私这块脚本替你把关手机号、身份证号、邮箱、网址含这类信息的句子整句删掉不留痕迹想额外挡掉某些词加进 make_dataset/blocked_words.json命中禁用词的整句同样丢弃。同一个人连发的短句默认会合并成一条样本间隔超过 1 小时自动切分。怎么选想让分身模仿你的语气习惯口头禅、断句、爱用的词用默认单句合并就行如果对话经常对方问一句、你连着答三句解释想保留这种一来一回的上下文再换 make_dataset/ 目录下的多轮处理脚本。 训练一条命令只改一个 json所有训练参数集中在 settings.json基座模型路径、LoRA 秩、学习率、训练轮数全在里面克隆下来只改这一个文件代码零改动。训练前把 chatglm3-6b 权重下载到./chatglm3-6b目录Hugging Face 或魔搭社区均可用魔搭时先设置环境变量USE_MODELSCOPE_HUB1。单卡直接python src/train_sft.py有两块以上 GPU 就装好 deepspeed改跑deepspeed --num_gpus2 src/train_sft.py多卡分摊。python src/web_demo.py浏览器打开本地页面聊两句回复语气像你就成了。 上线两个进程一个二维码python src/api_service.py python src/wechat_bot/main.py两个终端各一个进程API 服务在前、机器人随后终端打印登录二维码手机扫一下就绑定完成。之后私聊它、或在群里 它都开始自动回复对话历史由机器人进程维护。说句实在话微信里跑自动回复有封号风险尽量用备用号账号记得绑定银行卡。想换个说话风格去改 src/template.py 里的默认系统提示词就行。 先跑通一个人的先拿一个密友的聊天记录把导出、清洗、训练、上线整条链路走一遍对方没察觉破绽说明风格学得够像。之后再把更多人的数据加进来重新训练效果才会明显上一个台阶。【免费下载链接】WeClone One-stop solution for creating your AI twin from chat history Fine-tune LLMs with your chat logs to capture your unique style, then bind to a chatbot to bring your digital self to life.项目地址: https://gitcode.com/GitHub_Trending/we/WeClone创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考