AI百科 大模型量化是什么？为什么7B模型能塞进手机 这两年手机厂商发布新机，都在吹一个卖点：AI大模型本地跑。你在自己手机上跟AI助手对话，它不联网也能回答，靠的就是手机里装了个「压缩过」的模型。这个压缩技术，就叫量化。今天用大白话把它讲明白。先说模... AI百科 2026-08-09 45 #模型量化 #大模型 #端侧AI #Ollama
AI百科 知识蒸馏是什么？大模型「缩水不缩智」的秘诀 手机里能跑的大模型，几乎都是蒸馏出来的。今天用大白话把这事讲清楚。蒸馏的意思很简单：大模型当老师，小模型当学生，学生不从头学，直接学老师给出的答案。老教授带研究生就是这么个逻辑，研究生不用把图书馆的书... AI百科 2026-08-08 76 #知识蒸馏 #大模型 #DeepSeek-R1 #AI科普 #模型压缩 #端侧AI
AI百科 手机跑大模型不是噱头——聊聊AI模型量化到底干了啥 先看一个数字：Meta的Llama 3.1 70B模型，原始大小约140GB。你手机闪存才256GB，装这一个模型就去掉一大半，更别提运行了——显存都不够。但2026年的现实是，我手头这台一加13，高... AI百科 2026-07-14 101 #AI模型量化 #端侧AI #模型压缩 #INT4量化 #手机跑大模型
ai手机软件 手机上也能跑AI？2026年好用的AI手机应用推荐 两年前手机端AI还基本是个噱头——要么是云端API的壳，要么本地跑一个模型慢到没法用。到了2026年，情况完全不一样了。手机芯片的NPU算力翻了几倍，很多AI任务已经能在本地秒级完成。下面是几个我实测... ai手机软件 2026-07-09 141 #AI手机应用 #AI修图 #语音转文字 #AI翻译 #端侧AI
