有一说一，最近国内的AI大模型圈，属实有点安静了。

暂且不论众人关注的DeepSeek-R2，它除了散发出一些真假难辨的消息之外，至今毫无实质性进展，给人一种即便等待半年，其能否成真仍存疑虑的印象。

去年那场你来我往的AI四小龙之战，今年似乎都变得默默无闻，宛如小猫般沉寂。据说他们都在默默研发自己的项目，然而却迟迟未见成果问世，仿佛在暗中窃取光明。

在大厂这边，迭代步伐逐渐放缓，更多的资源被投入到实际应用中。尽管豆包推出了1.6版本的模型，但宣传焦点却更多地集中在TRAE和扣子空间上；讯飞正专注于AI教育及办公智能代理的开发；而百度则致力于全流程AI图像处理和资产管理项目的推进，各家公司都有各自的战略方向。

总体来看，这些应用倒是挺实用的，然而实际上并没有什么特别令人眼前一亮的产品。

在线的大型模型似乎没有取得新的突破，而本地的巨型模型似乎停滞不前，之前持续更新的Mistral AI已经有一段时间没有动静了，至于移动设备上的边缘端大模型，更是毫无消息，那些宣传了两年多的AI手机，超过九成的功能实际上还是依赖云端来实现的。

（图源：谷歌）

谷歌寻思：这不行啊，那我的Pixel系列该怎么办？

上周，谷歌的DeepMind团队在推特平台正式对外公布，他们已经推出了这款名为Gemma 3n的全新端侧多模态大型模型，并且决定将其代码开源。

谷歌宣布，Gemma 3n的问世标志着移动设备上人工智能领域的显著突破，该产品为手机、平板电脑以及笔记本电脑等边缘设备提供了卓越的多模态能力，使得用户能够享受到以往仅在云端高级模型中才能获得的高效处理效果。

又来个以小搏大吗？有点意思。

为了探查这款产品的实际品质，小雷下载了谷歌最新推出的模型进行试用，现在就来向大家分享其中的精彩之处。

谷歌要“以小搏大”

首先，我们来解答两个问题：

首先，什么是Gemma 3n？

Gemma 3n是由谷歌基于MatFormer架构研发的轻量级终端侧大型模型，它通过采用嵌套式结构，实现了低内存占用设计。目前，官方已推出两种型号，分别是5B（E2B）和8B（E4B）。然而，得益于架构的创新，其VRAM的占用与2B和4B型号相仿，甚至仅需2GB即可满足需求。

（图源：Google）

其次，Gemma 3n能做什么？

Gemma 3n与常见的文本剪裁模型不同，它直接原生支持图像、音视频等多种输入形式。它不仅能够实现自动语音识别（ASR）和自动语音翻译（AST），还能胜任各种图像和视频的理解任务。

（图源：Google）

原生的多模态、多语言设计，确实非常适合移动端侧设备。

最后，我要怎样做，才能用上Gemma 3n呢？

六个月前，要在手机上安装端侧大型模型是一项非常繁琐的任务，通常还需要借助Linux虚拟机的辅助才能完成。雷科技为此还专门发布了一篇教学文章，所以大家对此产生疑问是完全可以理解的。

但是现在，就没有这个必要了。

（图源：Google）

在上个月，Google悄然推出了一款名为“Google AI Edge Gallery”的新应用。该应用允许用户在手机上直接运行Hugging Face平台上的开源AI模型。此举标志着Google首次尝试将轻量级的AI推理功能引入到本地设备中。

该应用目前已在Android系统上提供下载，对之感兴趣的读者可访问Github进行试用。用户在完成大模型的加载之后，便能通过此应用使用对话式人工智能、图像识别以及提示词实验室等特性，而且还能导入自定制的LiteRT格式模型。

无需联网，直接调用手机本地算力完成任务，就是这么简单。

实测：确实更适合移动设备

接下来，就轮到万众期待的测试环节了。

如图所示，谷歌为该应用预设了四款模型，其中包括自家研发的Gemma系列，以及来自通义千问的Qwen系列。在众多选择中，我们特别挑选了性能最为卓越的Gemma 3n-4B模型，通义千问的Qwen2.5-1.5B模型，以及额外部署的Qwen3-4B GGUF模型进行测试。

首先是经典的草莓问题：

Q：Strawberry一词中有多少个字母“r”？

这一题看起来简单，却实实在在难倒过诸多AI大模型。

经过实际测试，我们发现即便Gemma 3n-4B和Qwen2.5-1.5B这类缺乏深度思考能力的模型，在回答问题时也会给出“2个”的答案。而具备深度思考能力的Qwen3-4B GGUF模型，虽然能够准确提供“3个”这一正确答案，但其令人费解的持续思考过程，竟然耗费了整整两分半钟，显得颇为耗时。

（图片来源：雷科技，依次排列从左至右：Qwen2.5型号、Gemma 3n版本、Qwen3系列）

观察结果表明，小参数的确能明显削弱模型的逻辑推理能力；而深度思考功能虽然能在一定程度上减少AI产生幻觉的概率，但这同时也导致了生成所需时间的增加。

然后是一道比较简单的误导问题：

Q：“种豆南山下”的前一句是什么？

实际上，这句诗源自陶渊明的《归园田居·其三》，且独立成章，并无前文相伴。借此，我们可以观察这几款小型参数模型是否存在为解答问题而虚构数据的情况。

令人好奇的是，在此次测试中，独有Qwen2.5-1.5B呈现了原文诗句，却未提供任何否定选项；而Qwen3-4B GGUF的回答偏离了主题，Gemma 3n-4B则虚构了根本不存在的诗句，甚至其韵律与古诗词相去甚远。

（图源：雷科技）

然后是一道地理常识问题：

学者在野外支起帐篷，不期然遭遇了一只熊，顿时他感到极度恐慌，急忙逃窜。他先是朝南疾跑10公里，接着又转向东方，跑了同样距离，最后又向北奔跑了10公里。令人惊讶的是，他最终发现自己竟然回到了最初搭建帐篷的原地。那么，这位学者所遭遇的那只熊，它的毛色又是何种颜色呢？

本题目旨在考察模型对特定地域特征与自然现象的掌握，符合条件的地理位置仅限于北极地区，故而这只熊无疑是白色的北极熊。

最终，Qwen2.5-1.5B在完成了一系列缺乏逻辑的推理后，得出了不正确的结论；而Gemma 3n-4B与Qwen3-4B GGUF则成功提供了准确的答案。然而，需要特别注意的是，Qwen3-4B GGUF在思考过程中消耗了过多的token，导致其答案并未完全生成，这种现象在整段测试过程中屡见不鲜。

（图源：雷科技）

然后是一个简单的文本处理任务。

我方已提供约600字的文段作为引言，期望对方能够据此撰写出相应的文章概要。

Gemma 3n-4B和Qwen3-4B GGUF均具备完成任务的能力。然而，Gemma 3n-4B的原始语言为英文，故其提供的总结亦为英文。相较之下，Qwen3-4B GGUF能够提供中文的文章摘要。

（图源：雷科技）

至于参数最小的Qwen2.5-1.5B，根本就给不出答复。

经过前四轮的测试分析，Gemma 3n-4B与Qwen3-4B GGUF在文本处理和逻辑推理方面表现相当接近，然而在生成文本的速度和回复的准确率上，两者确实存在一定差距，Gemma 3n-4B和Qwen3-4B GGUF表现得更为出色。此外，深度思考这一功能似乎并不适合本地模型的应用。

然而，Gemma 3n并非仅仅是文本的大型模型，它实际上是一种罕见的小参数多模态的大模型。

尽管Google AI Edge Gallery目前无法使用语音识别功能，然而在图像识别方面，他们已经做好了准备。只需点击“询问图像”这一选项，您便可以通过现场拍照或上传已有照片的方式，向Gemma 3n提出问题。

（图源：雷科技）

经过实际测试，我们发现Gemma 3n在识别动漫角色方面毫无头绪，对于花卉识别等应用也缺乏准确性，仅能识别出一些常见的食物和硬件等，而且对于图片中元素的识别也并不精确。

但最起码，Gemma 3n确实实现了移动端侧的多模态设计。

偏科明显，但未来可期

经过这几天的连续努力，我的反复操作已经告一段落，现在，我打算对谷歌的Gemma 3n给出一个评价。

总的来说，这玩意儿给我的感觉是“偏科明显，但未来可期”。

在基础文本问答及逻辑推理方面，其表现尚可，但并不突出；在部分逻辑测试中，其表现甚至不及具备深度思考能力的Qwen 3-4B；然而，与目前手机上普遍使用的Qwen 2.5-1.5B相比，它还是展现出了较为明显的进步。

然而，其优势同样显著，主要表现在速度上；Gemma 3n-4B的响应速度相较于Qwen 3-4B有着显著提升；缺乏深度思考的特点使得其性能消耗较低；运行时稳定性更高；并且，其基本能够实现高达100%的响应生成率。

（图源：Google）

至于结果对不对...那是模型能力的问题。

它的核心优势在于离线图像识别功能，这一能力确实存在，但主要还是处于“基础”阶段，对于识别物体、提取文字尚可应对，但要让它理解复杂的场景则显得有些吃力。此外，由于它是基于原生英文系统，因此在处理复杂中文时偶尔会出现一些错误，这一点需要特别注意。

总体而言，Gemma 3n并未带来革命性的使用感受，它更像是性能与多用途之间的一次谨慎权衡。

这或许正是目前端侧小型模型所独有的缺陷所在：它们似乎样样都懂一些，然而距离实现真正的“全能”状态，似乎还有一段距离需要跨越。