Google的Gemma 3 270m:适合您手机上的AI

Google到目前为止发布了其最小的AI模型,它可能会对我们如何在日常设备上使用人工智能产生重大影响。 Gemma 3 270m不仅很小,而且设计可直接在智能手机上运行,而无需清空电池。该型号仅占用约0.5 GB的RAM,这意味着[…] Google Gemma 3 270m:AI最初出现在AI新闻中。

来源:AI新闻
Google释放Gemma 3 270m,这是一种新型号,本地仅使用0.5 GB的RAM运行。经过6T令牌培训,它可以在电话,处理聊天,代码和数学任务上快速运行。 Gemma 3 270m不仅很小,而且设计可直接在智能手机上运行,而无需清空电池。该型号仅占用约0.5 GB的RAM,这意味着它可以在大多数现代智能手机上平稳运行。而且由于它可以离线工作,因此您不必担心互联网连接不良或隐私问题。当地AIVAD的未来使Gemma 3 270m如此特别吗?尽管许多AI型号都需要具有内存的功能强大的服务器和千兆字节,但Gemma可以处理3,270m,而手机上大多数应用程序中大多数应用程序的内存均不到一半。该型号的压缩形式仅为529 MB,在移动设备上每秒可达2585个令牌。这意味着您可以快速答案,而不必等待数据来回发送到云。您将如何开始?有几种开始使用Gema 3 270m的方法,具体取决于您想对其做什么。最简单的方法是通过拥抱面部下载模型并通过各种工具运行。对于Android开发人员,有一个名为Google AI Edge Gallery的APK,您可以从Github下载。它使您可以直接导入Gemma 3模型,并开始尝试图像分析和文本生成等功能。如果您喜欢使用代码,则可以使用Ollama或Llama.cpp等工具在计算机或移动设备上本地运行该模型。您只需要从拥抱脸上下载GGUF文件并运行一些简单的命令。更多信息:
  • Google释放Gemma 3 270m,这是一种新的模型,只有0.5 GB的RAM在本地运行。
  • Gemma 3 270m