[Topic DIscussion] Google Gemma:真正Open 的AI
Tofloor
default avatar
流浪的加菲
deepin
2024-02-23 02:18
Author

2024年刚开年,AI圈子就卷了起来。前几日,谷歌Gemini 的风头被OpenAI Sora 抢了过去,但是谷歌默默的放了大招——北京时间2月21日深夜,谷歌宣布推出全新开源模型Gemma。

image.png

本次发布的Gemma有两个版本:Gemma 2B(20亿参数)和Gemma 7B(70亿参数)。每种规模都提供了预训练和指令微调版本。

image.png

对于 Gemma,谷歌官方的描述是:

Gemma 是先进的轻量级开放模型系列,采用了与创建Gemini模型相同的研究和技术。受到Gemini的启发,Google DeepMind和Google其他团队合作开发了Gemma,并用拉丁语中意为“宝石”的gemma为其命名。

当前,Gemma 2B和7B允许所有组织(无论规模大小)负责任地进行商用和分发。而为了方便开发者,谷歌不仅开源模型,还附带开发套装,包括全新的“负责任生成式AI工具包”,为基于Gemma开发安全的人工智能应用程序提供了必要指导和工具,以及跨主流框架(如JAX、PyTorch及原生Keras 3.0下的TensorFlow)的推理和监督微调(SFT)工具链。

谷歌此举重新俘获了不少技术开发者的心:好消息,谷歌终于再度回到开源路线了!作为对比,OpenAI自从发布ChatGPT,此后的模型便开始转向闭源,这招致了AI界的批评和反对——OpenAI这个名字也多了几分讽刺意味。

image.png

在大模型开源这件事上,谷歌可以说是鼻祖。在最初的Transformer、Bert等大模型路线,都离不开谷歌的经典论文、开源的多个基座模型等等重要贡献。

此前,全球被用得最多的开源模型是Meta旗下的Llama-2。在Gemma的技术报告中,谷歌放出了大量训练细节,其中就包括Llama-2的测试对比结果图,大多数指标都超过了Llama-2,看来最强开源大模型,今日易主。

总的来说,硅谷技术圈内的开源竞赛号角再度吹响,从2023年开始,Meta开源Llama、欧洲版OpenAI Mistral开源最强7B模型,还有马斯克的Grok,都在加速追赶开源社区追赶闭源模型的脚步。

原文:开源王者归来!谷歌上新开源模型Gemma,领跑Llama-2,手机PC可跑

Reply Favorite View the author
All Replies

No replies yet

New Thread

Popular Events

More
国际排名
WHLUG