Corre en tu Laptop el Nuevo Modelo de Google Mejor que GPT-3.5

Google lanza Gemma 2:

Actualmente, ejecutar modelos de IA suele requerir una gran capacidad computacional, incluyendo múltiples clústeres de tarjetas gráficas y otros recursos avanzados. Sin embargo, ahora es posible correr un modelo con el nivel de GPT-3.5 en múltiples tareas desde tu propia laptop, con tan solo 3GB de RAM, esto marca un cambio radical en el acceso y la accesibilidad a la inteligencia artificial de alto rendimiento.

En junio, Google lanzó Gemma 2, su nuevo modelo abierto de última generación, disponible en tamaños de 27 mil millones (27B) y 9 mil millones (9B) de parámetros. Desde su lanzamiento, el modelo de 27B rápidamente se posicionó como uno de los modelos abiertos más destacados en el ranking de Chatbot Arena de LMSYS, superando a modelos populares de más del doble de su tamaño en conversaciones reales. Así lo anuncio la cuenta oficial:

¿Cómo puedo correr el modelo con 3GB de RAM?

Para utilizar este nuevo modelo, simplemente necesitas instalar un programa llamado Ollama. Si eres un desarrollador experimentado, la instalación y configuración serán tareas sencillas para ti. Si no tienes experiencia en desarrollo, no te preocupes: puedes encontrar numerosos videos tutoriales en internet que explican cómo utilizar Ollama y aprovechar al máximo sus capacidades. Además, Ollama te permite correr muchos modelos open source. Solo asegúrate de que tu computadora cumpla con los requisitos necesarios para ejecutarlo, como tener al menos 3GB de RAM(para el caso de Gemma:2b) y suficiente capacidad de procesamiento.

Rendimiento del Nuevo Modelo

Este modelo ligero ofrece resultados extraordinarios al aprender de modelos más grandes mediante un proceso llamado destilación. Como se menciono anteriormente, Gemma 2 2B supera a multiples modelos con mayor tamaño como GPT-3.5 en el Chatbot Arena, demostrando sus habilidades en IA conversacional.

Si deseas conocer el posicionamiento de todos los modelos de inteligencia artificial, tanto abiertos como cerrados, te invitamos a visitar arena.lmsys.org. Allí podrás ver el ranking actualizado diariamente, lo que te permitirá estar al tanto de los modelos más destacados y elegir aquellos que mejor se adapten a tus necesidades.

Nuevos Modelos de Gemma 2

Google también ha creado otros nuevos modelos de Gemma con diferentes capacidades y focalizado en diferentes campos, entre ellos encontramos:

  • ShieldGemma: una versión renovada del modelo de 2 mil millones de parámetros, con avances en seguridad integrados, ayudando en la clasificación de contenido nocivo.
  • Gemma Scope: una nueva herramienta de interpretabilidad de modelos que ofrece una visión del funcionamiento interno de los modelos de Google.

Google Developers Blog. "Smaller, Safer, More Transparent: Advancing Responsible AI with Gemma." Disponible en: https://developers.googleblog.com/en/smaller-safer-more-transparent-advancing-responsible-ai-with-gemma/

Comentarios

Publicar un comentario