BitTorrent: El nuevo medio para distribuir modelos de IA generativa
El auge de BitTorrent para la distribución de modelos de IA
BitTorrent, conocido por su papel en las descargas de contenido con derechos de autor, ha encontrado un nuevo propósito como medio de distribución para grandes modelos de IA generativa. Esta arquitectura descentralizada permite una distribución eficiente y escalable de archivos de gran tamaño, lo que la convierte en una opción ideal para modelos de IA que a menudo superan los gigabytes.
Mistral AI y Elon Musk lideran el camino
Mistral 8x7B
Mistral AI llamó la atención al lanzar su modelo Mistral 8x7B, un archivo de 87 GB, a través de un enlace magnet publicado en la red X. Este movimiento marcó un precedente para el uso de BitTorrent para distribuir modelos de IA.
Grok 1 de Elon Musk
Elon Musk cumplió su promesa de liberar Grok 1, el modelo de lenguaje detrás de su chatbot Grok, como código abierto bajo la licencia Apache 2.0. Este archivo torrent de 318,24 GB contiene un modelo de lenguaje con 314 mil millones de parámetros, lo que generó un gran debate sobre su tamaño y rendimiento.
Cómo descargar Grok 1
La comunidad ahora puede probar Grok 1 localmente si cuenta con el hardware necesario. El repositorio de GitHub contiene código de ejemplo para cargar y ejecutar el modelo, así como scripts y archivos de requisitos para instalar las dependencias. Sin embargo, para ejecutar el modelo, se deben descargar los pesos, que contienen los parámetros aprendidos durante el entrenamiento.
Implicaciones para el panorama de la IA generativa
La decisión de Musk de liberar Grok 1 como código abierto podría cambiar el panorama de la IA generativa. Grok 1 podría convertirse en una alternativa viable a otros modelos de lenguaje generativo, como GPT-4, Gemini Pro y Llama 2. Su arquitectura de "mezcla de expertos" permite una mayor especialización en tareas específicas.
