IA Distribuida

exo para Mac Mini

Usar exo para Mac Mini con Macfleet Cloud

exo te permite unificar tus dispositivos existentes en un cluster de GPU poderoso. Funciona con iPhones, iPads, dispositivos Android, Macs, GPUs NVIDIA, Raspberry Pis y casi cualquier otro dispositivo.

Características Principales

• Amplio Soporte de Modelos: Ejecuta LLaMA, Mistral, LlaVA, Qwen, Deepseek y más
• Particionado Dinámico de Modelos: Divide modelos entre dispositivos basado en recursos disponibles
• Descubrimiento Automático de Dispositivos: No se requiere configuración para encontrar otros dispositivos
• API Compatible con ChatGPT: Cambia una línea para ejecutar modelos en tu propio hardware
• Igualdad de Dispositivos: Arquitectura P2P sin jerarquía maestro-trabajador

Comenzar

1. Instalar desde fuente: git clone https://github.com/exo-explore/exo.git
2. Cambiar al directorio: cd exo
3. Instalar dependencias: pip install -e . o source install.sh
4. Iniciar exo en cada dispositivo: simplemente ejecutar exo

Perfecto Para

• Ejecutar modelos más grandes de los que cualquier dispositivo individual podría manejar
• Usuarios conscientes de la privacidad que quieren procesamiento de IA local
• Desarrolladores construyendo aplicaciones de IA
• Utilizar hardware existente en lugar de comprar GPUs costosas

exo es mantenido por exo labs y lanzado bajo la licencia GPL-3.0.