IA Distribuée
exo pour Mac Mini
Utilisez exo pour Mac Mini avec Macfleet CloudCréez Votre Propre Cluster IA
exo vous permet d'unifier vos appareils existants en un cluster GPU puissant. Il fonctionne avec iPhones, iPads, appareils Android, Macs, GPU NVIDIA, Raspberry Pis et presque tout autre appareil.
Fonctionnalités Clés
- Support de Modèles Étendus : Exécutez LLaMA, Mistral, LlaVA, Qwen, Deepseek et plus
- Partitionnement Dynamique de Modèles : Divisez les modèles entre appareils selon les ressources disponibles
- Découverte Automatique d'Appareils : Aucune configuration requise pour trouver d'autres appareils
- API Compatible ChatGPT : Changement d'une ligne pour exécuter des modèles sur votre propre matériel
- Égalité des Appareils : Architecture P2P sans hiérarchie maître-travailleur
Commencer
- Installez depuis les sources :
git clone https://github.com/exo-explore/exo.git
- Changez vers le répertoire :
cd exo
- Installez les dépendances :
pip install -e .
ousource install.sh
- Démarrez exo sur chaque appareil : exécutez simplement
exo
Parfait Pour
- Exécuter des modèles plus grands que ce qu'un seul appareil pourrait gérer
- Utilisateurs soucieux de la confidentialité voulant un traitement IA local
- Développeurs construisant des applications IA
- Utiliser le matériel existant au lieu d'acheter des GPU coûteux
exo est maintenu par exo labs et publié sous licence GPL-3.0.
Apple silicon as-a-Service
Discover why Macfleet is the preferred cloud provider for developers.