IA Distribuée

exo pour Mac Mini

Utilisez exo pour Mac Mini avec Macfleet Cloud
Cluster IA distribué plateforme exo

Créez Votre Propre Cluster IA

exo vous permet d'unifier vos appareils existants en un cluster GPU puissant. Il fonctionne avec iPhones, iPads, appareils Android, Macs, GPU NVIDIA, Raspberry Pis et presque tout autre appareil.

Fonctionnalités Clés

  • Support de Modèles Étendus : Exécutez LLaMA, Mistral, LlaVA, Qwen, Deepseek et plus
  • Partitionnement Dynamique de Modèles : Divisez les modèles entre appareils selon les ressources disponibles
  • Découverte Automatique d'Appareils : Aucune configuration requise pour trouver d'autres appareils
  • API Compatible ChatGPT : Changement d'une ligne pour exécuter des modèles sur votre propre matériel
  • Égalité des Appareils : Architecture P2P sans hiérarchie maître-travailleur

Commencer

  1. Installez depuis les sources : git clone https://github.com/exo-explore/exo.git
  2. Changez vers le répertoire : cd exo
  3. Installez les dépendances : pip install -e . ou source install.sh
  4. Démarrez exo sur chaque appareil : exécutez simplement exo

Parfait Pour

  • Exécuter des modèles plus grands que ce qu'un seul appareil pourrait gérer
  • Utilisateurs soucieux de la confidentialité voulant un traitement IA local
  • Développeurs construisant des applications IA
  • Utiliser le matériel existant au lieu d'acheter des GPU coûteux

exo est maintenu par exo labs et publié sous licence GPL-3.0.

Apple silicon as-a-Service

Discover why Macfleet is the preferred cloud provider for developers.