1. Installation

Exécutez la commande suivante :

curl -sSL https://www.anyway.dev/install.sh | sh
Les deux binaires anyd et any-cm sont placés dans .local/bin/anyway.

Pour vérifier la version :

anyd --version
any-cm --version

2. Lancer Anyway

Le daemon Anyway (anyd) doit être en cours d'exécution sur chaque machine GPU que vous souhaitez gérer. Pour le lancer, exécutez la commande suivante :

anyd [--port=9100]
Info : Le daemon écoute par défaut sur le port 9100. Vous pouvez modifier ce port avec l'option --port. Une fois lancé, il accepte les commandes envoyées par le Control Manager.

3. Lancer le Control Manager

Le Control Manager d'Anyway (any-cm) peut s'exécuter sur une machine avec ou sans GPU. Il expose une interface utilisateur accessible depuis un navigateur, qui permet de gérer votre cluster de machines.

any-cm [--port=3000]
Info : Il s'exécute par défaut sur le port 3000. Vous pouvez modifier ce port avec l'option --port. Le tableau de bord est accessible depuis n'importe quel navigateur à l'adresse http://<control-manager-ip>:3000. Le Control Manager (any-cm) communique avec chaque processus Anyway (anyd) en cours d'exécution sur vos machines.
Premier lancement : Au tout premier démarrage, un compte administrateur (nom d'utilisateur admin) est créé avec un mot de passe aléatoire imprimé dans la console. Copiez-le avant de fermer le terminal, vous en aurez besoin pour vous connecter. Il vous sera demandé de le modifier immédiatement après la première connexion.

4. Connexion

Ouvrez votre navigateur et rendez-vous sur http://<control-manager-ip>:3000. L'écran de connexion s'affiche.

La page de connexion du Control Manager Anyway.

Utilisez admin comme nom d'utilisateur et le mot de passe imprimé dans la console lors du premier démarrage de any-cm. Après la connexion, il vous sera demandé de définir un nouveau mot de passe permanent.

Invite de changement de mot de passe à la première connexion.

Vous avez maintenant accès au Control Manager.

Premier aperçu du Control Manager.

5. Ajouter des machines

Avant de déployer un modèle, vous devez enregistrer vos machines GPU auprès du Control Manager. Chaque machine doit exécuter anyd (voir l'étape 2).

1 Dans le tableau de bord, cliquez sur l'icône Machines dans la barre latérale gauche, puis cliquez sur en haut à droite.
Le panneau Machines.
2 Indiquez l'adresse IP de la machine.
Formulaire d'enregistrement d'une machine.

Une fois vos machines ajoutées, elles apparaissent dans la vue Machines comme suit (les adresses IP de la capture ont été anonymisées).

Le panneau Machines.
Info : Vous pouvez ajouter autant de machines que nécessaire. Le Control Manager suit en temps réel la VRAM disponible sur l'ensemble des machines et utilise cette information pour décider où placer chaque nouveau déploiement de modèle.

6. Déployer un modèle

1 Cliquez sur l'icône Déploiement dans la barre latérale gauche, sélectionnez le modèle à déployer dans la liste, puis cliquez sur le bouton de déploiement .
Le panneau Modèles.

Le modèle est en cours de déploiement…

Le panneau Modèles.

Puis, déployé.

Le panneau Modèles.

Dans le panneau Machines, vous pouvez voir le modèle réparti sur les machines.

Le panneau Machines.
Info : Si le modèle est déjà téléchargé sur les disques de la machine, un label apparaît avec le niveau de quantisation du modèle. S'il ne l'est pas encore, vous pouvez cliquer sur l'icône de téléchargement pour le récupérer sans le déployer. Si vous tentez de déployer un modèle non encore téléchargé, il sera téléchargé automatiquement avant le déploiement.

7. Consulter les statistiques

Votre Control Manager collecte en continu les métriques GPU de chaque machine enregistrée (mise à jour toutes les secondes). Vous pouvez consulter les données en direct et l'historique depuis le panneau Statistiques.

Le panneau Statistiques.

8. Gérer les utilisateurs

Le Control Manager intègre un système de gestion des utilisateurs. En tant qu'administrateur, vous pouvez créer des comptes supplémentaires pour les collègues qui ont besoin d'accéder au tableau de bord. Vous pouvez créer des utilisateurs avec des privilèges administrateur ou de simples utilisateurs qui ne pourront ni ajouter ni retirer de machines. Les utilisateurs simples peuvent déployer des modèles sur les machines disponibles.

1 Cliquez sur l'icône de gestion des utilisateurs en bas de la barre latérale.
La page de gestion des utilisateurs.
2 Vous pouvez également créer un utilisateur. Cliquez sur le bouton « Create User ».
La page de gestion des utilisateurs.

9. Mettre à jour

La mise à jour d'Anyway utilise le même installeur qu'une nouvelle installation. Lancez la commande ci-dessous, puis redémarrez anyd et any-cm :

curl -sSL https://www.anyway.dev/install.sh | sh

Besoin d'aide ?

Email : contact@anyway.dev
Documentation : Des ressources complémentaires et des options de configuration avancées sont disponibles sur demande.