Développez gratuitement des applications intelligentes avec Github Models

Vous êtes développeur comme moi et vous souhaitez apprendre à développer des applications intelligentes utilisant la puissance des LLMs ou "Large Language Models" ?

Ces LLMs permettent aujourd'hui de construire rapidement de nouveaux cas d'usage autour de l'intelligence artificielle, le plus connu étant ChatGPT.

La très bonne nouvelle est que Github donne accès depuis peu de temps à un catalogue de LLMs pour les développeurs, et ceci gratuitement si vous avez un compte Github et vous propose plus de quota si vous disposez d'une licence Github Copilot active.

Parmi les modèles disponibles, on retrouve : OpenAI, Phi, Cohere, Llama, Mistral, JAIS, AI21...

Comment utiliser Github Models ?

Pour les utiliser gratuitement, rien de plus simple : vous devez tout simplement créer un compte Github, choisir votre modèle et ouvrir le "Playground" au sein de Github Models.

En cliquant sur le bouton "Code", Github vous proposera le code dans le langage de votre choix pour communiquer avec le LLM. Le code généré peut être utilisé directement, mais il est recommandé de vérifier et d'ajuster certains paramètres pour garantir une intégration optimale.

Vous devrez juste préalablement créer un jeton Github dans votre profil, avec aucun droit, pour permettre à Github d'autoriser les requêtes entrantes. Pour ce faire, accédez à vos paramètres de profil, choisissez "Developer settings", puis "Personal access tokens", et générez un nouveau jeton avec des droits minimaux.

Gestion des quotas et licences Github Copilot

Des quotas d'utilisation s'appliquent à chaque modèle, dépendant de votre licence : Github Copilot Business, Github Copilot Entreprise, ou sans licence Copilot.

Sur les modèles de plus petite taille, ces licences peuvent offrir 2 à 3 fois plus de quotas (150, 300 et 450 appels / jour). En revanche, pour les modèles plus avancés et plus complexes, l'impact reste assez limité. Par exemple, le modèle "o1 preview" peut être appelé 8 fois par jour avec une licence standard Github, 10 fois avec une licence Copilot Business et 12 fois avec une licence Copilot Entreprise.

Vous l'aurez compris, la gratuité vous permet uniquement d'utiliser ces modèles en phase de développement, une fois votre logiciel développpé et déployé en production, une souscription Azure vous sera nécessaire pour la facturation de l'utilisation du LLM en fonction du volume d'appels.

Conclusion

Github Models est une très belle découverte qui permettra à de nombreux développeurs de construire de nouveaux cas d'usages boostés à l'intelligence artificielle sans se ruiner.

Vous avez aussi la possibilité d'installer de petits LLMs sur votre ordinateur si celui-ci est suffisamment puissant. Pour cela, je vous invite à consulter mon précédent article sur Ollama et Mistral que vous pouvez aussi retrouver dans le magazine Programmez.