Les projets de ML nécessitent des équipes dont les membres possèdent un éventail de compétences, d'expertises et de responsabilités liées au machine learning. Voici les rôles les plus courants dans les équipes de ML:
| Rôle | Connaissances et compétences | Livrable principal |
|---|---|---|
| Responsable produit ML | Les responsables produit ML ont une connaissance approfondie des forces et des faiblesses du ML, ainsi que du processus de développement du ML. Ils alignent les problèmes métier sur les solutions de ML en travaillant directement avec l'équipe de ML, les utilisateurs finaux et les autres personnes concernées. Ils créent la vision du produit, définissent les cas d'utilisation et les exigences, et planifient et hiérarchisent les projets. |
Document sur les exigences du produit (PRD) |
| Responsable ingénierie | Les responsables techniques atteignent les objectifs commerciaux en définissant, en communiquant et en atteignant les priorités de l'équipe. Comme les responsables produit ML, ils alignent les solutions ML sur les problèmes métier. Ils définissent des attentes claires pour les membres de l'équipe, effectuent des évaluations des performances et aident au développement professionnel et de carrière. |
Documents de conception, plans de projet et évaluations des performances |
| Data scientist | Les data scientists utilisent l'analyse quantitative et statistique pour extraire des insights et de la valeur des données. Ils aident à identifier et à tester des fonctionnalités, à créer des prototypes de modèles et à améliorer l'interprétabilité des modèles. | Rapports et visualisations de données qui répondent à des questions commerciales grâce à une analyse statistique |
| Ingénieur en ML | Les ingénieurs en ML conçoivent, compilent, mettent en production et gèrent des modèles de ML. Il s'agit d'ingénieurs logiciels expérimentés qui possèdent une connaissance approfondie des technologies et des bonnes pratiques du ML. | Modèle déployé avec une qualité de prédiction suffisante pour atteindre les objectifs commerciaux. |
| Ingénieur de données | Les ingénieurs de données créent des pipelines de données pour stocker, agréger et traiter de grandes quantités de données. Ils développent l'infrastructure et les systèmes permettant de collecter et de transformer les données brutes en formats utiles pour l'entraînement et le traitement des modèles. Les ingénieurs de données sont responsables des données tout au long du processus de développement du ML. | Pipelines de données entièrement mis en production avec la surveillance et les alertes nécessaires. |
| Ingénieur DevOps | Les ingénieurs DevOps développent, déploient, étendent et surveillent l'infrastructure de diffusion des modèles de ML. | Processus automatisé d'exécution, de surveillance, de test et d'alerte sur le comportement d'un modèle. |
Les projets de ML réussis comportent des équipes dans lesquelles chaque rôle est bien représenté. Dans les petites équipes, les membres doivent assumer les responsabilités de plusieurs rôles.
Établir des pratiques d'équipe
Étant donné que les rôles, les outils et les frameworks varient considérablement dans le développement du ML, il est essentiel d'établir des pratiques courantes grâce à une excellente documentation des processus. Par exemple, un ingénieur peut penser qu'il suffit d'obtenir les bonnes données pour commencer à entraîner un modèle, tandis qu'un ingénieur plus responsable vérifiera que l'ensemble de données est correctement anonymisé, et documentera ses métadonnées et sa provenance. En veillant à ce que les ingénieurs partagent des définitions communes pour les processus et les modèles de conception, vous réduisez la confusion et augmentez la vitesse de l'équipe.
Documentation du processus
Les documents de processus doivent définir les outils, l'infrastructure et les processus que l'équipe utilisera pour le développement du ML. De bonnes documentations de processus aident à aligner les nouveaux et les anciens membres de l'équipe. Elles doivent répondre aux types de questions suivants:
- Comment les données sont-elles générées pour le modèle ?
- Comment examinons-nous, validons-nous et visualisons-nous les données ?
- Comment modifier une caractéristique ou une étiquette d'entrée dans les données d'entraînement ?
- Comment personnaliser le pipeline de génération de données, d'entraînement et d'évaluation ?
- Comment modifier l'architecture du modèle pour tenir compte des modifications apportées aux fonctionnalités ou aux libellés d'entrée ?
- Comment obtenir des exemples de tests ?
- Quelles métriques allons-nous utiliser pour évaluer la qualité du modèle ?
- Comment lancer nos modèles en production ?
- Comment saurons-nous si notre modèle présente un problème ?
- De quels systèmes en amont nos modèles dépendent-ils ?
- Comment rendre mon code SQL maintenable et réutilisable ?
Autres questions possibles
ModèlePuis-je entraîner des modèles sur différents ensembles de données dans le même pipeline, par exemple pour un réglage fin ?
Comment ajouter un nouvel ensemble de données de test à mon pipeline ?
Comment vérifier la prédiction du modèle sur un exemple créé manuellement ?
Comment trouver, examiner et visualiser des exemples où le modèle a commis des erreurs ?
Comment déterminer quelle caractéristique a été la plus responsable d'une prédiction donnée ?
Comment savoir quelles caractéristiques ont le plus d'impact sur les prédictions dans un échantillon donné ?
Comment calculer ou représenter les prédictions du modèle sur un ensemble de données ou un échantillon choisi ?
Comment calculer les métriques standards pour les prédictions de mon modèle sur un ensemble de données choisi ?
Comment développer et calculer des métriques personnalisées ?
Comment comparer mon modèle à d'autres modèles hors connexion ?
Puis-je effectuer une méta-analyse pour plusieurs évaluations de modèles dans un seul environnement de développement ?
Puis-je comparer le modèle actuel à celui d'il y a 10 mois ?
Je pense avoir créé un bon modèle. Comment puis-je le lancer en production ?
Comment vérifier que mon nouveau modèle fonctionne correctement en production ?
Puis-je obtenir l'historique des évaluations de modèle au fil du temps ?
Comment savoir si le modèle présente un problème ?
On m'a attribué une page/un bug faisant référence au modèle. Que dois-je faire ?
Comment puis-je personnaliser le pipeline de génération/entraînement/évaluation des données ?
Quand et comment créer un pipeline entièrement nouveau ?
J'ai besoin de SQL pour générer des données. Où dois-je le placer ?
Comment fonctionne la diffusion de notre modèle ? Existe-t-il un schéma ?
Quels systèmes en amont mon modèle dépend-il et que dois-je savoir à ce sujet ?
Je ne comprends pas. Qui dois-je contacter (et comment) ?
À retenir
Les bonnes pratiques en matière de ML peuvent varier d'une entreprise à l'autre, d'une équipe à l'autre et d'une personne à l'autre. Par exemple, certains membres de l'équipe peuvent considérer les Colabs expérimentaux comme le principal livrable, tandis que d'autres voudront travailler en R. Certains peuvent être passionnés par l'ingénierie logicielle, d'autres pensent que la surveillance est la chose la plus importante, et d'autres encore connaissent de bonnes pratiques de production de fonctionnalités, mais souhaitent utiliser Scala. Chacun a "raison" de son point de vue, et si le mix est bien dirigé, il sera puissant. Sinon, cela peut être un désordre.
Établir les outils, les processus et l'infrastructure que l'équipe utilisera avant d'écrire une ligne de code peut faire la différence entre un échec du projet au bout de deux ans ou un lancement réussi un trimestre en avance sur le calendrier.
Évaluations des performances
En raison de l'ambiguïté et de l'incertitude inhérentes au ML, les responsables des ressources humaines doivent définir des attentes claires et définir les livrables à l'avance.
Lorsque vous déterminez les attentes et les livrables, réfléchissez à la façon dont ils seront évalués si un projet ou une approche ne sont pas couronnés de succès. En d'autres termes, il est important que les performances d'un membre de l'équipe ne soient pas directement liées au succès du projet. Par exemple, il n'est pas rare que les membres de l'équipe passent des semaines à examiner des solutions qui finissent par échouer. Même dans ces cas, leur code de haute qualité, leur documentation approfondie et leur collaboration efficace devraient contribuer positivement à leur évaluation.