Inférences statique et dynamique: testez vos connaissances

Inférence statique (hors ligne)

Explorez les options ci-dessous.

Dans le cadre de l'inférence hors ligne, nous effectuons des prédictions sur un grand nombre de données à la fois. Nous plaçons ensuite ces prédictions dans une table de recherche pour une utilisation ultérieure. Parmi les affirmations suivantes concernant l'inférence hors ligne, lesquelles sont vraies ?
Nous devons créer des prédictions pour toutes les entrées possibles.
Oui, nous devrons effectuer des prédictions pour toutes les entrées possibles et les stocker dans un cache ou une table de recherche pour utiliser l'inférence hors connexion. C'est l'un des inconvénients de l'inférence hors ligne. Nous ne pouvons fournir une prédiction que pour les exemples que nous connaissons déjà. Cela convient si l'ensemble d'éléments que nous prédisons est limité, comme toutes les villes du monde ou tous les éléments d'une table de base de données. Toutefois, pour les entrées de forme libre, telles que les requêtes utilisateur comportant une longue traîne d'éléments inhabituels ou rares, nous ne pourrions pas fournir une couverture complète avec un système d'inférence hors connexion.
Une fois les prédictions générées, nous pouvons les vérifier avant de les appliquer.
C'est en effet l'un des avantages de l'inférence hors ligne. Nous pouvons contrôler l'intégrité de toutes nos prédictions avant qu'elles ne soient utilisées.
Les prédictions sont obtenues plus rapidement qu'avec l'inférence en ligne.
L'un des grands avantages de l'inférence hors connexion est qu'une fois les prédictions écrites dans une table de recherche, elles peuvent être diffusées avec une latence minimale. Aucun calcul de caractéristiques ni aucune inférence de modèle ne doivent être effectués au moment de la requête.
Nous devons surveiller attentivement nos signaux d'entrée sur une longue période.
C'est le seul cas où nous n'avons pas réellement besoin de surveiller les signaux d'entrée sur une longue période. En effet, une fois les prédictions écrites dans une table de recherche, nous ne dépendons plus des caractéristiques d'entrée. Notez que toute mise à jour ultérieure du modèle nécessitera une nouvelle série de vérification des entrées.
Nous serons en mesure de réagir rapidement aux changements qui interviennent dans le monde.
Non, c'est un inconvénient de l'inférence hors ligne. Nous devons attendre qu'un nouvel ensemble de prédictions ait été écrit dans la table de recherche avant de pouvoir répondre différemment en fonction des évolutions du monde.

Inférence dynamique (en ligne)

Explorez les options ci-dessous.

L'inférence dynamique (en ligne) consiste à réaliser des prédictions à la demande. En d'autres termes, dans l'inférence en ligne, nous plaçons le modèle entraîné sur un serveur et émettons des requêtes d'inférence en fonction des besoins. Parmi les affirmations suivantes concernant l'inférence dynamique, lesquelles sont vraies ?
Vous pouvez fournir des prédictions pour tous les éléments possibles.
Oui, c'est un point fort de l'inférence en ligne. Un score est attribué à chaque requête effectuée. L'inférence en ligne gère les distributions à longue traîne (celles contenant de nombreux éléments rares), comme l'espace de toutes les phrases possibles écrites dans des critiques de films.
Vous pouvez effectuer une vérification post-vérification des prédictions avant qu'elles ne soient utilisées.
En général, il n'est pas possible d'effectuer une post-vérification de toutes les prédictions avant qu'elles ne soient utilisées, car elles sont effectuées à la demande. Vous pouvez toutefois surveiller les qualités des prédictions agrégées pour effectuer des contrôles d'intégrité, mais celles-ci ne déclenchent des alarmes incendie que lorsque l'incendie est déjà propagé.
Vous devez surveiller attentivement les signaux d'entrée.
Oui. Les signaux peuvent changer soudainement en raison de problèmes en amont, ce qui peut nuire à nos prédictions.
Lorsque vous effectuez une inférence en ligne, vous n'avez pas à vous soucier de la latence des prédictions (temps de latence pour le renvoi des prédictions) autant que lors de l'inférence hors connexion.
La latence des prédictions est souvent une préoccupation majeure dans l'inférence en ligne. Malheureusement, vous ne pouvez pas nécessairement résoudre les problèmes de latence des prédictions en ajoutant davantage de serveurs d'inférence.