Vous pouvez choisir l'une des stratégies d'inférence suivantes:
L'inférence hors ligne, qui implique la création groupée de toutes les prédictions possibles avec un calcul MapReduce ou une méthode similaire. Les prédictions sont ensuite écrites dans une table SSTable ou Bigtable, puis transmises à une table de mise en cache/de recherche.
L'inférence en ligne, qui implique des prédictions à la demande à l'aide d'un serveur.
Pour en savoir plus sur l'inférence statique et l'inférence dynamique, regardez la vidéo suivante (2 min).
Inférence statique et inférence dynamique
Paradigmes du système de ML: inférence
Inférence hors ligne
Effectuez toutes les prédictions possibles dans un lot à l'aide d'un mapreduce ou d'une méthode similaire.
Écrire dans une table, puis les transmettre à une table de mise en cache/de recherche
Inférence en ligne
Effectuez des prédictions à la demande à l'aide d'un serveur.
Paradigmes du système de ML: inférence
Inférence hors ligne
Effectuez toutes les prédictions possibles dans un lot à l'aide d'un mapreduce ou d'une méthode similaire.
Écrire dans une table, puis les transmettre à une table de mise en cache/de recherche
Avantage: le coût de l'inférence est limité.
Avantage: il est possible d'utiliser des quotas de lots.
Avantage: les prédictions peuvent être vérifiées avant d'être utilisées.
Paradigmes du système de ML: inférence
Inférence hors ligne
Effectuez toutes les prédictions possibles dans un lot à l'aide d'un mapreduce ou d'une méthode similaire.
Écrire dans une table, puis les transmettre à une table de mise en cache/de recherche
Avantage: le coût de l'inférence est limité.
Avantage: il est possible d'utiliser des quotas de lots.
Avantage: les prédictions peuvent être vérifiées avant d'être utilisées.
Inconvénient: les prédictions ne peuvent être générées que pour les exemples connus, ce qui n'est pas optimal pour les requêtes de longue traîne.
Inconvénient: la latence des mises à jour se compte en heures, voire en jours.
Paradigmes du système de ML: inférence
Inférence en ligne
Effectuez des prédictions à la demande à l'aide d'un serveur.
Avantage: les prédictions sont générées au fur et à mesure de leur arrivée, ce qui est idéal pour les requêtes de longue traîne.
Paradigmes du système de ML: inférence
Inférence en ligne
Effectuez des prédictions à la demande à l'aide d'un serveur.
Avantage: les prédictions sont générées au fur et à mesure de leur arrivée, ce qui est idéal pour les requêtes de longue traîne.
Inconvénient: des ressources de calcul importantes et sensibles à la latence, peuvent limiter la complexité du modèle.
Inconvénient: cette méthode nécessite davantage de surveillance.
Résumé du cours vidéo
Voici les avantages et les inconvénients de l'inférence hors ligne:
Avantage: le coût de l'inférence est limité.
Avantage: il est possible d'utiliser des quotas de lots ou un calcul MapReduce géant.
Avantage: les prédictions peuvent être vérifiées avant d'être utilisées.
Inconvénient: les prédictions ne peuvent être générées que pour les exemples connus, ce qui n'est pas optimal pour les requêtes de longue traîne.
Inconvénient: la latence des mises à jour se compte généralement en heures, voire en jours.
Voici les avantages et les inconvénients de l'inférence en ligne:
Avantage: il peut effectuer des prédictions sur n'importe quel nouvel élément au fur et à mesure de son arrivée, ce qui est idéal pour les requêtes de longue traîne.
Inconvénient: les ressources de calcul sont importantes et sensibles à la latence, et peuvent limiter la complexité du modèle.
Inconvénient: les besoins de surveillance sont plus poussés.
Sauf indication contraire, le contenu de cette page est régi par une licence Creative Commons Attribution 4.0, et les échantillons de code sont régis par une licence Apache 2.0. Pour en savoir plus, consultez les Règles du site Google Developers. Java est une marque déposée d'Oracle et/ou de ses sociétés affiliées.
