Inferencia estática o dinámica: Comprueba tus conocimientos

Inferencia estática (sin conexión)

Explora las opciones que aparecen a continuación.

En la inferencia sin conexión, hacemos predicciones sobre un gran lote de datos a la vez. Luego colocamos esas predicciones en una tabla de búsqueda para utilizarlas más adelante. ¿Cuáles de las siguientes afirmaciones sobre la inferencia fuera de línea son verdaderas?
Debemos crear predicciones para todas las entradas posibles.
Sí, tendremos que hacer predicciones para todas las entradas posibles y almacenarlas en una caché o en una tabla de consulta a fin de usar la inferencia sin conexión. Esta es una de las desventajas de la inferencia sin conexión. Solo podremos ofrecer una predicción de aquellos ejemplos que ya conocemos. Esto está bien si el conjunto de cosas que estamos prediciendo es limitado, como todas las ciudades del mundo o todos los elementos de una tabla de una base de datos. Sin embargo, en el caso de las entradas de formato libre, como las consultas de usuarios que tienen una larga cola de elementos inusuales o raros, no podríamos proporcionar una cobertura completa con un sistema de inferencia sin conexión.
Después de generar las predicciones, podemos verificarlas antes de aplicarlas.
De hecho, esto es algo útil sobre la inferencia sin conexión. Podemos realizar una comprobación de estado y verificar todas nuestras predicciones antes de que se utilicen.
Para una entrada determinada, podemos entregar una predicción de forma más rápida que con la inferencia en línea.
Uno de los aspectos interesantes de la inferencia sin conexión es que, una vez que las predicciones se escriben en una tabla de búsqueda, se pueden entregar con una latencia mínima. No es necesario realizar cómputo de atributos ni inferencias del modelo en el momento de la solicitud.
Las señales de entrada se deben supervisar atentamente durante un período prolongado.
Este es el único caso en el que no necesitamos supervisar las señales de entrada durante un período prolongado. Esto se debe a que, una vez que las predicciones se escriben en una tabla de búsqueda, ya no dependemos de los atributos de entrada. Ten en cuenta que cualquier actualización posterior del modelo requerirá una nueva ronda de verificación de entrada.
Podremos reaccionar rápidamente a los cambios en el mundo.
No, esta es una desventaja de la inferencia sin conexión. Tendremos que esperar hasta que se haya escrito un nuevo conjunto de predicciones en la tabla de búsqueda para poder responder de manera diferente en función de los cambios en el mundo.

Inferencia dinámica (en línea)

Explora las opciones que aparecen a continuación.

Inferencia dinámica (en línea) significa realizar predicciones a pedido. Es decir, en la inferencia en línea, colocamos el modelo entrenado en un servidor y emitimos solicitudes de inferencia según sea necesario. ¿Cuáles de las siguientes afirmaciones sobre la inferencia dinámica son verdaderas?
Puedes proporcionar predicciones para todos los elementos posibles.
Sí, este es un aspecto positivo de la inferencia en línea. Se calificarán todas las solicitudes que ingresen. La inferencia en línea maneja las distribuciones de cola larga (aquellas con muchos elementos raros), como el espacio de todas las oraciones posibles escritas en reseñas de películas.
Puedes realizar una verificación posterior de las predicciones antes de que se usen.
En general, no es posible realizar una verificación posterior de todas las predicciones antes de que se utilicen, ya que las predicciones se realizan a pedido. Sin embargo, puedes supervisar potencialmente las calidades de predicción agregadas para proporcionar cierto nivel de comprobación de estado, pero estas señalarán las alarmas solo después de que los problemas se hayan propagado.
Debes supervisar cuidadosamente las señales de entrada.
Sí. Las señales pueden cambiar repentinamente debido a problemas de nivel superior, lo que afectaría nuestras predicciones.
Cuando realizas inferencias en línea, no necesitas preocuparte por la latencia de predicción (el tiempo de retraso para que se muestren predicciones) tanto como cuando se realiza una inferencia sin conexión.
A menudo, la latencia de predicción es una preocupación real en la inferencia en línea. Lamentablemente, los problemas de latencia de predicción no necesariamente se solucionan si agregas más servidores de inferencia.