Inferencia estática o dinámica

Puedes elegir cualquiera de las siguientes estrategias de inferencia:

  • Inferencia sin conexión: Significa que realizas todas las predicciones posibles en un lote, a través de MapReduce o un cómputo similar. Luego, escribes las predicciones en SSTable o Bigtable, y luego las proporcionas a una tabla de búsqueda o caché.
  • Inferencia en línea: Significa que predices a pedido mediante un servidor.

Obtén más información sobre la inferencia estática y dinámica en el siguiente video (2 min).

Inferencia estática o dinámica

Inferencia sin conexión

  • Realiza todas las predicciones posibles en un lote, a través de Mapreduce o similar.
  • Escribir en una tabla y, luego, ingresarlas en una tabla de consulta o caché

Inferencia en línea

  • Predecir a pedido con un servidor

Inferencia sin conexión

  • Realiza todas las predicciones posibles en un lote, a través de Mapreduce o similar.
  • Escribir en una tabla y, luego, ingresarlas en una tabla de consulta o caché
  • Aspecto positivo: No necesitas preocuparte por el costo de la inferencia.
  • Aspecto positivo: Es probable que se pueda usar la cuota de lote.
  • Aspecto positivo: Es posible realizar una verificación posterior sobre los datos predichos antes de insertarlos.

Inferencia sin conexión

  • Realiza todas las predicciones posibles en un lote, a través de Mapreduce o similar.
  • Escribir en una tabla y, luego, ingresarlas en una tabla de consulta o caché
  • Aspecto positivo: No necesitas preocuparte por el costo de la inferencia.
  • Aspecto positivo: Es probable que se pueda usar la cuota de lote.
  • Aspecto positivo: Es posible realizar una verificación posterior sobre los datos predichos antes de insertarlos.
  • Aspecto negativo: Solo puedes predecir elementos conocidos, lo que representa una desventaja en los casos de una cola larga.
  • Aspecto negativo: Es probable que la latencia actualizada se mida en horas o días.

Inferencia en línea

  • Predecir a pedido con un servidor
  • Aspecto positivo: Puedes predecir cualquier elemento nuevo a medida que surge, lo cual resulta ideal en los casos de una cola larga.

Inferencia en línea

  • Predecir a pedido con un servidor
  • Aspecto positivo: Puedes predecir cualquier elemento nuevo a medida que surge, lo cual resulta ideal en los casos de una cola larga.
  • Aspecto negativo: El procesamiento es intensivo y sensible a la latencia, lo que puede limitar la complejidad del modelo.
  • Aspecto negativo: Las necesidades de supervisión son más intensivas.

Resumen de la clase en video

Estas son las ventajas y desventajas de la inferencia sin conexión:

  • Ventaja: No necesitas preocuparte por el costo de la inferencia.
  • Ventaja: Es probable que se pueda usar la cuota de lote o un MapReduce gigante.
  • Ventaja: Es posible realizar una verificación posterior de las predicciones antes de insertarlas.
  • Desventaja: Solo puedes predecir elementos conocidos, lo que representa un aspecto negativo en los casos de una cola larga.
  • Desventaja: Es probable que la latencia actualizada se mida en horas o días.

Estos son los pros y los contras de la inferencia en línea:

  • Ventaja: Puedes predecir cualquier elemento nuevo a medida que surge, lo que resulta ideal en los casos de una cola larga.
  • Desventaja: El procesamiento es intensivo y sensible a la latencia, ya que puede limitar la complejidad del modelo.
  • Desventaja: Las necesidades de supervisión son más intensivas.