Logs mit BigQuery analysieren

BigQuery ist ein leistungsstarkes Tool für Analysen. Sie können sie verwenden, um Logs langfristig zu speichern und SQL-ähnliche Abfragen für die Daten auszuführen. Wenn Sie BigQuery für die Analyse verwenden möchten, müssen Sie Ihre Logs explizit an BigQuery weiterleiten, wie im nächsten Abschnitt beschrieben.

Logs an BigQuery weiterleiten

  1. Erstellen Sie im Log-Explorer einen Filter, mit dem die Fleet Engine-Logs isoliert werden: Fleetengine.googleapis.com/Fleet.
  2. Klicken Sie im Bereich Abfrageergebnisse auf das Menü Aktionen oder Weitere Aktionen und wählen Sie Senke erstellen aus.
  3. Geben Sie einen Senkennamen an, z. B. FleetEngineLogsSink. Klicken Sie auf Weiter.
  4. Wählen Sie unter Senkenziel die Option BigQuery-Dataset aus.
  5. Wählen Sie unter BigQuery-Dataset auswählen die Option Neues BigQuery-Dataset erstellen aus.
  6. Geben Sie im Dialogfeld Dataset erstellen eine Dataset-ID ein.
  7. Lassen Sie alle anderen Einstellungen unverändert und klicken Sie auf Dataset erstellen.
  8. Klicken Sie das Kästchen Partitionierte Tabellen verwenden an. Klicken Sie auf Weiter.
  9. Lassen Sie die Einstellungen unter Logs auswählen, die in der Senke enthalten sind und Auswählen zum Filtern aus der Senke unverändert.
  10. Klicken Sie auf Senke erstellen.

Die Logs sollten jetzt in das BigQuery-Dataset übertragen werden. Das kann eine Weile dauern. Weitere Informationen finden Sie unter Logs an unterstützte Ziele weiterleiten.

Sobald Sie Logdaten an BigQuery weiterleiten, werden automatisch mehrere Tabellen im Dataset FleetEngineLogs ausgefüllt, eine für jeden Logtyp:

  • CreateVehicle
  • GetVehicle
  • ListVehicles
  • SearchVehicles
  • UpdateVehicle
  • CreateTrip
  • GetTrip
  • UpdateTrip
  • ListTrips

Die Tabellennamen folgen dem folgenden Muster:

project_id.data_set.log_name

Wenn das Projekt beispielsweise test-project heißt und der Dataset-Name FleetEngineLogs lautet, hat die Tabelle CreateTrip den folgenden Namen:

test-project.FleetEngineLogs.fleetengine_googleapis_com_create_trip

Beispielabfragen für BigQuery

Die folgenden Beispielabfragen zeigen, wie Sie in BigQuery nach verschiedenen Logeinträgen suchen können.

Anzahl der CreateTrips-Protokolle, gruppiert nach Stunde

    SELECT TIMESTAMP_TRUNC(timestamp, HOUR) as hour,
           count(*) as num_trips_created
    FROM
    `ProjectId.FleetEngineLogs.fleetengine_googleapis_com_create_trip`
    GROUP BY hour
    ORDER by hour

Anzahl der Stopps pro Fahrzeug und Stunde

    SELECT
      jsonpayload_v1_updatevehiclelog.request.vehicleid AS vehicle,
      TIMESTAMP_TRUNC(timestamp, HOUR) AS hour,
      COUNT(*) AS num_stops
    FROM
      `ProjectId.FleetEngineLogs.fleetengine_googleapis_com_update__vehicle`
    WHERE
    ARRAY_LENGTH(jsonpayload_v1_updatevehiclelog.request.vehicle.remainingvehiclejourneysegments) > 0
    AND jsonpayload_v1_updatevehiclelog.request.vehicle.remainingvehiclejourneysegments[
    OFFSET
    (0)].stop.state = 'VEHICLE_STOP_STATE_LOG_ARRIVED'
    GROUP BY
    1,
    2
    ORDER BY
    2

Mit dieser Abfrage können Sie beispielsweise Folgendes herausfinden:

  • Fahrzeug A hat in Stunde 12 zehn Haltestellen und in Stunde 13 acht Haltestellen angefahren.
  • Fahrzeug B hat in Stunde 11 fünf und in Stunde 12 sieben Stopps eingelegt.
  • Fahrzeug C hat in Stunde 13 12 Haltestellen und in Stunde 14 9 Haltestellen angefahren.

Weitere Informationen

BigQuery in Looker Studio einbinden

BigQuery lässt sich in Business-Intelligence-Tools einbinden, um Dashboards für die Geschäftsanalyse zu erstellen. Weitere Informationen zu Looker Studio

Im folgenden Beispiel wird gezeigt, wie Sie ein Looker Studio-Dashboard erstellen, um Fahrten und Fahrzeugbewegungen auf einer Karte zu visualisieren.

  1. Erstellen Sie ein neues Looker Studio-Dashboard und wählen Sie BigQuery als Datenverbindung aus.
  2. Wählen Sie Benutzerdefinierte Abfrage aus und geben Sie das Cloud-Projekt, dem die Kosten in Rechnung gestellt werden sollen, manuell ein oder wählen Sie es aus.
  3. Geben Sie eine der folgenden Abfragen in das Abfragefeld ein.

Beispielabfrage für On-Demand-Fahrten

    SELECT
     timestamp,
     labels.vehicle_id,
    jsonpayload_v1_updatevehiclelog.response.lastlocation.location.latitude AS lat,
    jsonpayload_v1_updatevehiclelog.response.lastlocation.location.longitude AS lng
    FROM
    `ProjectId.TableName.fleetengine_googleapis_com_update_vehicle`

Beispielabfrage für geplante Aufgaben

    SELECT
    labels.delivery_vehicle_id,
    jsonpayload_v1_updatedeliveryvehiclelog.response.lastlocation.rawlocation.longitude as lat, jsonpayload_v1_updatedeliveryvehiclelog.response.lastlocation.rawlocation.latitude as lng
    FROM `ProjectID.TableName.fleetengine_googleapis_com_update_delivery_vehicle`
  1. Wählen Sie Karte mit Blasen als Diagrammtyp und dann das Feld Standort aus.
  2. Wählen Sie Feld hinzufügen aus.
  3. Geben Sie dem Feld einen Namen und fügen Sie die folgende Formel hinzu: CONCAT(lat, ",", lng).
  4. Legen Sie den Typ auf Standort → Breitengrad, Längengrad fest.
  5. Sie können dem Dashboard Steuerelemente hinzufügen, um Daten zu filtern. Wählen Sie beispielsweise den Filter Zeitraum aus.
  6. Bearbeiten Sie das Feld für den Zeitraum, um einen Standardzeitraum auszuwählen.
  7. Sie können zusätzliche Drop-down-Listen für vehicle_id hinzufügen. Mit diesen Steuerelementen können Sie die Bewegung des Fahrzeugs oder die Bewegung während einer Fahrt visualisieren.

Looker Studio-Beispielausgabe:

Looker Studio-Beispielausgabe

Nächste Schritte

Informationen zur Einhaltung von Richtlinien zur Datenaufbewahrung finden Sie unter Aufbewahrung von Logs einschränken.