Batch-Durchsatz

Er zeigt Elemente pro Sekunde, Minute und Stunde und vergleicht diese Kapazität auf Wunsch mit einem Ziel. Bei Angabe einer Zielrate berechnet er die kleinste erforderliche ganzzahlige Batch-Größe bei gleicher Dauer und das längste zulässige Intervall für den vorhandenen Batch. So prüfen Sie Kapazitätsannahmen, bevor Sie Worker, Queue-Consumer, Importe, Inferenzjobs oder geplante Massenvorgänge optimieren.

Überführen Sie Batch-Verhalten in eine vergleichbare Rate

Batch-Systeme werden häufig mit zwei Zahlen beschrieben, die sich nicht direkt vergleichen lassen: der Zahl der Elemente pro Lauf und dessen Dauer. Der Rechner teilt die Batch-Größe durch die Batch-Dauer und ermittelt damit den effektiven Durchsatz in Elementen pro Sekunde. Anschließend rechnet er dieselbe Rate auf Minute und Stunde hoch. Ein Worker, der alle 20 Sekunden 500 Elemente abschließt, erreicht beispielsweise 25 Elemente pro Sekunde, sofern der nächste Batch ohne zusätzliche Verzögerung starten kann. Verwenden Sie die Zeit von Start zu Start, wenn Einrichtung, Polling, Wartezeit oder Queue-Verzögerung zum tatsächlichen Zyklus gehören. Verwenden Sie nur die Verarbeitungszeit, wenn diese Verzögerungen separat erfasst werden. Das Ergebnis ist ein Mittelwert und bedeutet nicht, dass einzelne Elemente gleichmäßig fertig werden. Ein Batch kann sämtliche Resultate zugleich freigeben und dennoch den angegebenen Durchsatz erreichen. Diese Unterscheidung verhindert, dass bei Vergleichen mit Streaming-Workern Auslieferungslatenz und Verarbeitungskapazität verwechselt werden.

Planen Sie die Batch-Größe für eine Zielrate

Geben Sie eine Zielrate in Elementen pro Sekunde an, wenn Sie prüfen möchten, ob die Konfiguration mit Eingängen oder einem Serviceziel Schritt hält. Der Rechner multipliziert das Ziel mit der aktuellen Dauer und rundet auf das nächste ganze Element auf. Das Aufrunden ist notwendig: Ein Bruchteil eines Elements kann nicht hinzugefügt werden, und Abrunden würde weniger Kapazität als gefordert ergeben. Die erforderliche Batch-Größe ist daher die kleinste Ganzzahl, die das Ziel bei unveränderter Dauer erreicht oder übertrifft. Die resultierende Rate zeigt den kleinen Spielraum durch die Rundung. Dieses Szenario setzt voraus, dass ein größerer Batch nicht länger dauert. Das ist eine nützliche Erstschätzung, doch Datenbanken, API, Speicher und parallele Worker können nichtlinear skalieren. Testen Sie die vorgeschlagene Größe mit repräsentativen Nutzlasten und geben Sie das gemessene Intervall erneut ein. Durch Wiederholung ersetzen Sie eine optimistische Annahme durch Messwerte des realen Systems.

Bestimmen Sie das zulässige Intervall des vorhandenen Batches

Mitunter lässt sich die Batch-Größe nicht ändern, weil eine vorgelagerte API, ein Transaktionslimit, der Speicher oder der Message-Broker eine Obergrenze setzt. Dann berechnet die Analyse auch die maximal zulässige Dauer bei aktueller Größe, indem sie die Elementzahl durch die Zielrate teilt. Ein Batch mit 600 Elementen und einem Ziel von 40 Elementen pro Sekunde muss etwa in einem Startintervall von höchstens 15 Sekunden abgeschlossen sein. Vergleichen Sie diese Grenze mit hohen Perzentilen gemessener Zeiten, nicht nur mit dem schnellsten Lauf oder Mittelwert. Überschreiten normale Schwankungen die Grenze, kann die Nennkonfiguration das Ziel erfüllen, während die Produktionswarteschlange trotzdem wächst. Das Ratenverhältnis fasst die Reserve zusammen: über eins bedeutet Überschuss, eins genaue Übereinstimmung und unter eins ein Defizit. Das Modell nimmt eine sequenzielle Spur an. Bei mehreren gleichen Workern verwenden Sie deren kombinierte Größe über ein gemeinsames Intervall oder addieren die nachhaltigen Raten nur bei ausgeglichener Last.