feat: add benchmar Make target

This commit is contained in:
samsonium
2026-10-29 03:25:48 +03:00
parent f4c97795fa
commit eeca5e653d
6 changed files with 92 additions and 3 deletions
+2 -1
View File
@@ -3,7 +3,9 @@
# Dirs
!/docs
!/exl
!/benchmarks
!/include
!/scripts
!/src
!/tests
@@ -15,4 +17,3 @@
!/Makefile
!/README.md
!/README.ru.md
+11 -1
View File
@@ -1,4 +1,9 @@
.PHONY: build debug-c debug-vm test
.PHONY: build debug-c debug-vm test bench
BENCH_FILE ?= benchmarks/loop.fzs
RUNS ?= 7
WARMUP ?= 2
MAX_ITER ?= 2000000
build:
cmake -S . -B build -DCMAKE_BUILD_TYPE=Debug
@@ -17,3 +22,8 @@ debug-vm: build
test: build
ctest --output-on-failure --test-dir build
# Compile the benchmark once, then measure only VM process execution.
bench: build-release
./build/fzc -o build/benchmark.fzb $(BENCH_FILE)
python3 scripts/benchmark.py --runs $(RUNS) --warmup $(WARMUP) \
--max-iter $(MAX_ITER) --vm ./build/fz --program build/benchmark.fzb
+17
View File
@@ -51,3 +51,20 @@ $ make debug-c FILE=exl/hw.fzs
Для проверки новых фич, нужно использовать make-таргет `test`, а тесты писать в `CMakeLists.txt`.
### Бенчмаркинг
`make bench` собирает Release-версию, компилирует `benchmarks/loop.fzs` один раз и
измеряет время запуска программы в виртуальной машине. По умолчанию выполняются
2 прогрева и 7 замеров; выводятся медиана, среднее, минимум и максимум. Компиляция
исходника в измерения не входит.
Параметры можно переопределить:
```shell
make bench RUNS=15 WARMUP=3
make bench BENCH_FILE=path/to/program.fzs MAX_ITER=2000000
```
Измеряется полное время запуска процесса `fz` (включая загрузку программы), а не
только цикл интерпретации. Для сопоставимых результатов запускайте бенчмарк на
одной машине и не меняйте нагрузку между прогонами.
+8
View File
@@ -0,0 +1,8 @@
// Integer loop workload for measuring VM execution without I/O.
uint i = 0;
uint sum = 0;
for (i = 0; i < 1000000; i = i + 1)
{
sum = sum + i;
}
+53
View File
@@ -0,0 +1,53 @@
#!/usr/bin/env python3
"""Run an FZL VM benchmark and report wall-clock timing statistics."""
import argparse
import statistics
import subprocess
import sys
import time
def main():
parser = argparse.ArgumentParser(description=__doc__)
parser.add_argument("--runs", type=int, default=7, help="measured runs")
parser.add_argument("--warmup", type=int, default=2, help="warm-up runs")
parser.add_argument("--max-iter", type=int, default=2_000_000)
parser.add_argument("--vm", required=True, help="path to the fz executable")
parser.add_argument("--program", required=True, help="compiled .fzb program")
args = parser.parse_args()
if args.runs < 1 or args.warmup < 0 or args.max_iter < 1:
parser.error("runs/max-iter must be positive and warmup must be non-negative")
command = [args.vm, "--max-iter", str(args.max_iter), args.program]
for _ in range(args.warmup):
result = subprocess.run(command, capture_output=True, text=True)
if result.returncode != 0:
sys.stderr.write(result.stdout)
sys.stderr.write(result.stderr)
raise SystemExit(result.returncode)
measurements = []
for _ in range(args.runs):
start = time.perf_counter()
result = subprocess.run(
command, capture_output=True, text=True
)
elapsed = time.perf_counter() - start
if result.returncode != 0:
sys.stderr.write(result.stdout)
sys.stderr.write(result.stderr)
raise SystemExit(result.returncode)
measurements.append(elapsed)
print(f"Runs: {args.runs} (warm-up: {args.warmup})")
print(f"Median: {statistics.median(measurements):.6f} s")
print(f"Mean: {statistics.mean(measurements):.6f} s")
print(f"Min: {min(measurements):.6f} s")
print(f"Max: {max(measurements):.6f} s")
if __name__ == "__main__":
main()
+1 -1
View File
@@ -232,7 +232,7 @@ int fzl_vm_run(fzl_vm_t *vm)
while (vm->ip < vm->ops_count)
{
fzl_opcode_t opcode = vm->ops[vm->ip];
size_t op_group = (opcode >> 16);
size_t op_group = (opcode >> 16) & 0xFF;
size_t op_fnnum = (opcode & 0xFF);
if (master_tbl[op_group] == NULL || master_tbl[op_group][op_fnnum] == NULL)