HumanEval
Benchmark für die Programmierfähigkeit von Modellen.
HumanEval ist ein Testdatensatz, der misst, wie gut ein Sprachmodell Programmieraufgaben löst, indem der erzeugte Code automatisch gegen vorgegebene Tests geprüft wird. Er ist zu einem Standardmaß für die Coding-Fähigkeiten von KI-Modellen geworden.