ชุดเบนช์มาร์กจากชุมชนสำหรับประเมินคุณภาพ LLM ในเครื่อง ส่งผลลัพธ์ผ่าน API
OpenAI HumanEval via EleutherAI lm-evaluation-harness task humaneval, 0-shot, pass@k code-generation scoring.
Massive Multitask Language Understanding via EleutherAI lm-evaluation-harness task mmlu, 5-shot, exact-match/accuracy style scoring.