硬件
113 hardware groups · 201 total
RTX 3090
Discrete GPU
共 825 次速度测试52 users
Best710 tok/s
Median57.9 tok/s
Min5.5 tok/s
View speed tests →
10x variant1 次运行
Best22.1 tok/s
Median22.1 tok/s
Min22.1 tok/s
8x variant24 次运行
Best404 tok/s
Median93.3 tok/s
Min5.5 tok/s
7x variant2 次运行
Best50.8 tok/s
Median42.3 tok/s
Min33.9 tok/s
6x variant1 次运行
Best47.4 tok/s
Median47.4 tok/s
Min47.4 tok/s
4x variant13 次运行
Best152 tok/s
Median51.3 tok/s
Min35.3 tok/s
3x variant1 次运行
Best231 tok/s
Median231 tok/s
Min231 tok/s
2x variant119 次运行
Best314 tok/s
Median71.0 tok/s
Min14.4 tok/s
Single GPU (1x)664 次运行
Best710 tok/s
Median56.2 tok/s
Min5.7 tok/s
CMP 170HX
Discrete GPU
共 1,932 次速度测试5 users
Best3.3k tok/s
Median68.3 tok/s
Min11.4 tok/s
View speed tests →
10x variant29 次运行
Best29.7 tok/s
Median29.7 tok/s
Min29.7 tok/s
8x variant37 次运行
Best30.6 tok/s
Median30.6 tok/s
Min30.6 tok/s
6x variant10 次运行
Best169 tok/s
Median113 tok/s
Min104 tok/s
4x variant17 次运行
Best193 tok/s
Median90.6 tok/s
Min78.5 tok/s
2x variant20 次运行
Best138 tok/s
Median64.6 tok/s
Min26.1 tok/s
Single GPU (1x)1819 次运行
Best3.3k tok/s
Median71.1 tok/s
Min11.4 tok/s
RTX 4060 Ti
Discrete GPU
共 8 次速度测试3 users
Best62.0 tok/s
Median43.8 tok/s
Min37.4 tok/s
View speed tests →
GTX 1080 Ti
Discrete GPU
共 27 次速度测试2 users
Best94.9 tok/s
Median34.3 tok/s
Min2.2 tok/s
View speed tests →
RTX PRO 6000
Discrete GPU
共 1 次速度测试1 user
Best92.8 tok/s
Median92.8 tok/s
Min92.8 tok/s
View speed tests →