MATÉRIEL / VITESSES PUBLIÉES
La même tâche.
Sur chaque machine.
À quelle vitesse une machine écrit-elle avec une IA installée chez vous ? Voici les chiffres que la communauté a publiés pour un même petit modèle, des puces Apple aux cartes graphiques. Chaque chiffre garde le lien vers sa source.
Relevé Saphan · 3 octobre 2026
les machines demandéesles cartes de référencele chiffre : la vitesse d’écriture, en jetons par seconde
Metal · Mac
Metal est le moteur des Mac. Ici, seulement des puces Apple : on les compare entre elles.
- Apple M5 Ultra (80 GPU)Puce Apple256 Go179jetons/slecture 4 945 jetons/s
Source : GitHub · llama.cpp · discussion 4167 179,10 jetons/s · commit c1d0e7a · macOS (Metal)
- Apple M5 Max (40 GPU)Puce Apple128 Go112jetons/slecture 2 105 jetons/s
4 mesures publiées, la médiane au-dessus
- 119,92 jetons/s à l’écriture · 3219,99 à la lecturellama.cpp (Metal) · commit c1d0e7a · macOS (Metal) · pp512 / tg128GitHub · llama.cpp · discussion 4167
- 119,08 ± 0,69 jetons/s à l’écriture · 3347,44 ± 1,53 à la lecturellama.cpp (Metal) · commit 52b3df0, build 9754 · pp512 / tg128; threads=6GitHub · llama.cpp · discussion 4167
- 104,03 ± 0,09 jetons/s à l’écriture · 990,53 ± 0,44 à la lecturellama.cpp (Metal) · commit 8e672ef, build 1550 · pp512 / tg128; ngl=99 · 2026-03-31GitHub · llama.cpp · discussion 4167
- 102,93 ± 0,17 jetons/s à l’écriture · 987,10 ± 1,05 à la lecturellama.cpp (Metal) · commit 8e672ef, build 1550 · pp512 / tg128; ngl=99 · 2026-03-28GitHub · llama.cpp · discussion 4167
- Apple M2 Ultra (76 GPU)Puce Apple94,3jetons/slecture 1 238 jetons/s
Source : GitHub · llama.cpp · discussion 4167 94,27 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M3 Ultra (80 GPU)Puce Apple92,1jetons/slecture 1 471 jetons/s
Source : GitHub · llama.cpp · discussion 4167 92,14 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M2 Ultra (60 GPU)Puce Apple128 Go88,6jetons/slecture 1 014 jetons/s
Source : GitHub · llama.cpp · discussion 4167 88,64 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M3 Ultra (60 GPU)Puce Apple88,4jetons/slecture 1 073 jetons/s
Source : GitHub · llama.cpp · discussion 4167 88,40 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M1 Ultra (64 GPU)Puce Apple128 Go83,7jetons/slecture 1 030 jetons/s
Source : GitHub · llama.cpp · discussion 4167 83,73 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M4 Max (40 GPU)Puce Apple83,1jetons/slecture 886 jetons/s
Source : GitHub · llama.cpp · discussion 4167 83,06 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M1 Ultra (48 GPU)Puce Apple74,9jetons/slecture 772 jetons/s
Source : GitHub · llama.cpp · discussion 4167 74,93 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M4 Max (32 GPU)Puce Apple70,0jetons/slecture 714 jetons/s
Source : GitHub · llama.cpp · discussion 4167 69,95 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M5 Pro (20 GPU)Puce Apple64 Go66,3jetons/slecture 1 621 jetons/s
Source : GitHub · llama.cpp · discussion 4167 66,33 jetons/s · commit c1d0e7a · macOS (Metal)
- Apple M3 Max (40 GPU)Puce Apple66,3jetons/slecture 760 jetons/s
Source : GitHub · llama.cpp · discussion 4167 66,31 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M2 Max (38 GPU)Puce Apple32 Go63,9jetons/slecture 669 jetons/s
4 mesures publiées, la médiane au-dessus
- 65,95 jetons/s à l’écriture · 671,31 à la lecturellama.cpp (Metal) · commit 8e672ef · macOS (Metal) · pp512 / tg128GitHub · llama.cpp · discussion 4167
- 64,55 ± 1,36 jetons/s à l’écriture · 669,51 ± 1,17 à la lecturellama.cpp (Metal) · commit e9c13ff, build 1560 · pp512 / tg128; ngl=99 · 2023-11-25GitHub · llama.cpp · discussion 4167
- 63,29 ± 0,15 jetons/s à l’écriture · 664,07 ± 9,11 à la lecturellama.cpp (Metal) · commit 795cd5a, build 1493 · pp512 / tg128; ngl=99GitHub · llama.cpp · discussion 4167
- 62,98 ± 0,06 jetons/s à l’écriture · 668,28 ± 0,24 à la lecturellama.cpp (Metal) · commit 22da055, build 1566 · pp512 / tg128; ngl=99 · 2023-11-26GitHub · llama.cpp · discussion 4167
- Apple M5 Pro (16 GPU)Puce Apple24 Go63,8jetons/slecture 1 238 jetons/s
4 mesures publiées, la médiane au-dessus
- 67,59 jetons/s à l’écriture · 1340,44 à la lecturellama.cpp (Metal) · commit 60081bb · macOS (Metal) · pp512 / tg128GitHub · llama.cpp · discussion 4167
- 63,86 ± 0,06 jetons/s à l’écriture · 1350,43 ± 1,97 à la lecturellama.cpp (Metal) · commit c3a1128, build 8509 · pp512 / tg128; threads=5 · 2026-04-14GitHub · llama.cpp · discussion 4167
- 63,74 ± 0,06 jetons/s à l’écriture · 1135,71 ± 9,26 à la lecturellama.cpp (Metal) · commit 073bb2c, build 8762 · pp512 / tg128; threads=5GitHub · llama.cpp · discussion 4167
- 60,04 ± 0,21 jetons/s à l’écriture · 403,19 ± 0,22 à la lecturellama.cpp (Metal) · commit 8e672ef, build 1550 · pp512 / tg128; ngl=99GitHub · llama.cpp · discussion 4167
- Apple M1 Max (32 GPU)Puce Apple64 Go61,2jetons/slecture 530 jetons/s
Source : GitHub · llama.cpp · discussion 4167 61,19 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M2 Max (30 GPU)Puce Apple61,0jetons/slecture 538 jetons/s
Source : GitHub · llama.cpp · discussion 4167 60,99 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M3 Max (30 GPU)Puce Apple56,6jetons/slecture 568 jetons/s
Source : GitHub · llama.cpp · discussion 4167 56,58 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M1 Max (24 GPU)Puce Apple54,6jetons/slecture 400 jetons/s
Source : GitHub · llama.cpp · discussion 4167 54,61 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M4 Pro (20 GPU)Puce Apple50,7jetons/slecture 440 jetons/s
Source : GitHub · llama.cpp · discussion 4167 50,74 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M4 Pro (16 GPU)Puce Apple49,6jetons/slecture 364 jetons/s
Source : GitHub · llama.cpp · discussion 4167 49,64 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M2 Pro (19 GPU)Puce Apple38,9jetons/slecture 341 jetons/s
Source : GitHub · llama.cpp · discussion 4167 38,86 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M2 Pro (16 GPU)Puce Apple37,9jetons/slecture 294 jetons/s
Source : GitHub · llama.cpp · discussion 4167 37,87 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M1 Pro (16 GPU)Puce Apple36,4jetons/slecture 266 jetons/s
Source : GitHub · llama.cpp · discussion 4167 36,41 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M6 (8 GPU)Puce Apple32 Go35,7jetons/slecture 989 jetons/s
Source : GitHub · llama.cpp · discussion 4167 35,74 jetons/s · commit c1d0e7a · macOS (Metal)
- Apple M1 Pro (14 GPU)Puce Apple35,5jetons/slecture 233 jetons/s
Source : GitHub · llama.cpp · discussion 4167 35,52 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M5 (10 GPU)Puce Apple16 Go31,9jetons/slecture 723 jetons/s
Source : GitHub · llama.cpp · discussion 4167 31,88 jetons/s · commit c1d0e7a · macOS (Metal)
- Apple M3 Pro (18 GPU)Puce Apple30,7jetons/slecture 342 jetons/s
Source : GitHub · llama.cpp · discussion 4167 30,74 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M3 Pro (14 GPU)Puce Apple30,6jetons/slecture 269 jetons/s
Source : GitHub · llama.cpp · discussion 4167 30,65 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M4 (10 GPU)Puce Apple32 Go24,1jetons/slecture 221 jetons/s
Source : GitHub · llama.cpp · discussion 4167 24,11 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M2 (10 GPU)Puce Apple24 Go21,9jetons/slecture 180 jetons/s
Source : GitHub · llama.cpp · discussion 4167 21,91 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M2 (8 GPU)Puce Apple21,7jetons/slecture 146 jetons/s
Source : GitHub · llama.cpp · discussion 4167 21,7 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M3 (10 GPU)Puce Apple21,3jetons/slecture 187 jetons/s
Source : GitHub · llama.cpp · discussion 4167 21,34 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M1 (7 GPU)Puce Apple14,2jetons/slecture 108 jetons/s
Source : GitHub · llama.cpp · discussion 4167 14,19 jetons/s · commit 8e672ef · macOS (Metal)
- Apple M1 (8 GPU)Puce Apple14,2jetons/slecture 118 jetons/s
Source : GitHub · llama.cpp · discussion 4167 14,15 jetons/s · commit 8e672ef · macOS (Metal)
CUDA · NVIDIA
CUDA est le moteur des cartes NVIDIA et du DGX Spark.
- RTX 5090Carte de référence32 Go247jetons/slecture 14 413 jetons/s
6 mesures publiées, la médiane au-dessus
- 300,40 ± 0,28 jetons/s à l’écriture · 14970,15 ± 381,06 à la lecturellama.cpp (CUDA) · commit 8cf6b42 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 290,02 ± 1,10 jetons/s à l’écriture · 14073,41 ± 115,16 à la lecturellama.cpp (CUDA) · commit 8cf6b42 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- 248,57 ± 0,05 jetons/s à l’écriture · 16041,54 ± 85,27 à la lecturellama.cpp (CUDA) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-02GitHub · llama.cpp · discussion 15013
- 245,02 ± 1,08 jetons/s à l’écriture · 13823,36 ± 20,99 à la lecturellama.cpp (CUDA) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15013
- 239,62 ± 0,37 jetons/s à l’écriture · 14751,98 ± 136,24 à la lecturellama.cpp (CUDA) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-02GitHub · llama.cpp · discussion 15013
- 236,73 ± 1,29 jetons/s à l’écriture · 12706,26 ± 13,30 à la lecturellama.cpp (CUDA) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15013
- RTX 4090Carte de référence24 Go188jetons/slecture 13 382 jetons/s
2 mesures publiées, la médiane au-dessus
- 188,96 ± 0,05 jetons/s à l’écriture · 14770,63 ± 102,93 à la lecturellama.cpp (CUDA) · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 186,21 ± 0,13 jetons/s à l’écriture · 11992,70 ± 107,99 à la lecturellama.cpp (CUDA) · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- RTX 5080Carte de référence16 Go183jetons/slecture 8 893 jetons/s
4 mesures publiées, la médiane au-dessus
- 184,68 ± 0,05 jetons/s à l’écriture · 9487,70 ± 21,89 à la lecturellama.cpp (CUDA) · commit 8a4280c · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 183,04 ± 0,50 jetons/s à l’écriture · 9644,43 ± 93,39 à la lecturellama.cpp (CUDA) · commit 2fbe3b7bb, build 7342 · pp512 / tg128 · 2025-12-16GitHub · llama.cpp · discussion 15013
- 181,99 ± 0,42 jetons/s à l’écriture · 8297,36 ± 9,50 à la lecturellama.cpp (CUDA) · commit 8a4280c · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- 177,99 ± 0,44 jetons/s à l’écriture · 7405,11 ± 125,96 à la lecturellama.cpp (CUDA) · commit 2fbe3b7bb, build 7342 · pp512 / tg128 · 2025-12-16GitHub · llama.cpp · discussion 15013
- RTX 5070 TiCarte de référence16 Go180jetons/slecture 7 686 jetons/s
2 mesures publiées, la médiane au-dessus
- 182,43 ± 0,09 jetons/s à l’écriture · 8419,56 ± 35,50 à la lecturellama.cpp (CUDA) · commit 933414c · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 176,85 ± 0,07 jetons/s à l’écriture · 6952,38 ± 13,73 à la lecturellama.cpp (CUDA) · commit 933414c · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- RTX 3090Carte de référence24 Go157jetons/slecture 5 290 jetons/s
8 mesures publiées, la médiane au-dessus
- 177,75 ± 0,51 jetons/s à l’écriture · 5973,72 ± 397,62 à la lecturellama.cpp (CUDA) · commit 5266f24, build 10809 · NVIDIA 550.163.01; CUDA 12.4 · pp512 / tg128; ngl=99; FA=1 · 2026-09-07GitHub · llama.cpp · discussion 15013
- 168,95 ± 0,66 jetons/s à l’écriture · 5153,91 ± 429,71 à la lecturellama.cpp (CUDA) · commit 5266f24, build 10809 · NVIDIA 550.163.01; CUDA 12.4 · pp512 / tg128; ngl=99; FA=0 · 2026-09-07GitHub · llama.cpp · discussion 15013
- 161,89 ± 0,18 jetons/s à l’écriture · 5560,06 ± 16,28 à la lecturellama.cpp (CUDA) · commit c76b420 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 158,16 ± 0,21 jetons/s à l’écriture · 5174,69 ± 21,83 à la lecturellama.cpp (CUDA) · commit c76b420 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- 155,36 ± 0,09 jetons/s à l’écriture · 5932,44 ± 10,87 à la lecturellama.cpp (CUDA) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-02GitHub · llama.cpp · discussion 15013
- 151,04 ± 0,24 jetons/s à l’écriture · 5405,83 ± 5,80 à la lecturellama.cpp (CUDA) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-02GitHub · llama.cpp · discussion 15013
- 138,34 ± 0,96 jetons/s à l’écriture · 4377,03 ± 89,10 à la lecturellama.cpp (CUDA) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15013
- 137,72 ± 0,46 jetons/s à l’écriture · 4175,47 ± 27,79 à la lecturellama.cpp (CUDA) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15013
- RTX 4080 SuperCarte de référence16 Go148jetons/slecture 8 782 jetons/s
2 mesures publiées, la médiane au-dessus
- 148,33 ± 0,20 jetons/s à l’écriture · 8125,15 ± 41,05 à la lecturellama.cpp (CUDA) · commit 81086cd · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- 147,48 ± 1,41 jetons/s à l’écriture · 9439,01 ± 56,75 à la lecturellama.cpp (CUDA) · commit 81086cd · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- RTX 3080Carte de référence10 Go140jetons/slecture 5 292 jetons/s
2 mesures publiées, la médiane au-dessus
- 139,95 ± 0,95 jetons/s à l’écriture · 5569,56 ± 14,04 à la lecturellama.cpp (CUDA) · commit 9c35706 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 139,65 ± 0,99 jetons/s à l’écriture · 5013,86 ± 24,80 à la lecturellama.cpp (CUDA) · commit 9c35706 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- RTX 4070 Ti SuperCarte de référence16 Go133jetons/slecture 7 268 jetons/s
2 mesures publiées, la médiane au-dessus
- 132,85 ± 0,31 jetons/s à l’écriture · 7612,32 ± 37,35 à la lecturellama.cpp (CUDA) · commit 9c35706 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 132,26 ± 0,16 jetons/s à l’écriture · 6924,53 ± 13,87 à la lecturellama.cpp (CUDA) · commit 9c35706 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- RTX 5060 TiCarte de référence16 Go92,2jetons/slecture 3 966 jetons/s
2 mesures publiées, la médiane au-dessus
- 93,46 ± 0,01 jetons/s à l’écriture · 4195,53 ± 1,98 à la lecturellama.cpp (CUDA) · commit 89d1029 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 90,94 ± 0,02 jetons/s à l’écriture · 3737,25 ± 6,79 à la lecturellama.cpp (CUDA) · commit 89d1029 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- RTX 3060Carte de référence12 Go75,6jetons/slecture 2 273 jetons/s
4 mesures publiées, la médiane au-dessus
- 76,92 ± 0,03 jetons/s à l’écriture · 2407,67 ± 3,73 à la lecturellama.cpp (CUDA) · commit baa9255 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15013
- 75,58 ± 0,09 jetons/s à l’écriture · 2407,93 ± 10,64 à la lecturellama.cpp (CUDA) · commit bb4caa7 · CUDA 13.3 · pp512 / tg128; ngl=99; FA=1 · 2026-08-21GitHub · llama.cpp · discussion 15013
- 75,57 ± 0,07 jetons/s à l’écriture · 2137,50 ± 10,12 à la lecturellama.cpp (CUDA) · commit baa9255 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15013
- 72,09 ± 0,11 jetons/s à l’écriture · 2111,39 ± 44,37 à la lecturellama.cpp (CUDA) · commit bb4caa7 · CUDA 13.3 · pp512 / tg128; ngl=99; FA=0 · 2026-08-21GitHub · llama.cpp · discussion 15013
- DGX Spark (GB10)DGX Spark128 Go57,0jetons/slecture 3 362 jetons/s
2 mesures publiées, la médiane au-dessus
- 57,21 ± 0,06 jetons/s à l’écriture · 3062,31 ± 11,02 à la lecturellama.cpp (CUDA) · commit 5acd455 · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 15013
- 56,74 ± 0,03 jetons/s à l’écriture · 3661,37 ± 38,66 à la lecturellama.cpp (CUDA) · commit 5acd455 · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 15013
Vulkan · toutes les familles
Vulkan tourne partout : c’est le seul moteur où les puces Apple, le DGX Spark, l’Arc Pro B70 et les cartes graphiques se retrouvent dans le même tableau.
- RTX 5090Carte de référence32 Go269jetons/slecture 11 089 jetons/s
2 mesures publiées, la médiane au-dessus
- 273,68 ± 0,52 jetons/s à l’écriture · 11796,38 ± 601,36 à la lecturellama.cpp (Vulkan) · commit ca71fb9 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 263,63 ± 0,91 jetons/s à l’écriture · 10381,64 ± 508,84 à la lecturellama.cpp (Vulkan) · commit ca71fb9 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RTX 4090Carte de référence24 Go189jetons/slecture 10 141 jetons/s
2 mesures publiées, la médiane au-dessus
- 190,10 ± 0,31 jetons/s à l’écriture · 10830,41 ± 36,25 à la lecturellama.cpp (Vulkan) · commit 4ae88d0 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 187,97 ± 0,21 jetons/s à l’écriture · 9452,03 ± 187,70 à la lecturellama.cpp (Vulkan) · commit 4ae88d0 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RTX 5080Carte de référence16 Go189jetons/slecture 7 750 jetons/s
2 mesures publiées, la médiane au-dessus
- 192,17 ± 0,21 jetons/s à l’écriture · 8054,59 ± 35,68 à la lecturellama.cpp (Vulkan) · commit f6b533d · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 185,10 ± 0,54 jetons/s à l’écriture · 7444,99 ± 20,11 à la lecturellama.cpp (Vulkan) · commit f6b533d · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RX 7900 XTXCarte de référence24 Go187jetons/slecture 3 808 jetons/s
2 mesures publiées, la médiane au-dessus
- 190,92 ± 0,19 jetons/s à l’écriture · 3889,54 ± 16,52 à la lecturellama.cpp (Vulkan) · commit 304665f · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 182,63 ± 0,22 jetons/s à l’écriture · 3726,99 ± 22,09 à la lecturellama.cpp (Vulkan) · commit 304665f · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RTX 3090Carte de référence24 Go168jetons/slecture 4 933 jetons/s
2 mesures publiées, la médiane au-dessus
- 171,61 ± 2,69 jetons/s à l’écriture · 5200,68 ± 16,44 à la lecturellama.cpp (Vulkan) · commit d05fe1d · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 164,05 ± 0,89 jetons/s à l’écriture · 4666,15 ± 12,89 à la lecturellama.cpp (Vulkan) · commit d05fe1d · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RTX 5070 TiCarte de référence16 Go156jetons/slecture 6 891 jetons/s
2 mesures publiées, la médiane au-dessus
- 176,18 ± 1,12 jetons/s à l’écriture · 7567,94 ± 41,96 à la lecturellama.cpp (Vulkan) · commit 0d0764d · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 135,63 ± 0,18 jetons/s à l’écriture · 6213,63 ± 27,72 à la lecturellama.cpp (Vulkan) · commit d13d0f6 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- Radeon AI Pro R9700Carte de référence32 Go149jetons/slecture 5 759 jetons/s
2 mesures publiées, la médiane au-dessus
- 152,70 ± 0,02 jetons/s à l’écriture · 5907,66 ± 85,27 à la lecturellama.cpp (Vulkan) · commit dd1ea52 · pp512 / tg128GitHub · llama.cpp · discussion 10879
- 145,67 ± 0,07 jetons/s à l’écriture · 5609,82 ± 73,99 à la lecturellama.cpp (Vulkan) · commit dd1ea52 · pp512 / tg128GitHub · llama.cpp · discussion 10879
- RTX 4080 SuperCarte de référence16 Go149jetons/slecture 7 554 jetons/s
2 mesures publiées, la médiane au-dessus
- 150,20 ± 0,26 jetons/s à l’écriture · 8007,37 ± 46,03 à la lecturellama.cpp (Vulkan) · commit 81086cd · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 147,13 ± 5,64 jetons/s à l’écriture · 7101,18 ± 269,79 à la lecturellama.cpp (Vulkan) · commit 81086cd · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RTX 3080Carte de référence10 Go142jetons/slecture 4 600 jetons/s
2 mesures publiées, la médiane au-dessus
- 145,74 ± 0,16 jetons/s à l’écriture · 4913,83 ± 21,52 à la lecturellama.cpp (Vulkan) · commit 7c7d6ce · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 139,15 ± 0,05 jetons/s à l’écriture · 4287,11 ± 55,50 à la lecturellama.cpp (Vulkan) · commit 7c7d6ce · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RX 9070 XTCarte de référence16 Go134jetons/slecture 5 042 jetons/s
2 mesures publiées, la médiane au-dessus
- 137,11 ± 0,02 jetons/s à l’écriture · 5036,04 ± 88,16 à la lecturellama.cpp (Vulkan) · commit e9fd8dc · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- 131,54 ± 0,05 jetons/s à l’écriture · 5048,07 ± 2,12 à la lecturellama.cpp (Vulkan) · commit e9fd8dc · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- RTX 4070 Ti SuperCarte de référence16 Go133jetons/slecture 6 450 jetons/s
2 mesures publiées, la médiane au-dessus
- 135,81 ± 4,29 jetons/s à l’écriture · 6801,18 ± 40,12 à la lecturellama.cpp (Vulkan) · commit 4ae88d0 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 129,45 ± 0,18 jetons/s à l’écriture · 6099,18 ± 154,30 à la lecturellama.cpp (Vulkan) · commit 4ae88d0 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RX 7900 XTCarte de référence20 Go122jetons/slecture 2 821 jetons/s
2 mesures publiées, la médiane au-dessus
- 123,18 ± 0,40 jetons/s à l’écriture · 2941,58 ± 17,17 à la lecturellama.cpp (Vulkan) · commit 71e74a3 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- 120,62 ± 0,36 jetons/s à l’écriture · 2701,13 ± 8,75 à la lecturellama.cpp (Vulkan) · commit 71e74a3 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- RX 7800 XTCarte de référence16 Go122jetons/slecture 2 107 jetons/s
2 mesures publiées, la médiane au-dessus
- 124,86 ± 0,10 jetons/s à l’écriture · 2197,05 ± 6,03 à la lecturellama.cpp (Vulkan) · commit 4fdbc1e · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 118,27 ± 0,27 jetons/s à l’écriture · 2017,33 ± 19,30 à la lecturellama.cpp (Vulkan) · commit 4fdbc1e · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- Apple M3 UltraPuce Apple512 Go116jetons/slecture 1 117 jetons/s
Source : GitHub · llama.cpp · discussion 10879 115,54 ± 0,78 jetons/s · commit 2d451c8 · MoltenVK
- Arc Pro B70Arc Pro B7032 Go113jetons/slecture 3 265 jetons/s
2 mesures publiées, la médiane au-dessus
- 114,19 ± 1,07 jetons/s à l’écriture · 3150,55 ± 9,06 à la lecturellama.cpp (Vulkan) · commit b863507 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 112,02 ± 1,08 jetons/s à l’écriture · 3379,00 ± 47,92 à la lecturellama.cpp (Vulkan) · commit b863507 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RTX 5060 TiCarte de référence16 Go95,3jetons/slecture 3 687 jetons/s
2 mesures publiées, la médiane au-dessus
- 97,01 ± 0,14 jetons/s à l’écriture · 3912,65 ± 5,86 à la lecturellama.cpp (Vulkan) · commit 89f10ba · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 93,51 ± 0,15 jetons/s à l’écriture · 3460,92 ± 7,16 à la lecturellama.cpp (Vulkan) · commit 89f10ba · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RTX 3060Carte de référence12 Go78,3jetons/slecture 1 914 jetons/s
2 mesures publiées, la médiane au-dessus
- 80,59 ± 0,02 jetons/s à l’écriture · 2012,88 ± 10,12 à la lecturellama.cpp (Vulkan) · commit 92c0b38 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 75,94 ± 0,80 jetons/s à l’écriture · 1815,70 ± 5,85 à la lecturellama.cpp (Vulkan) · commit 92c0b38 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- Apple M4 MaxPuce Apple73,4jetons/slecture 641 jetons/s
2 mesures publiées, la médiane au-dessus
- 75,02 ± 0,14 jetons/s à l’écriture · 724,77 ± 20,93 à la lecturellama.cpp (Vulkan) · commit 1ece0cb6 · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 10879
- 71,79 ± 4,16 jetons/s à l’écriture · 557,46 ± 26,87 à la lecturellama.cpp (Vulkan) · commit 1ece0cb6 · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 10879
- Arc B580Carte de référence12 Go71,1jetons/slecture 520 jetons/s
2 mesures publiées, la médiane au-dessus
- 72,00 ± 0,24 jetons/s à l’écriture · 419,49 ± 3,37 à la lecturellama.cpp (Vulkan) · commit 7f76692 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 70,14 ± 0,28 jetons/s à l’écriture · 620,94 ± 15,33 à la lecturellama.cpp (Vulkan) · commit 7f76692 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- RX 9060 XTCarte de référence16 Go70,8jetons/slecture 2 493 jetons/s
4 mesures publiées, la médiane au-dessus
- 74,01 ± 0,03 jetons/s à l’écriture · 3228,15 ± 16,15 à la lecturellama.cpp (Vulkan) · commit f1cee99 · Mesa RADV 26.2.2 · pp512 / tg128; ngl=100; FA=1 · 2026-10-02GitHub · llama.cpp · discussion 10879
- 71,07 ± 0,10 jetons/s à l’écriture · 2844,80 ± 132,10 à la lecturellama.cpp (Vulkan) · commit f1cee99 · Mesa RADV 26.2.2 · pp512 / tg128; ngl=100; FA=0 · 2026-10-02GitHub · llama.cpp · discussion 10879
- 70,54 ± 0,74 jetons/s à l’écriture · 2141,67 ± 6,87 à la lecturellama.cpp (Vulkan) · commit ed52f36 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- 70,52 ± 0,16 jetons/s à l’écriture · 1915,41 ± 7,90 à la lecturellama.cpp (Vulkan) · commit ed52f36 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- Arc Pro B60Carte de référence24 Go69,5jetons/slecture 399 jetons/s
2 mesures publiées, la médiane au-dessus
- 70,54 ± 0,03 jetons/s à l’écriture · 274,76 ± 0,27 à la lecturellama.cpp (Vulkan) · commit 516a4ca · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 68,55 ± 0,01 jetons/s à l’écriture · 522,36 ± 3,60 à la lecturellama.cpp (Vulkan) · commit 516a4ca · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- DGX Spark (GB10)DGX Spark128 Go59,5jetons/slecture 3 056 jetons/s
2 mesures publiées, la médiane au-dessus
- 60,39 ± 0,05 jetons/s à l’écriture · 3321,91 ± 5,86 à la lecturellama.cpp (Vulkan) · commit 657e011 · coopmat2 · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 10879
- 58,51 ± 0,04 jetons/s à l’écriture · 2789,51 ± 18,33 à la lecturellama.cpp (Vulkan) · commit 657e011 · coopmat2 · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 10879
- RX 7600 XTCarte de référence16 Go54,6jetons/slecture 933 jetons/s
2 mesures publiées, la médiane au-dessus
- 56,11 ± 0,02 jetons/s à l’écriture · 1024,38 ± 7,56 à la lecturellama.cpp (Vulkan) · commit 01d8eaa · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 53,02 ± 0,01 jetons/s à l’écriture · 840,85 ± 3,02 à la lecturellama.cpp (Vulkan) · commit 01d8eaa · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- Apple M2 UltraPuce Apple35,2jetons/slecture 202 jetons/s
2 mesures publiées, la médiane au-dessus
- 36,07 ± 0,11 jetons/s à l’écriture · 198,83 ± 0,85 à la lecturellama.cpp (Vulkan) · commit dbb852b · Asahi Linux · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 10879
- 34,34 ± 0,12 jetons/s à l’écriture · 205,98 ± 0,02 à la lecturellama.cpp (Vulkan) · commit dbb852b · Asahi Linux · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 10879
- Arc B570Carte de référence10 Go33,9jetons/slecture 349 jetons/s
8 mesures publiées, la médiane au-dessus
- 61,97 ± 0,05 jetons/s à l’écriture · 174,98 ± 1,03 à la lecturellama.cpp (Vulkan) · commit 8e186ef, build 5449 · pp512 / tg128 · 2025-05-23GitHub · llama.cpp · discussion 10879
- 50,49 ± 0,05 jetons/s à l’écriture · 288,51 ± 0,09 à la lecturellama.cpp (Vulkan) · commit 7f76692 · pp512 / tg128; ngl=100; FA=1GitHub · llama.cpp · discussion 10879
- 49,64 ± 0,03 jetons/s à l’écriture · 913,95 ± 0,90 à la lecturellama.cpp (Vulkan) · commit 7f76692 · pp512 / tg128; ngl=100; FA=0GitHub · llama.cpp · discussion 10879
- 36,40 ± 0,04 jetons/s à l’écriture · 1484,42 ± 2,99 à la lecturellama.cpp (Vulkan) · commit 8e186ef, build 5449 · pp512 / tg128 · 2025-05-23GitHub · llama.cpp · discussion 10879
- 31,44 ± 0,01 jetons/s à l’écriture · 651,09 ± 0,16 à la lecturellama.cpp (Vulkan) · commit 8e186ef, build 5449 · Linux 6.14.7-5-cachyos; Vulkan 1.4.315 · pp512 / tg128 · 2025-05-22GitHub · llama.cpp · discussion 10879
- 31,39 ± 0,01 jetons/s à l’écriture · 356,09 ± 0,90 à la lecturellama.cpp (Vulkan) · commit 8e186ef, build 5449 · Linux 6.14.7-5-cachyos; Vulkan 1.4.315 · pp512 / tg128 · 2025-05-22GitHub · llama.cpp · discussion 10879
- 30,89 ± 0,01 jetons/s à l’écriture · 226,82 ± 0,50 à la lecturellama.cpp (Vulkan) · commit 8e186ef, build 5449 · Linux 6.14.7-5-cachyos; Vulkan 1.4.315 · pp512 / tg128 · 2025-05-22GitHub · llama.cpp · discussion 10879
- 30,88 ± 0,01 jetons/s à l’écriture · 342,71 ± 0,07 à la lecturellama.cpp (Vulkan) · commit 8e186ef, build 5449 · Linux 6.14.7-5-cachyos; Vulkan 1.4.315 · pp512 / tg128 · 2025-05-22GitHub · llama.cpp · discussion 10879
- Apple M3Puce Apple26,4jetons/slecture 264 jetons/s
Source : GitHub · llama.cpp · discussion 10879 26,39 ± 0,14 jetons/s · commit b9ab0a4 · MoltenVK
- Apple M2 ProPuce Apple21,0jetons/slecture 61 jetons/s
2 mesures publiées, la médiane au-dessus
- 20,97 ± 0,03 jetons/s à l’écriture · 58,86 ± 0,02 à la lecturellama.cpp (Vulkan) · commit 1fe0029 · Asahi Linux · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 10879
- 20,95 ± 0,11 jetons/s à l’écriture · 62,70 ± 0,03 à la lecturellama.cpp (Vulkan) · commit 1fe0029 · Asahi Linux · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 10879
- Apple M2Puce Apple12,9jetons/slecture 49 jetons/s
2 mesures publiées, la médiane au-dessus
- 13,50 ± 0,02 jetons/s à l’écriture · 50,79 ± 0,16 à la lecturellama.cpp (Vulkan) · commit 8c0d6bb · Asahi Linux · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 10879
- 12,25 ± 2,30 jetons/s à l’écriture · 46,81 ± 0,08 à la lecturellama.cpp (Vulkan) · commit 8c0d6bb · Asahi Linux · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 10879
- Apple M1Puce Apple12,7jetons/slecture 37 jetons/s
2 mesures publiées, la médiane au-dessus
- 12,85 ± 0,02 jetons/s à l’écriture · 35,93 ± 0,00 à la lecturellama.cpp (Vulkan) · Asahi Linux · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 10879
- 12,47 ± 0,03 jetons/s à l’écriture · 38,29 ± 0,00 à la lecturellama.cpp (Vulkan) · Asahi Linux · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 10879
ROCm · AMD
ROCm est le moteur d’AMD : les Ryzen AI et les cartes Radeon.
- RX 7900 XTXCarte de référence24 Go133jetons/slecture 3 410 jetons/s
16 mesures publiées, la médiane au-dessus
- 170,12 ± 0,56 jetons/s à l’écriture · 3874,25 ± 11,92 à la lecturellama.cpp (ROCm) · commit 2f0c2db · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15021
- 167,11 ± 0,50 jetons/s à l’écriture · 3552,27 ± 101,96 à la lecturellama.cpp (ROCm) · commit 2f0c2db · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15021
- 161,46 ± 0,27 jetons/s à l’écriture · 3453,79 ± 47,32 à la lecturellama.cpp (ROCm) · commit d23a559 · pp512 / tg128 · 2026-02-16GitHub · llama.cpp · discussion 15021
- 154,32 ± 0,24 jetons/s à l’écriture · 3292,37 ± 27,90 à la lecturellama.cpp (ROCm) · commit d23a559 · pp512 / tg128 · 2026-02-16GitHub · llama.cpp · discussion 15021
- 153,91 ± 0,18 jetons/s à l’écriture · 3434,01 ± 38,33 à la lecturellama.cpp (ROCm) · build 6099 · pp512 / tg128; ngl=100; FA=0 · 2025-08-06GitHub · llama.cpp · discussion 15021
- 145,23 ± 0,10 jetons/s à l’écriture · 3633,86 ± 10,29 à la lecturellama.cpp (ROCm) · build 6099 · pp512 / tg128; ngl=100; FA=1 · 2025-08-06GitHub · llama.cpp · discussion 15021
- 134,87 ± 0,06 jetons/s à l’écriture · 1151,72 ± 1,08 à la lecturellama.cpp (ROCm) · commit 05728db, build 8182 · pp512 / tg128 · 2026-03-01GitHub · llama.cpp · discussion 15021
- 134,46 ± 0,07 jetons/s à l’écriture · 1155,75 ± 1,66 à la lecturellama.cpp (ROCm) · commit d23a559 · ROCm 7.2 · pp512 / tg128 · 2026-02-16GitHub · llama.cpp · discussion 15021
- 132,17 ± 0,03 jetons/s à l’écriture · 3473,24 ± 12,30 à la lecturellama.cpp (ROCm) · commit 648ebcd, build 6146 · Ubuntu 24.04.2 · pp512 / tg128; ngl=99; FA=0 · 2025-08-13GitHub · llama.cpp · discussion 15021
- 129,69 ± 0,13 jetons/s à l’écriture · 1313,10 ± 3,53 à la lecturellama.cpp (ROCm) · commit 05728db, build 8182 · pp512 / tg128 · 2026-03-01GitHub · llama.cpp · discussion 15021
- 129,33 ± 0,10 jetons/s à l’écriture · 1253,30 ± 76,39 à la lecturellama.cpp (ROCm) · commit d23a559 · ROCm 7.2 · pp512 / tg128 · 2026-02-16GitHub · llama.cpp · discussion 15021
- 128,25 ± 0,24 jetons/s à l’écriture · 3386,75 ± 5,33 à la lecturellama.cpp (ROCm) · commit 6c7e9a5, build 6118 · Ubuntu 24.04.2; ROCm 6.4.2 · pp512 / tg128; ngl=99; FA=0 · 2025-08-08GitHub · llama.cpp · discussion 15021
- 127,43 ± 0,04 jetons/s à l’écriture · 3698,73 ± 17,60 à la lecturellama.cpp (ROCm) · commit 648ebcd, build 6146 · Ubuntu 24.04.2 · pp512 / tg128; ngl=99; FA=1 · 2025-08-13GitHub · llama.cpp · discussion 15021
- 124,61 ± 0,06 jetons/s à l’écriture · 3674,25 ± 11,35 à la lecturellama.cpp (ROCm) · commit 6c7e9a5, build 6118 · Ubuntu 24.04.2; ROCm 6.4.2 · pp512 / tg128; ngl=99; FA=1 · 2025-08-08GitHub · llama.cpp · discussion 15021
- 112,18 ± 0,45 jetons/s à l’écriture · 2817,81 ± 26,69 à la lecturellama.cpp (ROCm) · commit b9be58d, build 1005 · Arch Linux; ROCm 6.4.3 · pp512 / tg128; ngl=99; FA=0 · 2025-09-17GitHub · llama.cpp · discussion 15021
- 110,70 ± 0,08 jetons/s à l’écriture · 3053,77 ± 17,38 à la lecturellama.cpp (ROCm) · commit b9be58d, build 1005 · Arch Linux; ROCm 6.4.3 · pp512 / tg128; ngl=99; FA=1 · 2025-09-17GitHub · llama.cpp · discussion 15021
- RX 9070 XTCarte de référence16 Go122jetons/slecture 4 614 jetons/s
8 mesures publiées, la médiane au-dessus
- 132,29 ± 0,16 jetons/s à l’écriture · 4919,17 ± 919,04 à la lecturellama.cpp (ROCm) · commit 505b1ed, build 10034 · Fedora 44; kernel 7.1.3-201.fc44.x86_64; amdgpu in-tree; Vulkan 1.4.354; ROCm 7.1.1 · pp512 / tg128; ngl=99; FA=1 · 2026-07-15GitHub · llama.cpp · discussion 15021
- 132,28 ± 0,12 jetons/s à l’écriture · 4884,70 ± 952,52 à la lecturellama.cpp (ROCm) · commit 505b1ed, build 10034 · Fedora 44; kernel 7.1.3-201.fc44.x86_64; amdgpu in-tree; Vulkan 1.4.354; ROCm 7.1.1 · pp512 / tg128; ngl=99; FA=1 · 2026-07-15GitHub · llama.cpp · discussion 15021
- 132,03 ± 0,48 jetons/s à l’écriture · 4343,73 ± 1140,65 à la lecturellama.cpp (ROCm) · commit 505b1ed, build 10034 · Fedora 44; kernel 7.1.3-201.fc44.x86_64; amdgpu in-tree; Vulkan 1.4.354; ROCm 7.1.1 · pp512 / tg128; ngl=99; FA=1 · 2026-07-15GitHub · llama.cpp · discussion 15021
- 122,25 ± 0,29 jetons/s à l’écriture · 4300,05 ± 1016,50 à la lecturellama.cpp (ROCm) · commit 505b1ed, build 10034 · Fedora 44; kernel 7.1.3-201.fc44.x86_64; amdgpu in-tree; Vulkan 1.4.354; ROCm 7.1.1 · pp512 / tg128; ngl=99; FA=1 · 2026-07-15GitHub · llama.cpp · discussion 15021
- 122,17 ± 0,25 jetons/s à l’écriture · 4294,94 ± 973,80 à la lecturellama.cpp (ROCm) · commit 505b1ed, build 10034 · Fedora 44; kernel 7.1.3-201.fc44.x86_64; amdgpu in-tree; Vulkan 1.4.354; ROCm 7.1.1 · pp512 / tg128; ngl=99; FA=1 · 2026-07-15GitHub · llama.cpp · discussion 15021
- 121,83 ± 0,22 jetons/s à l’écriture · 4273,35 ± 983,25 à la lecturellama.cpp (ROCm) · commit 505b1ed, build 10034 · Fedora 44; kernel 7.1.3-201.fc44.x86_64; amdgpu in-tree; Vulkan 1.4.354; ROCm 7.1.1 · pp512 / tg128; ngl=99; FA=1 · 2026-07-15GitHub · llama.cpp · discussion 15021
- 101,27 ± 0,27 jetons/s à l’écriture · 5055,19 ± 109,58 à la lecturellama.cpp (ROCm) · commit 583cb83 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15021
- 97,28 ± 0,13 jetons/s à l’écriture · 4903,51 ± 96,36 à la lecturellama.cpp (ROCm) · commit 583cb83 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15021
- RX 7900 XTCarte de référence20 Go114jetons/slecture 3 131 jetons/s
4 mesures publiées, la médiane au-dessus
- 116,15 ± 0,06 jetons/s à l’écriture · 3098,38 ± 24,02 à la lecturellama.cpp (ROCm) · commit 1e15bfd · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15021
- 116,00 ± 0,10 jetons/s à l’écriture · 2967,12 ± 31,25 à la lecturellama.cpp (ROCm) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15021
- 112,75 ± 0,04 jetons/s à l’écriture · 3163,24 ± 4,06 à la lecturellama.cpp (ROCm) · commit 9c35706, build 6060 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15021
- 112,30 ± 0,06 jetons/s à l’écriture · 3261,75 ± 9,09 à la lecturellama.cpp (ROCm) · commit 1e15bfd · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15021
- RX 7800 XTCarte de référence16 Go96,8jetons/slecture 2 149 jetons/s
6 mesures publiées, la médiane au-dessus
- 100,94 + 0,10 jetons/s à l’écriture · 2151,81 + 17,94 à la lecturellama.cpp (ROCm) · commit 00131d6 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15021
- 99,55 + 0,09 jetons/s à l’écriture · 2109,38 + 15,79 à la lecturellama.cpp (ROCm) · commit e725a1a, build 6104 · Windows 10 · pp512 / tg128 · 2025-08-08GitHub · llama.cpp · discussion 15021
- 96,89 + 0,22 jetons/s à l’écriture · 2145,60 + 23,14 à la lecturellama.cpp (ROCm) · commit baad948, build 6056 · Windows 10 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15021
- 96,80 + 1,30 jetons/s à l’écriture · 2296,72 + 3,40 à la lecturellama.cpp (ROCm) · commit e725a1a, build 6104 · Windows 10 · pp512 / tg128 · 2025-08-08GitHub · llama.cpp · discussion 15021
- 96,03 + 0,09 jetons/s à l’écriture · 2063,66 + 2,92 à la lecturellama.cpp (ROCm) · commit baad948, build 6056 · Windows 10 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15021
- 95,99 + 0,21 jetons/s à l’écriture · 2304,63 + 2,85 à la lecturellama.cpp (ROCm) · commit 00131d6 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15021
- Radeon AI Pro R9700Carte de référence32 Go93,8jetons/slecture 4 444 jetons/s
Source : GitHub · llama.cpp · discussion 15021 93,84 ± 0,26 jetons/s · commit bd4ef13
- RX 9060 XTCarte de référence16 Go67,4jetons/slecture 2 060 jetons/s
4 mesures publiées, la médiane au-dessus
- 70,18 ± 0,06 jetons/s à l’écriture · 3014,51 ± 23,33 à la lecturellama.cpp (ROCm) · commit f1cee99 · ROCm 7.2.4 · pp512 / tg128; ngl=99; FA=1 · 2026-10-02GitHub · llama.cpp · discussion 15021
- 67,58 ± 0,24 jetons/s à l’écriture · 1419,67 ± 3,64 à la lecturellama.cpp (ROCm) · commit a0e13dc · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15021
- 67,27 ± 0,15 jetons/s à l’écriture · 2641,07 ± 48,67 à la lecturellama.cpp (ROCm) · commit f1cee99 · ROCm 7.2.4 · pp512 / tg128; ngl=99; FA=0 · 2026-10-02GitHub · llama.cpp · discussion 15021
- 65,42 ± 0,19 jetons/s à l’écriture · 1479,27 ± 0,71 à la lecturellama.cpp (ROCm) · commit a0e13dc · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15021
- RX 7600 XTCarte de référence16 Go50,7jetons/slecture 856 jetons/s
4 mesures publiées, la médiane au-dessus
- 53,70 ± 0,33 jetons/s à l’écriture · 612,33 ± 0,53 à la lecturellama.cpp (ROCm) · commit 9c35706, build 6060 · Linux 6.12.32 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15021
- 52,84 ± 0,44 jetons/s à l’écriture · 606,24 ± 0,31 à la lecturellama.cpp (ROCm) · commit 9c35706, build 6060 · Linux 6.12.32 · pp512 / tg128 · 2025-08-01GitHub · llama.cpp · discussion 15021
- 48,58 ± 0,06 jetons/s à l’écriture · 1099,64 ± 2,05 à la lecturellama.cpp (ROCm) · commit 9c35706 · pp512 / tg128; ngl=99; FA=0GitHub · llama.cpp · discussion 15021
- 47,65 ± 0,06 jetons/s à l’écriture · 1199,16 ± 1,07 à la lecturellama.cpp (ROCm) · commit 9c35706 · pp512 / tg128; ngl=99; FA=1GitHub · llama.cpp · discussion 15021
- Ryzen AI Max+ 395 (Radeon 8060S)Ryzen AI128 Go49,9jetons/slecture 957 jetons/s
2 mesures publiées, la médiane au-dessus
- 50,01 ± 0,07 jetons/s à l’écriture · 911,36 ± 1,79 à la lecturellama.cpp (ROCm) · commit e60f241 · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 15021
- 49,87 ± 0,02 jetons/s à l’écriture · 1003,53 ± 2,91 à la lecturellama.cpp (ROCm) · commit e60f241 · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 15021
- Radeon 8060S (Ryzen AI Max)Ryzen AI48,5jetons/slecture 359 jetons/s
2 mesures publiées, la médiane au-dessus
- 48,97 ± 0,15 jetons/s à l’écriture · 366,08 ± 1,44 à la lecturellama.cpp (ROCm) · commit 1d0125b · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 15021
- 47,97 ± 0,33 jetons/s à l’écriture · 351,36 ± 0,67 à la lecturellama.cpp (ROCm) · commit 1d0125b · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 15021
- Radeon 880M (Ryzen AI 300)Ryzen AI14,6jetons/slecture 188 jetons/s
2 mesures publiées, la médiane au-dessus
- 16,16 ± 1,41 jetons/s à l’écriture · 213,31 ± 14,05 à la lecturellama.cpp (ROCm) · commit c55d53a · pp512 / tg128; FA=1GitHub · llama.cpp · discussion 15021
- 12,97 ± 1,63 jetons/s à l’écriture · 163,25 ± 13,86 à la lecturellama.cpp (ROCm) · commit c55d53a · pp512 / tg128; FA=0GitHub · llama.cpp · discussion 15021
SYCL · Intel
SYCL est le moteur d’Intel pour ses cartes Arc : on les compare entre elles.
- Arc B570Carte de référence10 Go74,6jetons/slecture 549 jetons/s
4 mesures publiées, la médiane au-dessus
- 76,76 ± 0,06 jetons/s à l’écriture · 412,46 ± 1,13 à la lecturellama.cpp (SYCL) · commit 5aba5364d, build 9456 · Ubuntu 24.04.4; Linux 6.17.0-29-generic · pp512 / tg128; FA=1 · 2026-06-01GitHub · llama.cpp · discussion 23313
- 76,72 ± 0,07 jetons/s à l’écriture · 685,89 ± 0,31 à la lecturellama.cpp (SYCL) · commit 5aba5364d, build 9456 · Ubuntu 24.04.4; Linux 6.17.0-29-generic · pp512 / tg128; FA=1 · 2026-06-01GitHub · llama.cpp · discussion 23313
- 72,52 ± 0,12 jetons/s à l’écriture · 1355,95 ± 7,83 à la lecturellama.cpp (SYCL) · commit 5aba5364d, build 9456 · Ubuntu 24.04.4; Linux 6.17.0-29-generic · pp512 / tg128; FA=0 · 2026-06-01GitHub · llama.cpp · discussion 23313
- 72,48 ± 0,18 jetons/s à l’écriture · 388,77 ± 0,54 à la lecturellama.cpp (SYCL) · commit 5aba5364d, build 9456 · Ubuntu 24.04.4; Linux 6.17.0-29-generic · pp512 / tg128; FA=0 · 2026-06-01GitHub · llama.cpp · discussion 23313
- Arc B580Carte de référence12 Go73,8jetons/slecture 2 064 jetons/s
Source : GitHub · llama.cpp · discussion 23313 73,76 ± 0,13 jetons/s · commit c6e408837, build 9368 · Ubuntu 25.10
Comment lire ces chiffres
- Ces chiffres ne sont pas les nôtres : des personnes les ont publiés, chacun est donné avec son lien.
- Une vitesse dépend du moteur (Metal, CUDA, Vulkan, ROCm, SYCL) et de sa version : on compare à moteur égal, jamais d'un moteur à l'autre.
- Les puces Apple sont nommées par leur puce (avec son nombre de cœurs GPU quand la source le donne), pas par le modèle de Mac.
- La génération (tg128) dit à quelle vitesse la machine écrit la réponse ; la lecture (pp512) dit à quelle vitesse elle lit la question.
Ce qu’un chiffre ne dit pas
Une vitesse publiée ne dit ni la qualité des réponses, ni la mémoire qu’il faut pour vos documents, ni le bruit de la machine. Pour choisir, on essaie votre tâche réelle sur la machine prévue, avec plusieurs personnes et un document long.
UN ESPACE, VOTRE CHOIX
Tout l’écosystème Saphan
Votre Phan travaille avec le modèle que vous choisissez : sur votre machine, ou chez le fournisseur de votre choix.
- Votre Phan : votre espace de travail, fait pour vous.
- Saphan Link prend la route que vous choisissez.
- Votre modèle local : sur votre machine ; vos données restent chez vous.
- Vos clés API : OpenAI, Anthropic, Google, Mistral, xAI, Moonshot, Alibaba, DeepSeek ; payées au fournisseur, à l’usage.
- OpenRouter : de nombreux modèles avec une seule clé.
Sources : documentations des fournisseurs, lues le 5 octobre 2026.
PARTIR DE CE QUE VOUS AVEZ
Votre machine : la garder, ou une neuve
Votre machine actuelle suffit souvent : nous la gardons, nous l’entretenons et nous la réglons pour votre modèle.
Pour une machine neuve, vous achetez vous-même les pièces, au prix du revendeur que vous choisissez ; leur garantie, en général deux ans, reste à votre nom. Nous facturons le montage et le réglage.
Sur une machine ancienne, une réparation coûte vite plus que la pièce neuve : en Suisse, une heure d’atelier se facture souvent entre 120 et 180 francs.
Le montage se fait chez nous ou chez un partenaire de Suisse romande.
PARLONS DE VOTRE BESOIN
Demandez votre machine
Dites-nous ce que vous voulez faire : nous vous proposons une machine, ou le réglage de la vôtre. Nous vous répondons par le moyen que vous choisissez.
Les champs marqués d’un astérisque (*) sont nécessaires. Ne transmettez ni mot de passe, ni clé d’accès, ni données de clients ou documents confidentiels.