ID f54548a4schema v1agg. 2026-11-19
homelabllm_inferenceNON VERIFICATO SU HW
Dell PowerEdge R730 (2x Xeon E5-2680 v4, 256 GB): LLM locali su CPU
Parametri esercizio
24/7 = 24 h
EUR/kWh
h
%
B param
Risultati
Dell PowerEdge R730 · idle 95 W · carico 160 W
Potenza media
108,0W
20% a 160 W, resto idle
Energia annua
946kWh
2,59 kWh/giorno
Costo energia
283,82EUR/anno
23,65 EUR/mese
TCO 3 anni
1231EUR
acquisto 380 + energia 851
Pesi Q4_K_M
6,0GB
8B × 0,75 B · utile 252,0 GB
Throughput decode
25,6tok/s
153,6 GB/s ÷ 6,0 GB · limite sup.
Costanti fisiche
valori da database
| Parametro | Valore | Unità |
|---|---|---|
| Dispositivo | ||
| Produttore | Dell | |
| Modello | PowerEdge R730 | |
| Form factor | rack_2u | |
| Condizione | used | |
| CPU | ||
| Modello | Intel Xeon E5-2680 v4 | |
| Core / thread | 28 / 56 | |
| TDP | 240 | W |
| Memoria | ||
| RAM installata | 256 | GB |
| RAM massima | 1536 | GB |
| Tipo | DDR4 | |
| I/O | ||
| Slot M.2 NVMe | 0 | |
| Bay 2,5" | 8 | |
| Bay 3,5" | 0 | |
| NIC | 1 | Gbit/s |
| Alimentazione (estimated) | ||
| Idle | 95 | W |
| Carico tipico | 160 | W |
| Massimo | 380 | W |
| TCO memorizzato | ||
| Prezzo energia | 0,3 | EUR/kWh |
| Tempo a carico | 20 | % |
| Energia annua | 946,1 | kWh |
| Costo energia annuo | 283,83 | EUR |
| Acquisto | 380,00 | EUR |
| Totale 3 anni | 1231,49 | EUR |
Bill of Materials / Required Hardware
3 voci · 1 obbligatorie
| Q.tà | Componente | Req. | Acquisto |
|---|---|---|---|
| 2 | SSD SATA 2.5 pollici Enterprise 1.92 TB storage · Archiviazione ad alta tolleranza alle Scritture in array RAID1. q: SSD SATA 2.5 Enterprise 1.92TB | SÌ | |
| 1 | Adattatore PCIe 3.0 x4 a M.2 NVMe SSD accessory · Permette l installazione di NVMe ad alta velocita su slot PCIe. q: PCIe x4 M2 NVMe adapter card | opz. | |
| 1 | SSD NVMe M.2 2280 1 TB storage · Unita di caching ad alta velocita tramite adattatore PCIe. q: SSD M2 NVMe 1TB 2280 | opz. |
Stime LLM memorizzate
cpu · 252 GB utili · 153,6 GB/s · banda ÷ (pesi + KV)
| Modello | Quant | Param B | Pesi GB | KV GB | Contesto | Entra | tok/s |
|---|---|---|---|---|---|---|---|
| Llama 3.1 8B Instruct | Q4_K_M | 8,03 | 4,87 | 1,07 | 8192 | SÌ | 25,9 |
| Llama 3.1 8B Instruct | Q8_0 | 8,03 | 8,53 | 1,07 | 8192 | SÌ | 16,0 |
| Qwen2.5 14B Instruct | Q4_K_M | 14,77 | 8,95 | 1,61 | 8192 | SÌ | 14,5 |
| Mistral Small 3.1 24B | Q4_K_M | 24 | 14,55 | 1,34 | 8192 | SÌ | 9,7 |
| Llama 3.3 70B Instruct | Q4_K_M | 70,6 | 42,80 | 2,68 | 8192 | SÌ | 3,4 |
Note e fonti
- N1Potenze stimate, non misurate: verificare con un wattmetro alla presa nella propria configurazione.
- N2TCO calcolato a 0.30 EUR/kWh, carico tipico 20% del tempo, 24/7.
- N3Throughput LLM = limite superiore teorico (banda di memoria / byte letti per token), contesto 8k, decode a batch 1.