ID f54548a4schema v1agg. 2026-11-19
homelabllm_inferenceNON VERIFICATO SU HW

Dell PowerEdge R730 (2x Xeon E5-2680 v4, 256 GB): LLM locali su CPU

Parametri esercizio

24/7 = 24 h
EUR/kWh
h
%
B param

Risultati

Dell PowerEdge R730 · idle 95 W · carico 160 W
Potenza media
108,0W
20% a 160 W, resto idle
Energia annua
946kWh
2,59 kWh/giorno
Costo energia
283,82EUR/anno
23,65 EUR/mese
TCO 3 anni
1231EUR
acquisto 380 + energia 851
Pesi Q4_K_M
6,0GB
8B × 0,75 B · utile 252,0 GB
Throughput decode
25,6tok/s
153,6 GB/s ÷ 6,0 GB · limite sup.

Costanti fisiche

valori da database
ParametroValoreUnità
Dispositivo
ProduttoreDell
ModelloPowerEdge R730
Form factorrack_2u
Condizioneused
CPU
ModelloIntel Xeon E5-2680 v4
Core / thread28 / 56
TDP240W
Memoria
RAM installata256GB
RAM massima1536GB
TipoDDR4
I/O
Slot M.2 NVMe0
Bay 2,5"8
Bay 3,5"0
NIC1Gbit/s
Alimentazione (estimated)
Idle95W
Carico tipico160W
Massimo380W
TCO memorizzato
Prezzo energia0,3EUR/kWh
Tempo a carico20%
Energia annua946,1kWh
Costo energia annuo283,83EUR
Acquisto380,00EUR
Totale 3 anni1231,49EUR

Bill of Materials / Required Hardware

3 voci · 1 obbligatorie
Q.tàComponenteReq.Acquisto
2
SSD SATA 2.5 pollici Enterprise 1.92 TB
storage · Archiviazione ad alta tolleranza alle Scritture in array RAID1.
q: SSD SATA 2.5 Enterprise 1.92TB
SÌ
1
Adattatore PCIe 3.0 x4 a M.2 NVMe SSD
accessory · Permette l installazione di NVMe ad alta velocita su slot PCIe.
q: PCIe x4 M2 NVMe adapter card
opz.
1
SSD NVMe M.2 2280 1 TB
storage · Unita di caching ad alta velocita tramite adattatore PCIe.
q: SSD M2 NVMe 1TB 2280
opz.

Stime LLM memorizzate

cpu · 252 GB utili · 153,6 GB/s · banda ÷ (pesi + KV)
ModelloQuantParam BPesi GBKV GBContestoEntratok/s
Llama 3.1 8B InstructQ4_K_M8,034,871,078192SÌ25,9
Llama 3.1 8B InstructQ8_08,038,531,078192SÌ16,0
Qwen2.5 14B InstructQ4_K_M14,778,951,618192SÌ14,5
Mistral Small 3.1 24BQ4_K_M2414,551,348192SÌ9,7
Llama 3.3 70B InstructQ4_K_M70,642,802,688192SÌ3,4

Note e fonti

  1. N1Potenze stimate, non misurate: verificare con un wattmetro alla presa nella propria configurazione.
  2. N2TCO calcolato a 0.30 EUR/kWh, carico tipico 20% del tempo, 24/7.
  3. N3Throughput LLM = limite superiore teorico (banda di memoria / byte letti per token), contesto 8k, decode a batch 1.