Tienes que elaborar las necesidades del negocio, saber que presupuesto te han asignado y en base a eso decidir si puedes hacer grandes cambios o limitarte a hacerlo por mes o el periodo que te reasignen los gastos.
Pero basicamente, tienes que tener en cuenta que hoy en dia todos los server son 64 bits y el hardware viene preparado para tal fin, con mas o menos funciones, como ser Intel VT, AMT, IMM, iLO, etc..
Ten en cuenta que si compras un server y tiene un motherboard para 2 procesadores, y solo tienes habilitdo 1 solo, entonces podras utilizar la mitad de bancos de memoria.
Luego si vas a vitualizar deberas colocar como minimo un RAID5 (3 disco o mas) y si puedes compra un storage SAS o de fibra y ahi tienes para entretenerte.
Luego el tema de la RAM que deberia ser para las VM mas 2 GB para el HyperV dedicados.
Los servers por lo general son quad o six core Xeon de 2.6 a 3.3 Ghz per processor.
Luego el tema de la cantidad de expansiones PCI y placas de Red que posea y su throughput (Ancho de banda de salida)
Por ahi me fui por las ramas o muy especifico pero espero te sirva de todos modos.
Saludos.