Barrapunto

"Todos los procesadores superescalares (tu pentium, amd o lo que tengas), que llegaron al mercado ya hace unos añitos, pueden ejecutar más de una intrucción (máquina por supuesto) a la vez"

Creo que en lugar de instrucción máquina te refieres a microinstrucción, una instrucción máquina, sobre todo si hablamos de arquitectura CRISC (intel, amd...) está compuesta por varias microinstrucciones, es capaz de ejecutar algunas (microinstrucciones) en paralelo si tiene estructuras duplicadas el procesador pero nunca tendrá lo suficiente como para ejecutar 2 instrucciones a la vez, ya sería algo parecido al Dual-Core.

El HT de P4 es un sistema que en teoría en algunos momentos es capaz de ejecutar 2 hilos al mismo tiempo, debido a cadenas duplicadas pero ésto es obviamente caro y sólo es posible en algunas ocasiones o que las latencias en las cadenas disminuyan por esperas a E/S ya que hay más caminos disponibles. Yo tengo un P4 y desde luego un make -j4 es notoriamente más rápido que un make normal (que usa -j2 por defecto creo, pero no recuerdo).
Según leo en Intel [intel.com], habla únicamente de hilos, con lo cual quedan descartados cambios de contexto, me parece que la nueva máquina virtual de Java que permitirá que permanecerá cargado una única vez mientras lanza un hilo por cada aplicación java del sistema, tratándolos como procesos, verá un buen funcionamiento con esta tecnología, yo desde luego si que lo noto, sobre todo en procesos como la compilación.