Los dos más utilizados son ArKaos y Resolume.
ArKaos VJ 3.6.1
Resolume 2.4
ArKaos es un poco más fácil de utilizar, pero no por ello deja de ser potente. En ambos casos, una superfície de control MIDI o DMX te irá de lujo para realizar las transiciones entre los videos, pues con el teclado y el ratón puedes acabar un poco desquiciado.
Para información exhaustiva sobre el mundo del VJ, sin duda te recomiendo
http://www.vjspain.com