Los tres discos con John Foxx, de Punk, poco (nunca la música, quizá las pintas, pero incluso eran glomourosos). Debutaron con un sencillo en 1974 a nombre de Tyger Lilly. Más bien eran una suerte de Roxy Music anfetamínicos. En el primero hay incluso bastante impronta del Bowie de guitarra acústica, como en la canción "I Want to Be a Machine", o de Brian Eno (co productor) como se escucha en "My Sex". Los dos primeros son los de Ultravox!, con exclamación en honor a Neu!; los tres siguientes, co producidos con Conny Planck, son excelentes (el último con Foxx, el bombazo del Vienna y este Rage in Eden). Después, tuvieron a George Martin de productor, empezaron a copiar se a sí mismos y empezó un claro declive en la calidad volviéndose un grupo tirando a pop.