O grupo formárono en 1967 Emerson, Lee Jackson, David O'List e Ian Hague para apoiar á cantante de soulP. P. Arnold.[1] Tras substituír a Hague por Brian Davison, o grupo estableceuse pola súa conta, conseguindo rapidamente un gran público. As actuacións ao vivo de The Nice presentaban a espectacularidade do órgano Hammond de Emerson e o abuso do instrumento. As súas composicións incluían arranxos radicais de temas musicais clásicos e de cancións de Bob Dylan.
A banda conseguiu o éxito comercial cun arranxo instrumental do tema de Leonard Bernstein "America",[1] tras o cal O'List marchou. O resto dos membros continuaron como trío, publicando varios álbums, antes de que Emerson decidise deixar a banda a principios de 1970 para formar Emerson, Lake & Palmer.[1] O grupo reformouse brevemente no ano 2022 para unha serie de concertos.