Een stel studenten was in 1976 vastbesloten om muziek te gaan maken. Maar anders dan de nueva trova en andere moderne strekkingen die toen opgang maakten. Ze wilden traditioneel en akoestisch musiceren. Niet de samba zoals ze eerst voor ogen hadden, maar septetos van de jaren dertig.

Ze gingen in de leer bij leden van het Septeto Nacional de Ignacio Piñeiro, hun grote voorbeeld. De eerste nummers die ze brachten, waren dan ook exacte replica’s uit het repertoire van hun leermeesters. Een solide basis waar zij stilaan verder op bouwden zonder zich te beperken tot de pure septeto. Met veel experimenten, kwamen ze tot een eigen geluid en werden zo de meest toonaangevende son band.

De naam van de groep is ontleend aan de streek in het zuidoosten van Cuba waar de son, het hoofdingrediënt van hun muziek, oorspronkelijk vandaan kwam. Het genre ontstond in de 19de eeuw uit de Spaanse canción en een Afrikaans instrumentarium.

Het raakte populair in de hoofdstad in de jaren twintig van de voorbije eeuw en evolueerde daar verder met invloeden uit o.a. de rumba met zijn typische clave-geluid. De son is ook de basis van een muziekstijl die later in Amerika het licht zag: de salsa. In Afrika waren de son en de rumba een belangrijke invloed op de soukousstijl.

Vijf van de negen huidige leden waren er van het prille begin reeds bij. Juan De Marcos González, de oorspronkelijke leider van Sierra Maestra, richtte de Afro-Cuban All Stars op en nam ook deel aan de Buena Vista Social Club. Later verliet hij de band. Jezus Alemañy, gedurende 15 jaar trompettist bij Sierra Maestra, startte dan weer met Cubanismo, en viel dus ook af. In 2005 stierf de zanger José Antonio Rodríguez na een optreden in Kopenhagen. Hij werd vervangen door Jesús Bello Díaz.