Aos dezoito anos Celestino começou a cantar nos bares e, aos vinte, estreava profissionalmente no Teatro São José, onde levou a platéia ao delírio cantando a canção "Flor do Mal", tornando-se sua primeira gravação em 1916. Na época, ganhou a importância de dez mil réis por milhares de cópias vendidas.

Em 1920 montou uma companhia de operetas, mas sem nunca deixar o carnavalesco de lado, emplacando sucessos como 'Urubu Subiu'. As excursões pelo Brasil renderam-lhe muito dinheiro e só fizeram aumentar sua popularidade. Nos anos 20, reinava absoluto como ídolo da canção. Na década seguinte começou a demonstrar seus dotes como compositor resultando em clássicos de seu reportório, como 'O Ébrio', sua música mais lembrada até hoje (inclusive transformada em filme por sua esposa, Gilda Abreu, cantora, escritora, atriz e cineasta). Vicente estrelou outro filme: "Coração Materno".

Um grande empresário da época, Walter Mochi, ao ouvi-lo, quis levá-lo para a Europa, a fim de projetar Vicente como um dos maiores tenores dramáticos do mundo. Mas ele não concordou e disse que jamais deixaria o Brasil, declinando, assim, do honroso convite. Cantou durante 65 anos e recebeu o título de "A voz orgulho do Brasil'. Compôs várias cancões de sucesso, entre elas "Coração Materno", "Patativa", "Serenata" e "Ouvindo-te". Durante 33 anos foi contratado pela RCA-Victor, onde gravou centenas de discos. Teve também suas músicas regravadas por grandes nomes, como Caetano Veloso e Mutantes e faleceu aos 73 anos, em 23 de agosto de 1968.