Em 1701, quando Leonardo Nardez e seus companheiros chegaram ao planalto mineiro, depararam com uma grande mata, que chamaram Caeté, na língua indígena, mata virgem. Nascia, então, a Vila Nova da Rainha.
A cidade de Caeté foi fundada no ciclo do ouro, quando foram construídas suas principais igrejas e o casario de arquitetura colonial.
Visitar Caeté é quase que obrigatório, não só pela rara e colorida paisagem , de onde se descortina a Serra da Piedade, situada a 16 km da cidade e que comporta penhascos abruptos e rochedos gigantescos, mas também pelos belos exemplares da arquitetura barroca. O passeio pode começar pela Igreja Nossa Senhora do Bom Sucesso, construída em alvenaria e que marca o início da terceira fase do barroco, que predomina nas ruas, esculturas, imagens e peças de ouro e prata. Em seguida, o interessante é conhecer a igreja Matriz de Nossa Senhora de Nazaré, do século XVIII, na qual se destaca a pintura da nave que representa o milagre ocorrido em Portugal, de onde se originou o culto à santa; e a Capela do Rosário, uma das mais antigas da região, erguida pela população negra, por causa da segregação entre brancos e negros. Imperdível ainda é o Santuário de Nossa Senhora da Piedade, construído por Antônio Bracarena, no fim do século XVIII. A igreja apresenta em seu interior a imagem da padroeira de Minas Gerais, Nossa Senhora da Piedade, atribuída a Aleijadinho.
A história se faz presente no chafariz da Cadeia Velha, construção sólida erguida pelos escravos em 1800, que apresenta linhas e arabescos harmoniosos, trabalhados em pedra sabão.