De sa mère, Rosetta a hérité non seulement du don pour la guitare – sa mère était membre d’une église évangélique et jouait souvent de la mandoline pour inciter les gens à venir à l’église – mais aussi de sa forte personnalité et de son charisme. Elle a immigré à Chicago avec sa mère à l’âge de 6 ans, où elle a découvert le blues et le jazz, en plus du gospel. Dès son plus jeune âge, Rosetta a impressionné par sa dextérité à la guitare et au piano, mais aussi par son talent pour la scène, qui dépassait les standards de l’époque. Avec sa mère, elle a parcouru les églises Américaines et est progressivement devenue une figure marquante de la musique gospel.
À l’âge de 23 ans, Sœur Rosetta quitta l’église et s’installa à New York, où elle fit découvrir la musique gospel au public des clubs new-yorkais. Au fil des ans, elle devint une figure incontournable de la musique afro-américaine dans une Amérique profondément ségrégationniste. Elle se produisait souvent devant un public majoritairement blanc et masculin. Elle essuya également les critiques de l’Église, choquée par ce nouveau tournant dans sa vie de star, mais Sœur Rosetta Tharpe était une rebelle, une non-conformiste, une iconoclaste en avance sur son temps, et elle fit tout simplement ce qu’elle voulait : chanter pour Dieu et profiter des plaisirs de la vie dans les clubs.
Elle deviendra la reine incontestée de la musique gospel aux États-Unis et s’imposera comme une star de la radio et de la télévision dès les années 1940. Grâce à son énergie inépuisable et à son charisme scénique, Sister Rosetta est devenue l’idole d’une Amérique en pleine mutation et a ouvert la voie à des dizaines d’artistes afro-américains victimes d’un racisme flagrant de la part des maisons de disques.
Au cours de ses tournées, elle a donné des concerts aussi bien dans des églises que dans des clubs. Elle a su concilier le profane et le sacré et rassembler un peuple divisé. Ses disques ont fait le tour du monde grâce aux soldats américains participant à la Seconde Guerre mondiale. Elle était tellement adulée que son mariage a eu lieu dans un stade et a attiré plus de 25 000 personnes qui avaient acheté leurs billets.

