Janis Joplin déménage de nouveau dans San Francisco en 1966, où, grâce à sa voix très blues, elle rejoint le Big Brother and The Holding Company, un groupe montant, surtout populaire auprès de la communauté hippie. Le groupe signe un contrat avec le label indépendant Mainstream Records et enregistre un album éponyme en 1967. Cependant, le manque de succès de leurs premiers singles conduit l'album à rester peu vendu.
Après s'être séparée de Big Brother, elle forme un nouveau groupe pour l'accompagner, le Kozmic Blues Band, et enregistre I Got Dem Ol' Kozmic Blues Again Mama ! (1969). La même année, elle participe au célèbre concert de Woodstock. Le groupe se sépare rapidement, et Joplin forme le Full Tilt Boogie Band. Ils enregistrent l'album Pearl (1971), qui sort après sa mort. Il devient l'album le plus vendu de sa courte carrière, grâce à certains tubes comme "Me and Bobby McGee", et le chant a capella "Mercedes-Benz", commentaire social ironique, écrit par Joplin et Michael McClure.
Pendant l'enregistrement de "Pearl" en automne 1970 avec les Doors, Janis décède a 27 ans. Sa mort est due à une overdose d'héroïne le 4 octobre 1970. Ses derniers enregistrements complets sont "Mercedes-Benz" ainsi qu'un chant d'anniversaire pour John Lennon le 1er octobre 1970 ; Lennon raconta plus tard à Dick Cavett que l'enregistrement n'arriva à sa maison à New York qu'après sa mort.
Elle fût incinérée au cimetière Westwood Village Memorial Park à Westwood, un quartier de Los Angeles, en Californie, et ses cendres furent dispersées dans l'Océan Pacifique.