É uma banda de blues rock americana. Peter Albin, um guitarrista que havia tocado com Jerry Garcia e Ron McKernan, futuros fundadores do Grateful Dead, conheceram Sam Andrew, um guitarrista profissional de jazz e com formação clássica. Depois de tocar juntos na casa de Albin, Andrew sugeriu que formassem uma banda. Os dois se aproximaram do guitarrista James Gurley, e o trio tocava em jam sessions organizadas pelo empresário Chet Helms em 1965. Helms se encontrou com o baterista Chuck Jones, e a Big Brother and the Holding Company foi formada. O seu primeiro show foi no Trips Festival em janeiro de 1966. O Big Brother passou a se tornar a banda da casa no Avalon Ballroom, tocando um estilo de rock progressivo instrumental. Sentindo a necessidade de um vocalista forte, Helms entrou em contato com Janis Joplin, que na época estava pensando em se juntar a Roky Erickson do The 13th Floor Elevators. Ela viajou para São Francisco e estreou com a Big Brother no Avalon em 10 de junho de 1966. Levou um tempo para alguns dos seguidores da banda aceitar a nova cantora e seu atual namorado, o tecladista Stephen Ryder. Em setembro de 1966, a Big Brother assinou um contrato com a Mainstream Records. Uma das primeiras performances da banda foi em 1967 no Mantra-Rock Dance, um evento musical realizado em 29 de janeiro de 1967 no Avalon Ballroom pelos Hare Krishnas de San Francisco.
O desempenho histórico da banda no Monterey Pop Festival em junho de 1967 atraiu a atenção nacional e internacional. O álbum de estreia da banda, Big Brother & The Holding Company, foi lançado em agosto de 1967. O álbum estreou na posição 60 na Billboard 200, e ficou durante 30 semanas. A Big Brother foi a primeira banda a tocar no Fillmore East, em Nova York, no dia 8 de março de 1968. O seu segundo álbum inicialmente chamado, Sex, Dope e Cheap Thrills, mas a Columbia Records pediu para encurtá-lo apenas para Cheap Thrills, foi lançado em novembro de 1968. O álbum alcançou o topo das paradas na Billboard 200. As canções "Summertime", "Piece of My Heart" e "Ball and Chain" se destacaram no álbum. No final do verão de 1968, Janis Joplin anunciou que ela deixaria a Big Brother no outono daquele ano. Andrew e Ryder também deixaram a banda para se juntar a Joplin em seu novo projeto. Janis Joplin tocou com a Big Brother até o dia 1 de dezembro de 1968, no concerto Family Dog Benefit em San Francisco. Três semanas depois, ela e Andrew tocaram em Memphis pela primeira vez com a sua nova banda, mais tarde chamada Kozmic Blues Band. A banda finalmente voltou no outono de 1969 com a mesma formação, exceto Joplin. Eles se juntaram com Nick Gravenites nos vocais, Dave Schallock na guitarra e Kathi McDonald também nos vocais.
O seu terceiro álbum, Be a Brother, foi lançado em 1970. Janis Joplin faleceu no dia 4 de outubro de 1970, com 27 anos em Los Angeles na Califórnia, devido a uma overdose de heroína. Em 1971, a banda lançou seu último álbum de estúdio, How Hard It Is. A banda permaneceu até 1972, e se dissolveu em meio ao uso de drogas, perda de gerenciamento, falta de shows e disputas internas. Eles se reuniram uma vez para tocar "The Tribal Stomp" em 1978 no Teatro Grego em Berkeley. A sua última encarnação começou em 1987 com a maioria de sua formação clássica. Gurley partiu em 1997 e foi substituído por Tom Finch. Em 1999, a banda lançou o álbum, Do What You Love, com Lisa Battle como vocalista. Eles gravaram o álbum ao vivo, Hold Me, com Sophia Ramos nos vocais e Chad Quist na guitarra. Em 2007, o álbum Cheap Thrills foi incluído ao Grammy Hall of Fame. Ben Nieves substituiu Finch como guitarrista em 2008. O ex-guitarrista James Gurley faleceu no dia 20 de dezembro de 2009 de um ataque cardíaco, apenas dois dias antes de completar 70 anos. A Big Brother teve diversas vocalistas. Cathy Richardson tornou-se a vocalista oficial da banda em 2011. Sam Andrew faleceu no dia 12 de fevereiro de 2015, devido a um ataque cardíaco que sofreu dez semanas antes.