McPherson nasceu em Joplin, Missouri e se mudou para Detroit aos nove anos de idade. Depois de crescer em Detroit, ele estudou com o renomado pianista Barry Harris e começou a tocar jazz profissionalmente aos 19 anos. Ele se mudou de Detroit para Nova York em 1959 e tocou com Charles Mingus de 1960 a 1972. Enquanto tocava com Mingus, ele colaborava frequentemente. com Harris, Lonnie Hillyer (trompete) e George Coleman (sax tenor). McPherson se apresentou em concertos e festivais com sua própria orquestra.
McPherson foi recentemente apresentado no Lincoln Center apresentando suas composições e arranjos originais com um conjunto de sete peças. Ele excursionou pelos EUA, Europa, Japão, África e América do Sul com seu próprio grupo, assim como com os grandes nomes do jazz Billy Eckstine, Lionel Hampton, Nat Adderly, Jay McShann e outros. McPherson gravou como artista convidado com Charlie Mingus, Barry Harris, Fazendeiro de Arte, Kenny Drew, Toshiko Akiyoshi, a Orquestra de Jazz de Carnegie Hall e a Orquestra de Jazz do Lincoln Center com Wynton Marsalis. Ele gravou como líder em Prestige, Fantasy, Mainstream, Discovery, Xanadu e, mais recentemente, Arabesque. Sua gravação mais recente é o altamente aclamado "Manhattan Nocturne".
Charles também foi o saxofonista alto do filme "Bird", de Clint Eastwood, uma biografia sobre Charlie Parker.
McPherson continua sendo uma força forte e viável na cena jazzística atual. Ele está no auge de seus poderes. Sua brincadeira combina sentimento apaixonado com padrões intricados de improvisação. Ao longo de suas quatro décadas sendo um intérprete integral da música, Charles não apenas permaneceu fiel às suas origens da BP, mas expandiu-se sobre elas.
Stanley Crouch diz em seu artigo no New York Times sobre Charles. "Ele é uma voz singular que nunca sacrificou a fluidez de sua produção de melodias, e é muito apreciada por músicos experientes e jovens."