Lema nasceu em Oakland, Califórnia, de pais de ascendência portuguesa. O seu pai morreu quando Tony tinha três anos de idade, e a sua mãe esforçou-se para aumentar o bem estar da família de quatro filhos. Começou a jogar golfe ainda rapaz no Lake Chabot municipal golf course e aprendeu os diferentes aspectos do jogo com várias pessoas. O treinador de golfe Afro-americano Lucius Bateman ajudou-o a desenvolver o seu swing, o polícia de Oakland Ralph Hall ensinou-lhe a estratégia de jogo, e os profissionais de golfe de Lake Chabot, Dick Fry e Bill Burch, treinaram-no para usar uma postura bem enquadrada.
Aos 17 anos, Lema alistou-se no United States Marine Corps e serviu na Coreia. Depois de dispensado do serviço militar, em 1955, conseguiu trabalho como assistente do profissional do clube de golfe de San Francisco.
Eddie Lowery, um rico empresário de São Francisco, que apoiava jogadores amadores talentosos da região, ofereceu-se para patrocinar e incentivar Lema. Lowery é conhecido como o "caddy"de 10 anos do campeão Francis Ouimet durante o U.S. Open de 1913. O patrocínio que Lowery deu a Lema era de $200 por semana, para ser reembolsado, além de dividir os seus ganhos: Lema recebia dois terços, e Lowery um terço. Um detalhe adicional consistia em que todas as dívidas no final do ano eram transferidas para o seguinte.
Em 1957, Lema desenvolveu o seu nível de jogo o suficiente para iniciar o seu caminho para o PGA Tour, ganhando o Imperial Valley Open de forma memorável: supondo que estava fora da disputa, Lema foi para o bar do clube, e bebeu três highballs (bebida de whisky com gingerale). Disse que iria enfrentar Paul Harney num playoff de morte súbita, onde um Lema descontraído venceu o torneio no segundo buraco extra. No ano seguinte, começou a desenvolver amizades com um trio de colegas jogadores de golfe: Johnny Pott, Tommy Jacobs e Jim Ferree, e em 11 torneios em 1958, Lema terminou no top 15, ganhando $10.282 no ano.
No ano seguinte, os ganhos de Lema caíram para US $5.900, seguido de um ano ainda pior em 1960, quando ele ganhou uns meros $3.060. Um estilo de vida extravagante fora do campo teve o seu preço, até que começou a falar com o produtor de televisão Danny Arnold, que o ajudou a melhorar a sua compostura e reforçar a sua confiança.
Enquanto a luta de Lema continuava em 1962, juntamente com a sua dívida a Lowery alcançando mais de US $11.000, a sua sorte finalmente mudaria para sempre. Na véspera da sua vitória em Outubro de 1962, no Orange County Open Invitational em Costa Mesa, Califórnia, Lema brincou afirmando que serviria champagne à imprensa se ganhasse no dia seguinte. Daí em diante passou a ser conhecido como Tony do Champagne, com a sua bonita aparência e personalidade vivaz adicionada à lenda, de tal forma que Johnny Miller afirmou que, no momento da sua morte em 1966, Lema foi perdendo popularidade apenas para Arnold Palmer.
Esta vitória desencadeou um desempenho impressionante durante os próximos quatro anos que o viram ganhar 12 eventos oficiais do PGA tour, terminar em segundo em 11 ocasiões e em terceiro lugar quatro vezes. A partir de 1963, até Julho de 1966, Lema terminou no top-10 mais de 50% do tempo e nunca falhou um "cut" num major, terminando no top-10 em 8 dos 15 principais majors em que actuou. Foi membro das equipas dos Estados Unidos da Ryder Cup de 1963 e 1965, e o seu recorde de Ryder Cup (9–1–1) é o melhor de qualquer jogador que jogou em duas ou mais ocasiões.
Amigo e colega do tour, Jack Nicklaus escreveu que o jogo de Lema também estabilizou e melhorou muito depois que se casou com a sua esposa Betty, uma antiga hospedeira, em 1963. Uma razão adicional para o jogo mais descontraído de Lema daquele ano foi o fim do seu acordo com Lowery.
Em 1963, Lema terminou em segundo a uma pancada de Jack Nicklaus no torneio Masters e perdeu o playoff do US Open por duas pancadas, fazendo boguey nos dois últimos buracos, enquanto que precisava de birdies. Ganhou o Memphis Open Invitational mais tarde naquele verão.
Lema ganhou dois outros torneios e foi nomeado Most Improved Player em 1963 pela Golf Digest. Naquele inverno, escreveu com Gwylim S. Brown, "Golfers' Gold", um relato autobiográfico da sua aprendizagem de oito anos de competição no "caldeirão" do PGA Tour.
Em 1964, Lema ganhou o Bing Crosby National Pro-am em Pebble Beach Golf Links e, em seguida, três torneios em quatro semanas: o clássico de Thunderbird em Westchester Country Club em Rye, Nova York, o Buick Open Invitational em Warwick Hills Golf and Country Club em Grand Blanc e o Open de Cleveland no Highland Park Golf Course, em Cleveland, Ohio (num playoff com Arnold Palmer).
Duas semanas depois, Tony ganhou um dos major championships, o British Open desse ano em St. Andrews, na Escócia, por cinco pancadas sobre Jack Nicklaus. Foi uma vitória surpreendente, uma vez que o Lema não só fazia sua primeira aparição no campeonato, mas tinha apenas nove buracos de prática antes de começar. No entanto, Lema contratou o "caddy" britânico habitual de Arnold Palmer, Tip Anderson, uma vez que Palmer não estava a competir nesse ano; Anderson, um descendente de um antigo campeão do Open, Jamie Anderson, que cresceu no campo e provavelmente sabia mais sobre ele do que qualquer outra pessoa.
No conjunto dos quatro major champions de 1964, na World Series of Golf, Lema ganhou US $50.000 (então a maior recompensa no golfe) no Firestone Country Club acima de Arnold Palmer (Masters), Ken Venturi (US Open) e Bobby Nichols (PGA Championship).
Em 1965, Lema ganhou o Buick Open pelo segundo ano consecutivo e o Carling World Open, terminando em segundo no prémio de ganhos monetários atrás de Jack Nicklaus. No Outono de 1965, Lema e Nicklaus formaram a equipa dos EUA para o World Cup of Golf. A última vitória veio em de 1966, na cidade natal da sua esposa no Open de Oklahoma City. Algumas semanas mais tarde, com uma ronda de abertura de 78, quase ganhava o terceiro Buick Open consecutivo, apenas perdendo para o seu amigo íntimo, Phil Rodgers.
Em 1966, aos 32 anos, voava do Campeonato PGA no Firestone Country Club, em Akron, Ohio, com a sua esposa Betty, para um torneio de exibição, Little Buick Open in Lincolnshire, Illinois, ao sul de Chicago, quando o seu fretado bimotor Beechcraft Bonanza ficou sem combustível e caiu num obstáculo de água, perto do "green" do buraco 7 do Lansing Country Club, em Lansing, estado americano do Illinois, muito perto de seu destino. Durante o mergulho fatal, o piloto desviou à esquerda para evitar um grupo de pessoas a pé perto do clubhouse. Além dos Lema, outras duas pessoas, Dr. George Bard e Doris Mullen, também morreram. Bard e o marido de Mullen, George, eram os proprietários da malfadada avioneta.
Lema e a sua esposa foram sepultados no cemitério Santo Sepulcro em Hayward, Califórnia, após serviços fúnebres na Igreja de St Elizabeth na sua cidade natal, Oakland, California.
Em 1983, ao campo de golfe público de San Leandro foi dado em sua homenagem, o nome de Tony Lema Golf Course, que é agora parte do complexo Monarch Bay Golf.