O papa Leão II era filho de um médico chamado Paulo e nasceu na Sicília. Os outros poucos dados que temos sobre ele foram extraídos do seu curto período à frente do governo da Igreja de Roma, quase onze meses.
Em 681, ele já estava em Roma, onde exercia a função de esmoler-mor da Igreja. Era um homem extremamente culto, eloqüente, professor de ciências, profundo conhecedor de literatura eclesiástica. Além de falar fluentemente o grego e o latim, era especialista em canto e salmodia. Por tudo isso os historiadores entendem que ele deve ter sido um mestre em alguma escola teológica cristã, de seu tempo e sua região.
Foi eleito dias após a morte do papa Ágato. Mas o centro do império, em Constantinopla, opunha-se à sua posse, por não ter tido tempo suficiente para influenciar na escolha do sucessor ao pontificado, como seria mais conveniente aos interesses dos bispos do Oriente.
Então, num verdadeiro ato de chantagem, o imperador exigiu uma compensação financeira. Um ano demoraram as negociações entre Roma e Constantinopla, até que o imperador desistiu da absurda exigência e o papa Leão II pôde assumir o governo da Santa Sé, sendo consagrado em 17 de agosto de 682.
Sua primeira providência foi confirmar o VI Concílio Ecumênico. Enalteceu de maneira mais didática os argumentos do seu antecessor, aliviando a tensão que se formara com os bispos do Oriente.
Depois, instituiu a aspersão da água benta nos ritos litúrgicos e sobre o povo. Também conseguiu que a escolha do bispo de Ravena ficasse sujeita à determinação de Roma e não por indicação política, como ocorria na época. E ainda fez valer sua autoridade diante do abuso do poder dos bispos usurpadores dos bens da Igreja.
Zelou pela pureza da fé e dos costumes, dando ele próprio o exemplo, confortando os pobres com vigoroso socorro espiritual e material, por meio de obras de caridade financiadas pela Igreja.
Mandou restaurar a igreja de Santa Bibiana especialmente para acolher as relíquias dos santos mártires Simplício, Faustino e Beatriz, que ainda estavam sepultados num campo que antes fora um templo pagão. Além disto, por ter muita devoção pelos soldados mártires são Sebastião e são Jorge, propagou-a entre os fiéis, que passaram a considerá-los padroeiros dos militares.
O papa Leão II morreu no dia 3 de julho de 683, sendo festejado como santo pela Igreja no dia do seu trânsito.