São João I nasceu na região italiana da Toscana, talvez na localidade de Sena ou Arezzo, filho de um cavalheiro chamado Constâncio. Foi eleito Papa, em 523, mas pouco se sabe sobre o seu Pontificado. Parece que contribuiu para ampliar e ornar algumas basílicas romanas ao longo das Vias Ardeatina e Ostiense, graças à magnanimidade do imperador Justino I. João I manteve muitos laços de amizade com as Igrejas Orientais.

João I foi sucessor do Papa Ormisda, que teve a capacidade de pôr fim ao Cisma entre Roma e Constantinopla, graças à colaboração do imperador romano do Oriente, Justino I, tio de Justiniano.

O novo Papa, no entanto, teve que se deparou com o arianismo, que defendia a natureza divina do Filho inferior à do Pai. Os Godos, que reinavam na Itália, e seu rei Teodorico, eram de fé ariana.

Foi a Constantinopla, como delegado do rei Teodorico, junto do imperador Justino I. Ao chegar a Constantinopla, João I foi recebido com as maiores honras: presidiu às celebrações do Natal e da Páscoa e obteve algumas concessões para os arianos, mas não todas aquelas que o rei dos Godos lhe havia pedido. Na volta para Roma, enfurecido, Teodorico mandou prendê-lo no cárcere de Ravena, onde morreu pouco tempo depois no ano 526. A seguir, suas relíquias foram trasladadas para a Basílica de São Pedro, onde São João I é venerado como mártir da fé.