Nasceu em 1152, em Francon, França. Menino ainda, mostrava grande amor à oração e aos pobres. Nos dias santos, seu passeio predileto era ao hospital, onde servia aos doentes. Com distinção terminou os estudos em Paris. À ciência ligava grande virtude e piedade, motivo por que o Arcebispo de Paris não pôs dúvida em ordená-lo sacerdote.

Durante a celebração da Primeira Missa apareceu-lhe um anjo do céu, que trazia um hábito branco, com uma cruz vermelha e azul no peito e estendia seus braços sobre dois cativos algemados, um cristão e um mouro. Viu nisto um aviso de Deus e tomou a resolução de dedicar suas energias à obra de libertação dos cristãos, que sofriam sob o jugo da escravidão dos mulçumanos. Antes de pôr em execução este plano, foi ter com o eremita São Félix de Valois, que o acolheu com muita satisfação, mas como companheiro.

Em 1197 se dirigiram a Roma, onde o Papa Inocêncio III os recebeu com muitas honras e aprovou-lhe o instituto. Deu-lhes, como distintivo da nova Ordem, um hábito branco, com uma cruz azul-vermelha no peito. Aludindo a estas três cores, deu-se lhes o nome de Ordem da Santíssima Trindade.

Fundaram o mosteiro de Cerfroid e entregaram-se ao seu trabalho. Organizou uma expedição à África, onde resgatou um grande número de cristãos. Em uma segunda viagem, caiu nas mãos dos muçulmanos, foi espancado e deixado sangrando pelas ruas de Túnis, na Tunísia.

Recuperou-se, reuniu os cristãos e os embarcou num navio que devia levá-los a Roma. O barco acabou sendo atacado, teve as velas rasgadas e o leme quebrado. Os registros e a tradição contam que João da Mata tirou o manto, rezou, transformou-o numa vela, pediu a Deus que guiasse o navio e, assim, chegaram ao porto da cidade italiana de Óstia.

Tendo Inocêncio III convocado um Concílio em Latrão, o rei Filipe Augusto escolheu São João da Mata para seu teólogo. Mas ele ficou doente, falecendo em 17 de dezembro de 1213. Foi canonizado por Urbano IV em 1262.