Sylvère succéda au Pape Agapet, l’an 536, à une époque fort difficile, où l’Église était troublée par les intrigues et les hérésies. À voir la manière dont s’était faite l’élection de Sylvère, favorisée, imposée même par Théodat, roi des Goths, on eût pu craindre que le nouvel élu ne répondît pas à la sainteté de la mission ; mais il en fut tout autrement.
Dieu fit paraître en ce moment la puissance infinie de Sa grâce et l’attention providentielle qu’Il prête au choix des souverains pasteurs de Son Église ; car Sylvère fit éclater tant de vertus, il montra une vigueur si grande pour les intérêts de la religion, que ni l’exil, ni la perte des biens, ni les tourments les plus cruels, ni la mort même, ne furent capables d’abattre son courage et de lui arracher une décision contraire à son devoir.
L’impératrice de Constantinople, Théodora, ayant voulu obtenir de lui le rétablissement, sur le siège patriarcal de cette ville, d’un hérétique déposé par le Pape son prédécesseur, Sylvère lui déclara qu’il ne le pouvait pas. Ce fut contre lui le signal de la persécution ; Théodora le fit saisir, dépouiller de ses ornements pontificaux et revêtir d’un habit monastique, et un antipape, nommé Vigile, fut proclamé à sa place.
Sylvère, envoyé en exil à Patare, en Asie, fut sans doute attristé de la grave situation de l’Église ; mais, d’autre part, il eut une joie extrême de souffrir pour la défense de la foi, et il semblait personnellement aussi heureux dans les épreuves de l’exil que dans les gloires du pontificat. L’évêque de Patare le reçut d’une manière fort honorable et prit hardiment sa défense à la cour de Constantinople ; il menaça le faible empereur Justinien des jugements de Dieu, s’il ne réparait le scandale : "Il y a plusieurs rois dans le monde, lui dit-il, mais il n’y a qu’un Pape dans l’univers." Ces paroles, dans la bouche d’un évêque d’Orient, montrent bien que la suprématie du siège de Rome était reconnue partout.
Justinien, trompé jusqu’alors, se rendit aux observations de l’évêque, et peu après, malgré l’impératrice, Sylvère revint en Italie ; mais bientôt de nouvelles intrigues le conduisirent dans l’île déserte de Pontia, où il subit un second exil plus rigoureux que le premier. Au bout d’un an, ce bon Pape mourut de faim et des autres misères de l’exil.