Era un padre apostólico, lo que significa que fue alumno de uno de los discípulos originales de Cristo; y era conocido por otras figuras importantes de la Iglesia cristiana primitiva, como Ireneo, que lo conoció de joven, e Ignacio de Antioquía, su colega en la Iglesia católica oriental.

Entre sus obras conservadas figura una Carta a los Filipenses, en la que cita al apóstol Pablo, algunas de cuyas citas aparecen en los libros del Nuevo Testamento y en los apócrifos. La carta de Policarpo ha sido utilizada por los eruditos para identificar a Pablo como el probable escritor de esos libros.

Policarpo fue juzgado y ejecutado como criminal por el imperio romano en el año 155 d.C., convirtiéndose en el duodécimo mártir cristiano de Esmirna; la documentación de su martirio es un documento importante en la historia de la Iglesia cristiana.