Tradycja nie przekazała dokładnego miejsca urodzenia świętego, ale zapewne była to Azja. Nic też nie wiemy o rodzinie Polikarpa ani o jego latach młodości. W Smyrnie, której biskupem był Polikarp, znajdował się jeden z siedmiu Kościołów Azji wzmiankowany w Apokalipsie św. Jana.

Około roku 107 św. Ignacy z Antiochii napisał piękny list do Polikarpa, kiedy był wieziony na egzekucję do Rzymu i zatrzymał się w Troadzie. W liście tym Ignacy oddaje Polikarpowi najwyższe pochwały, kiedy go nazywa dobrym pasterzem, niezłomnym w wierze i mężnym atletą Chrystusa. Takim przedstawiają go wszystkie świadectwa. Sprawując urząd biskupa w Smyrnie przez ponad pół wieku, Polikarp zdobył sobie wielki autorytet w samym mieście oraz poza jego granicami. Potomni nazwali go nawet „wodzem całej Azji Mniejszej”.

Pod koniec życia Polikarp udał się do Rzymu na spotkanie z papieżem Anicetem. Podróż ze Smyrny trwała wiele miesięcy i była przedsięwzięciem dość ryzykownym, zwłaszcza dla człowieka w podeszłym wieku. Celem spotkania była negocjacja wspólnej daty obchodzenia Wielkanocy celebrowanej wedle tradycji wschodniej i zachodniej w różnych dniach. Chociaż obydwaj biskupi nie znaleźli rozwiązania sporu, to jednak rozstali się w serdecznej zgodzie, a późniejsze dzieje sporu trwającego do IV wieku wskazują, że już to stanowiło wielki sukces.

W 156 r., kiedy prześladowanie chrześcijan za cesarza Marka Aureliusza dosięgło także Smyrny, miejski stadion był świadkiem okrutnej sceny: na przygotowanym stosie płonął (choć nie spłonął) biskup Polikarp. Wcześniej jeden ze sług pod wpływem tortur wskazał miejsce jego kryjówki. Polikarp ukrywał się w pobliżu miasta w pewnym gospodarstwie rolnym i tam właśnie został schwytany. Zaprowadzono go na stadion, gdzie tłum zbierał się na oglądanie igrzysk. Biskupa oskarżono o lekceważenie pogańskich zwyczajów. Gdy prokonsul Stacjusz Kwadratus nakazał Polikarpowi, by złorzeczył imieniu Chrystusa, ten niewzruszony odrzekł: „Osiemdziesiąt i sześć lat jestem Jego niewolnikiem i żadnej krzywdy mi nie wyrządził. Jakże mógłbym bluźnić Królowi mojemu, który mnie zbawił”. Żadne namowy nie skłoniły Polikarpa do zdrady Zbawiciela. Przygotowano więc stos. Jeden ze świadków tak wspomina tamto wydarzenie: „Kiedy buchnął potężny płomień, dane nam było zobaczyć na własne oczy przedziwne zjawisko. Dlatego zostaliśmy zachowani, aby innym opowiedzieć o tym, co zaszło. Płomienie, tworząc kształt łuku, jak żagiel wichrem wzdęty, otoczyły męczennika”. Ponieważ płomienie nie imały się ciała, trzeba było przebić je sztyletem. Dopiero wtedy Polikarp mógł przejść przez bramę życia wiecznego. Ciało męczennika spalono, ale chrześcijanie zebrali prochy i złożyli do grobu, by corocznie obchodzić przy nim rocznicę narodzin dla nieba. Do dziś w Izmirze można oglądać miejsce męczeństwa oraz grób św. Polikarpa. Kiedyś stała tam bazylika, która doszczętnie spłonęła podczas I wojny światowej.

Św. Polikarp napisał list do Kościoła w Filippi, mieście położonym we wschodniej Macedonii, na przeciwległym w stosunku do Smyrny brzegu Morza Egejskiego. List zachował się częściowo w języku greckim, częściowo zaś w przekładzie łacińskim. Jest to wczesne cenne świadectwo Tradycji apostolskiej oraz – ze względu na liczne cytaty biblijne – kanonu Pisma Świętego. List ten poświadcza wiarę w bóstwo Jezusa, a także w zmartwychwstanie ciał oraz sąd ostateczny, któremu każdy będzie podlegał. Różne źródła wzmiankują, że św. Polikarp napisał jeszcze wiele listów skierowanych do sąsiednich Kościołów, ale żaden z nich się nie zachował.

Cennym pomnikiem literatury starochrześcijańskiej jest też „Martyrium Policarpi”, jedno z najstarszych zachowanych akt męczeńskich, pierwotny opis, który zaświadcza nie tylko o samym męczeństwie, ale także o kulcie męczennika, dorocznej pamiątce i zwyczaju święcenia jej u grobu czczonego bohatera wiary.

Miłość, którą Polikarp okazywał bliźnim, rozbłyska zarówno w liście skierowanym do Kościoła w Filippi, jak i w opowieści o męczeństwie świętego. Miłość owa musiała pochodzić, przynajmniej na zasadzie przykładu, od jego nauczyciela, którym był św. Jan Apostoł. Nie znamy dokładnego czasu ani zakresu ich wzajemnych stosunków, jednak spojrzenie na życie św. Polikarpa upewnia o głębokim wpływie, jaki wywarł nań św. Jan.

W „Liście do Filipian” zachęcał tamtejszych chrześcijan do wytrwania w wierze, jedności i łasce. „W tym zatem trwajcie — pisze święty biskup – i naśladujcie przykład Pana. Mocni i niezachwiani w wierze, miłujcie braci, kochajcie się wzajemnie, zjednoczeni w prawdzie uprzedzajcie jedni drugich w łagodności Pana, nikim nie pogardzajcie”.