Przez długie lata był ostoją defensywy warszawskiej Legii i reprezentacji Polski. Gdy w 2005 roku kończył bogatą w sukcesy karierę, niejednemu sympatykowi klubu z Łazienkowskiej 3 łezka zakręciła się w oku. Fanom trudno było sobie wyobrazić, jak będzie wyglądała formacja obronna bez jej lidera. Jacek Zieliński nigdy nie wyjechał z Polski, mimo kilku zagranicznych ofert. Wolał pozostać w Warszawie, dzięki czemu zapracował na dozgonny szacunek u kibiców. Zapisał się również na kartach historii drużyny narodowej, w barwach której rozegrał 60 spotkań (jest członkiem Klubu Wybitnego Reprezentanta), a największym osiągnięciem był awans i gra na mistrzostwach świata 2002.
W połowie lat 90., gdy „Zielu” zaczynał grę w reprezentacji, o miejsce w składzie rywalizował z innym świetnym środkowym obrońcą – Tomaszem Łapińskim z Widzewa Łódź. Długo pokutowało przekonanie, że obaj panowie nie mogą występować jednocześnie w pierwszym składzie. Z czasem jednak trenerzy doszli do wniosku, że warto przetestować wariant z dwójką stoperów z polskiej ligi. I okazało się, że Zieliński i „Łapa” bardzo dobrze się uzupełniają.
Pan Jacek zadebiutował w kadrze niemal 3 lata później niż Łapiński. Premierowe spotkanie w koszulce z orzełkiem „Zielu” zaliczył 7 czerwca 1995 roku w wysoko wygranym meczu ze Słowacją (5:0) w eliminacjach Euro 96, które rozegrano na stadionie Górnika w Zabrzu. Na boisku defensor Legii przebywał przez całe spotkanie. Obok niego mogliśmy tego dnia podziwiać m.in. takich graczy jak: Maciej Szczęsny, Waldemar Jaskulski, Andrzej Juskowiak czy Tomasz Wieszczycki.
W 60. rozegranych w kadrze meczach Zieliński zdobył tylko jedną bramkę – w wyjazdowym towarzyskim starciu z Czechami (1:2) w Ostrawie w 1997 roku. Był to gol strzelony w 90. minucie.
Z reprezentacją panu Jackowi nie udawało się przez kolejne lata zakwalifikować się do turniejów rangi mistrzowskiej – ominęło go Euro 96, mundial 1998 i Euro 2000. Powiodło się dopiero za kadencji Jerzego Engela, kiedy to Polska awansowała do mistrzostw świata w Korei Płd. i Japonii. Na tym turnieju „Zielu” zagrał jedynie w ostatnim grupowym spotkaniu – ze Stanami Zjednoczonymi (3:1).
Po raz ostatni Zieliński przywdział reprezentacyjną koszulkę 12 listopada 2003 roku. Na stadionie Legii w Warszawie, czyli jego macierzystego klubu, biało-czerwoni zmierzyli się towarzysko z Włochami (3:1). Był to bardzo dobry mecz w wykonaniu polskiej drużyny, która sprawiła nie lada niespodziankę, pokonując Squadra Azzurra. „Zielu” zaliczył 90 minut. Na murawie oglądaliśmy jeszcze m.in.: Jerzego Dudka, Tomasza Kłosa, Mariusza Kukiełkę czy Damiana Gorawskiego.
Ostatnie ligowe spotkanie w barwach Legii Zieliński rozegrał z końcem sezonu 2003/2004 (z GKS-em Katowice). Z powodu odniesionej kontuzji nie przystąpił już do kolejnych rozgrywek i zakończył karierę. Dość szybko znalazł się po drugiej stronie barykady. Jesienią 2004 roku został trenerem stołecznego klubu (po zwolnieniu Dariusza Kubickiego). Potem był asystentem Dariusza Wdowczyka, a po rozwiązaniu z nim umowy znów został pierwszym szkoleniowcem. W 2007 roku zastąpił go Jan Urban. Wówczas Zieliński rozstał się z Legią na kilka ładnych lat.
Jako trener pracował później w Koronie Kielce i Lechii Gdańsk, a w 2010 roku został asystentem Franciszka Smudy w reprezentacji Polski. Po Euro 2012 „Zielu” został selekcjonerem drużyny do lat 20.
W 2014 roku zupełnie się przekwalifikował. Porzucił pracę w roli trenera i zamienił ją na gabinet dyrektora sportowego w Wigrach Suwałki. Zielińskiemu tęskno było jednak do Legii. I 3 lata później znów zawitał do stolicy. W stołecznym klubie został dyrektorem Akademii Piłkarskiej, w której odpowiadać miał za jej kompleksowy rozwój.
W grudniu 2021 roku funkcja „Ziela” znów uległa zmianie. Tym razem został on mianowany dyrektorem sportowym Legii, zastępując w tej roli Radosława Kucharskiego.
► Uczestnik mistrzostw świata w Korei Płd. i Japonii (2002)
► Ćwierćfinalista Ligi Mistrzów (1996)
► Mistrz Polski z Legią Warszawa (1994, 1995, 2002)
► Puchar Polski z Legią Warszawa (1994, 1995, 1997)
► Superpuchar Polski z Legią Warszawa (1997)
► Piłkarz Roku tygodnika "Piłka Nożna" (1999)