Ziemeļu svilpis ir liela auguma žubīšu dzimtas dziedātājputns ar īsu kaklu, garu asti un masīvu, konisku knābi, kura gals noliekts uz leju. Mātītes nedaudz mazākas nekā tēviņi. Ķermeņa garums 18,5—25,5 cm, spārnu plētums apmēram 33 cm, svars 38—78 g.
Raksturīgs dzimumu dimorfisms. Tēviņa apspalvojums rožu sarkans ar pelēku (sarkana galva, kakls, krūtis un mugura; pelēki sāni un zemaste). Acis ieskauj melna josliņa.
Mātītes apspalvojums oranžs vai dzeltenīgi oranžs ar pelēku (oranža galva un muguras lejas daļa, pārējais ķermenis pelēks, viegli oranžs tonējums var būt arī uz krūtīm). Abiem dzimumiem uz melnajiem spārniem divas baltas šķērssvītras (tēviņam svītras var būt arī sārtas). Sekundāro lidspalvu gali balti. Aste melna, arī knābis melns vai tumši pelēks ar gaišu pamatni. Kājas un acis tumši brūnas.
Jaunie putni līdz divu gadu vecumam līdzīgi mātītei un ir gandrīz no tās neatšķirami. Reizēm jaunajiem tēviņiem oranžas vai oranži sārtas ir arī krūtis, kādas nav mātītei.