Tolaik, kad Latvijas izlasi trenēja zviedru speciālists Kurts Lindstrēms, viņam piepalīdzēja Oļegs Znaroks - un Kurts teica, ka Oļegs dienās varētu kļūt par izcilu treneri. Tā kā Oļegam bija līdera spējas gan uz ledus, gan ārpus tā viņš pakāpeniski kļuva par tādu kļuva. Jau pašā sākumā Znaroks 2003. gada Pasaules čempionātā bija galvenā trenera Lindstrēma asistents. Vēlāk vadīja Latvijas Atklātā Čempionāta klubus, būdams galvenais treneris - 2003./2004. Rīgas "Prizma" un kopš 2004. līdz 2008. gadam Rīgas "LSPA".
Oļegs ieveda Latvijas U-20 izlasi Elites divīzijā 2005. gadā, būdams galvenā trenera amatā. Znaroks ir bijis galvenā trenera asistents Pasaules čempionātos 2003., 2005.un 2006. gadā. Bet kā asistenti Harijs vītoliņš ar Oļegs ir sastrādājušies 2005. gada Pasaules čempionātā un 2006. gada Olimpiskajās spēlēs Turīnā. 2007. gadā bija Znaroka debija lielajā Latvijas izlasē galvenā trenera amatā, asistents bija Vītoliņš, Pasaules čempionāts notika Krievijā, debijas gadā Latvija iegūst 10. vietu pasaulē, bet jau nākošajā 2008. gada Pasaules čempionātā bija jācīnās par palikšanu Elitē - tas izdevās un 13. vieta iegūta.
Latvijas izlases trenerus Oļegu un Hariju iekāroja salīdzinoši vājš klubs ar nevisai lielu budžetu - Balašihas "MVD". Viņi piekrita vadīt šo KHL klubu un pirmajā KHL 2008./2009. sezonā pat neiekļuva izslēgšanas spēlēs, Gagarina kausa izcīņā Znaroks netika. Un tomēr jau nākošajā sezonā notiek sensācija - "MVD" visu sezonu ir viena no TOP komandām un 2009./2010. sezonā iekļūst izslēgšanas spēlēs, kurās pārspējot Maskavas ACSK, Rīgas "Dinamo", Jaroslavļas "Lokomativ", mazbudžeta komanda no Balašihas iekļuva Gagarina kausa finālā, kur sīvā cīņa sērijā ar 3 pret 4 "MVD" atzina bagātā kluba "AkBars" parākumu, tādējādi Oļegs Znaroks tika atzīts par gada labāko treneri! Pēc šīs sensācijas, kādam kaut kā radās doma apvienot Balašihas "MVD" ar Maskavas "Dynamo",kas arī tika izdarīts, izveidojot avienoto hokeja klubu Maskavas OHK "Dynamo" - OHK nu ir palicis tikai oficiālos dokumentos, nekur tas vairāk neuzrādās. Tā nu Znaroks ar Hariju turpina vadīt OHK "Dynamo" klubu (par spīti rakstu OHK), un 2010./2011. sezonas sākumā bija vareni ieskrējušies, stabili līderi bija un izslēgšanas spēlēs iekļuva jau gandrīz sezonas vidū, bet sāka vajāt traumas (iespējams, pārslodzes dēļ) un sākās zaudējuma sērijas un izslēgšanas spēlēs 1. kārtā zaudēja Rīgas "Dinamo". Pēc sezonas Kriss Saimons nosauca Znaroku par labāko treneri pie kura viņš ir spēlējis, tādam trenerim panākumi neizpalikšot. Oļegs kā simboliskais treneris piedalījās 2011. gada KHL Zvaigžņu spēlē, pārstāvot Jašina komandu. Znarokam un Vītoliņam ir parakstīts līgums arī uz 2011./2012. sezonu.
2009. gadā Znaroks ar Latvijas izlasi Pasaules čempionātā Šveicē izcīnīja augsto 7. vietu, bet 2010. gadā ieguva 11. vietu. 2010. gada Olimpiskajās spēlēs Latvijas izlase ar Oļegu priekšgalā palika 12. vietā, cīnoties zvērīgi, tomēr palika pēdējie turnīrā. Pēdējais 2011. gada Pasaules čempionāts nebija veiksmīgs, un Latvijas Hokeja federācijas prezidents Kirovs Lipmans atlaida visu personālu - arī Znaroku ar Vītoliņu, bet Znaroks nav piekāpīgs, un ar savu spītību piekrita 2012. gada Pasaules čempionātā vadīt Baltkrievijas nacionālo izlasi, bet Maskavas "Dynamo" vadībai tas nepatika, un Znarokam lika izvēlēties - Maskava vai Minska... Oļegs palika pie Maskavas.