ICP savu karjeru sāka, kā maza ielu banda, jeb tādi kā huligāni. Viņi sevi dēvēja par „Inner City Posse”, tajā laikā dalībnieki bija Joe Bruce(Violent J) un Joey Ustler(Shaggy 2 Dope). Viņi ierakstīja, repa kasetes priekš karaoke mašīnām un bija viegli pazīstami Detroitā. Vietējās Detroitas bandas nevēlējās viņus pieņemt, jo viņu mūzika jau tad bija netradicionāla..... Tādēļ ICP atbalstītājus nereti vien mēdz iekaustīt, kā arī mūziķus mēdza iekaustīt...!
Pamazām atkāpjoties no gangsteru imidžiem, viņi izlaida vēl vienu albumu – „Basement Cuts”, un ar vietējā mūzikas veikala īpašnieku, Alex Abiss, sarunāja, šo kaseti izplatīt. Tika pārdoti aptuveni 200 eksemplāri, un tad ICP kopā ar Alexu dibināja Psychopathic Records, kā marķējumu & firmas zīmi... Tad, 1991. Gadā, viņi izlaida savu otro albumu Dog Beats, kas arī ir pēdējais albums zem titula „Inner City Posse”. Tad, ka Joe Bruce bija tikko iznācis no vietējā, ne īpaši stingrā cietuma, daļa grupas jau bija pajukusi, un atbalstītāji arī nebija. Viņu nākotne izskatījās ļoti skumja un tukša, bet tieši šajā punktā lietas sāk kļūt interesantas.