Najviše se pamti po ulozi romskog muzičara Burduša iz televizijske serije „Muzikanti“ i istoimenog filma, pa je po toj ulozi dobio nadimak. Druga najvažnija uloga mu je „Mikula“ iz serije „Građani sela Luga“.
Rođen je u mestu Maskare kao jedno od petoro dece. Porodica se preselila u Beograd 1934. godine, kada je otac prešao u poštansku službu. Detinjstvo je Jovan proveo u Sarajevskoj ulici, nedaleko od železničke stanice. Zgrada u kojoj su Janićijevići živeli bila je teško oštećena nemačkim bombama aprilskog jutra 1941. godine, njihov stan na poslednjem spratu je potpuno izgoreo. U toku ratnih godina, dok su Janićijevići bili smešteni u poštanskim kancelarijama, jer su ostali bez stana, Jovanovog oca uhapsila je specijalna policija.
Život u teškoj oskudici učinio je Jovana jačom osobom. Puno godina kasnije prisećao se kako su on i njegovi prijatelji krali nemačke konzerve u okolnim magacinima i narodnim kuhinjama. Posle rata, Jovana su izbacili iz škole zbog tuče. Iz tih razloga, otac ga kažnjava, tako što ga šalje na selo gde ga čeka težak rad na njivi. Jedan dan, u Maskare je došla starija sestra Ljubica. U Beogradu se družila sa Mirom Stupicom, poznatom glumicom tog vremena. Sestra mu je tada predložila da pokuša sa glumom, a ona će zamoliti Miru da mu pomogne. Glumica nije pomogla Jovanu, ali zato mu je pomogao njen mlađi brat, Bora Todorović koji je tada već bio na drugoj godini Akademije. Jednom prilikom Bora Todorović je slušao Jovana kako recituje neku pesmu, sav oduševljen rekao je: „Ja više nemam šta da te učim!“. Igrao je sa Batom Živojinovićem, sa kojim je bio veliki prijatelji. Često su zajedno izlazili na igranke i u kafane. Blizak prijatelj bio je i sa velikim pesnikom Brankom Miljkovićem.
Život mu se menja jednog dana u saobraćajnoj nesreći koju je izazvao nesmotrenom vožnjom u centru grada, kada je njegov suvozač poginuo. Janićijević je osuđen na kaznu zatvora od godinu dana, koju je odležao u požarevačkoj Zabeli. Međutim, publika ga nije zaboravila, te je nakon izvršene kazne, nastavio sa profesionalnom karijerom.
Bekim Fehmiu u svojim memoarima „Blistavo i strašno“ je napisao da je u Rimu 1971. godine, bio u gostima kod Dina de Laurentisa i njegove supruge, glumice Silvane Mangano, te da je Jovanu ponuđena slavna uloga u filmu „Kum“. Naime, Jovan Janićijević bio je u Los Anđelesu oko mesec dana. Uslov za ulogu don Korleonea bio je da nauči engleski jezik, ali on se više nikada nije vratio tamo. Na kraju je donesena odluka da svi glumci u filmu budu Amerikanci, iako je u početku bila ozbiljno razmatrana mogućnost da će Balkanci ili Italijani biti najbolji glumci za prikaz mafijaša Koza Nostre, sa svojim tvrdim izgovorom i jakim akcentom, kao i mrkim pogledima.
Nakon saobraćajne nesreće i odležane zatvorske kazne, ređale su mu se uloge u filmovima „I bog stvori kafansku pevačicu“, „Valter brani Sarajevo“, kao i u hit serijama „Građani sela Luga“, „Majstori“, „Pozorište u kući“ i druge.
