Murakami studoval divadelní umění na univerzitě Waseda v Tokiu. První práci získal v prodejně s hudebními nahrávkami, což je také místo, kde pracuje Tóru Watanabe. A když v roce 1973 studia dokončil, rozhodl se udělat něco, čím se dobrovolně vyloučil ze spořádané společnosti. Neucházel se o zaměstnání v žádné zavedené firmě, dal přednost nezávislosti a otevřel si v Tokiu jazzový bar Peter Cat v Kokubundži. Mnoho jeho románů má hudební námět a názvy odkazující na klasickou hudbu. Některé knihy převzaly svůj název naopak z populárních písniček: Tancuj, tancuj, tancuj (Dance, Dance, Dance od The Beach Boys), Norské dřevo (Norwegian Wood od The Beatles) a Na jih od hranic, na západ od slunce (South of the Border od Nat King Colea).

První knihu vydal v roce 1979 a obdržel za ni literární ocenění Gunzo pro debutanty. O fenoménu Murakami se začíná mluvit v roce 1982, to vychází román Hon na ovci a z Murakamiho je rázem velká spisovatelská hvězda. O tři roky později vychází dílo Konec světa & Hard-boiled Wonderland za nějž autor získal prestižní Tanizakiho cenu. Když vydá knihu Norské dřevo (1987), překoná rekordy prodejnosti. Jen v Japonsku se ho prodalo přes čtyři miliony výtisků. Podobný úspěch sklidila i další díla.

Murakamiho romány byly přeloženy do více než 20 jazyků. Je jedním z mála současných japonských autorů, který se prosadil celosvětově. Do japonštiny přeložil některá díla F.S. Fitzgeralda, Johna Irvinga, či Trumana Capoteho a Raymonda Carvera. V říjnu 2006 obdržel cenu Franze Kafky.