1990 nyarán sokat utazott a Manchesterből Londonba tartó vonaton, és ekkor fogalmazódott meg benne az ötlet egy fiúról, aki varázsló, de nem tud róla, és varázslóiskolába fog járni. Az egész történet kristálytisztán megszületett a fejében. Mikor négy órával később leszállt a vonatról a King’s Cross pályaudvaron, már több karaktert és helyszínt is kitalált. A történeten az ebédidejében dolgozott, pubokban és kávéházakban. Közben rövid történeteket és két máig kiadatlan felnőtteknek szóló novellát is írt, de ideje nagy részében a Harry Potter-történetekkel foglalkozott. 1992. október 16-án férjhez ment Jorge Aranteshez, aki a hadseregben szolgált (később egy tévénél dolgozott), és 1993. július 27-én megszületett lányuk, Jessica Rowling Arantes. Férjétől azonban hamarosan elvált és ezt követően nehéz körülmények között tengődött. Kislányával ezután Skóciába költöztek, ahol húga is lakott. Tanári állást szeretett volna kapni, de előtte be akarta fejezni könyvét. Hogy ne a nyirkos, fűtetlen lakásban legyenek, Rowling lányával egész napját egy kávéházban töltötte, itt fejezte be Harry Potter történetét. Ezután kezdett el kiadókat keresni, de sorban elutasították, arra hivatkozva, hogy a történet - annak cselekménye miatt - nem illik az ifjúsági irodalom sorába, illetve a cselekményszálat és a megfogalmazást is bonyolultnak találták. Végül Londonban talált egy ügynököt (Christopher Little), akinek sikerült eladnia 1996 augusztusában a Harry Potter és a bölcsek köve (Harry Potter and the Philosopher's Stone) kéziratát az angliai Bloomsbury Children's Books kiadónak, kb. 4000 dolláros áron. A könyv 1997 júniusában jelent meg Angliában. Az írónő sokáig azt gondolta, hogy nem fogják felfedezni. Tévedett: 1997-ben elnyerte a British Book Awards Children's Book of the Year és a Smarties Book Prize Gold Medal for ages 9–11 díjakat. 2000-ben a Warner Brothers megvette a sorozat filmjogait. 2001. december 26-án házasodott össze második férjével, dr. Neil Murray orvossal, Perthshire-ben. 2003. március 23-án megszületett fiuk, David Gordon Rowling Murray, 2005. január 23-án lányuk, Mackenzie Jean Rowling Murray.