Alvincon született, 1814. június 12-én.
Ősi erdélyi arisztokrata család sarja, apjának, Kemény Sámuelnek Csóka Rozáliával kötött második házasságából született.
1820-23-ban Zalatnán tanult, apja halála után, 1823-ban kezdődött a féltestvérei által indított áldatlan birtokpör, amelynek során anyja elvesztette birtokai jelentős részét.
1823-1834 között a nagyenyedi kollégiumban tanult, 1830-tól bölcsészetet és jogot. Tanárai közül hatott rá a kantiánus Köteles Sámuel és Szász Károly. Ők keltették föl érdeklődését a történeti szempontú jogtudomány és az irodalom iránt.
Részt vett az 1834-35. évi országgyűlésen, kapcsolatba került a politikai élet vezérkarával, barátságot kötött Wesselényi Miklóssal.
1835-37-ben Kapudon élt anyjával, jogi tanulmányait a marosvásárhelyi királyi táblánál fejezte be. 1837-ben a Nemzeti Társalkodó közölte első cikkeit, 1838-39-ben Kolozsvárt főkormányszéki írnok, 1839-40-ben Bécsben orvosi tanulmányokat folytatott, első regényén dolgozott.
1840-ben Kolozsváron telepedett le, s az ellenzék egyik vezető politikusa lett. 1842-43-ban barátaival, Kovács Lajossal és Szentiváni Mihállyal vállalta az Erdélyi Híradó irányítását.
1844-től többször is meglátogatta Zsibón Wesselényit, ahol barátságot kötött Deákkal; 1846-ban Debrecenben megismerkedett Széchenyivel; 1847-ben Pestre költözött, a Pesti Hírlap munkatársa volt, közel állt Eötvösékhez, de nem volt centralista.
1847-ben Velencében járt. 1848-ban a Batthyány-kormányt támogatta, s május 16-tól az év végéig Csengery Antallal a Pesti Hírlapot szerkesztette, és sok vezércikket írt.
1849-ben országgyűlési képviselőként, mint a békepárt híve követte a kormányt Debrecenbe, Szegedre, majd Aradra.
Világos után Nagybányán tartózkodott, azután jelentkezett a katonai kormányzatnál.
1850-ben felmentették.
1855. június 22-1856. december 9., 1857. december 1.-1859. július 13. és 1860. február 28.-1869. november 30. között a Pesti Napló szerkesztője, publicisztikájával a Deák-párt programjának kifejtését és a kiegyezés előkészítését szolgálta. Részt vett az Akadémia munkájában, 1867-1873 között a Kisfaludy Társaság elnöke, 1865-től Lipótváros országgyűlési képviselője volt. Közben rendszertelen, bohém életmódot folytatott, egészsége megromlott, elméje elborult.
1873-ban lemondott tisztségeiről, s visszavonult Pusztakamarásra.
Pusztakamaráson halt meg, 1875. december 22-én.
Értekező műveiből tükröződő szabadelvű felfogása a felvilágosodás hagyományaiban gyökerezett, de szorosan kapcsolódott a romantika eszményeihez és a pozitivizmus ténytiszteletéhez is; főként John Stuart Mill felfogása állt hozzá közel. Korai cikkeiben „ó intézményeink” átalakítását tartotta a polgárosodás feltételének, a képviseleti rendszer megteremtését tekintette célnak, „hírlapszabadságot” követel, s türelmet tanúsított a nemzetiségekkel szemben. Erdéllyel kapcsolatos politikáját 1842-ben így summázta: „rögtön úrbér, unió minél előbb”. Korteskedés és ellenszerei 1843-44 című röpiratában fellépett az erőszakos pártharcok, a „gubás nemesség” önzése és a megvesztegetés szelleme ellen.
1849 után következetesen haladt tovább. Forradalom után 1850 című röpiratában elítélte Kossuth végzetesnek tartott politikáját, a csüggedteket és az álmodozókat munkára, a pártoskodókat pedig összefogásra biztatta, figyelmeztetve, hogy az elszakadni óhajtó nemzetiségek közül egyedül a magyar nem találhat szövetségesre a Monarchia határain túl. Még egy szó a forradalom után 1851 című munkájában pedig, előre látva a német egység kialakulását s félve az orosz terjeszkedéstől, úgy vélte, hogy e két nagyhatalom ellensúlyozására a Monarchia a magyarság közreműködésével közvetítő szerepet játszhat a polgárosult Nyugat és az elmaradott Kelet között.
Élet és irodalom 1852-53 és Szellemi tér 1853 című cikksorozataiban a nyelvújítás és a népiesség után a polgárosult irodalom megteremtését látta időszerűnek. Eszmék a regény és dráma körül 1853 című tanulmányában összetett, rétegzett műfajként mutatja be a regényt, s változó jellemek teremtését igényli a szerzőktől.
Regényírói pályájának kezdetét sokirányú érdeklődés jellemzi: a Scott, Hugo és Jósika hatását jelző Izabella királyné és a remete 1837-38 című töredékes művében először tett kísérletet Martinuzzi György alakjának s korának felidézésére.
Első megjelent regénye (Gyulai Pál 1847) lezárta a felkészülés időszakát. Stílusa összetett: választékos, körmondatos nyelve tájszavakat is magába foglal, s gyakran a hősök látószögéből szemléli az eseményeket. Művében szinte rendszertelenül váltakoznak és keverednek az elbeszélés, a dramatizált jelenetezés, a beiktatott idegen szövegek, az elbeszélői magyarázat írói fogásai.
A szív örvényei 1851 a romantikus örökséget fejlesztette tovább, s a vallomásszerűséget szenvtelenül tárgyilagos jelenetekkel váltakoztatta.
A Férj és nő 1852 a romantikus hagyományt már a realizmus irányába fejlesztette. Ezt jelzi a polgári Norbert család életképszerű ábrázolása s a regény befejezése, amely a köznapi győzelmét jelenti a rendkívüli fölött. A nemesi és polgári hősök szembesítése során ellentétbe kerül a felfokozott énkultusz és a meghitt, ám kisszerű biedermeier bensőség.
A Ködképek a kedély láthatárán 1853 című regényének mindkét főhőse szembekerül önmagával, s áldozatává válik annak a helyzetnek, amelybe a sors kényszerítette őket. A szemlélet iróniája összefügg az időrend széttörésével és öt elbeszélő nézőpontjainak érvényesítésével.
Ekkor írt elbeszéléseiben is a realista epikát készíti elő: ezek közül a Két boldog 1852 a szabad akarat romantikus felfogását szembeállítja a determinizmussal; a romantikus álomnovellákkal rokon Alhikmet, a vén törpe 1853 főhősének figurájában pedig egyesül a tündérmesék vándora a földhözragadt kisbirtokossal.
„Kemény regényírói pályájának másik felét a nagy történelmi regények teszik ki, ezekben, általában, a 16-17. századi Erdély történelméből (eredeti krónikák alapján) választott események megelevenítésével, az egész történelem tragikus és kiszámíthatatlan menetéről s az egyén történelmi kiszolgáltatottságáról ad szép és sokoldalúan körülírt példázatot. Kemény, miközben igen nagy gondot fordít a korábban kötelezően előírt „történeti hitelre”, azaz gondosan ügyel arra, hogy tüzetesen ragaszkodjék forrásaihoz, s olyan - akár ténylegesen élt, akár költött szereplőkről szóló - jelenetet ne írjon le, mely bármily módon ellentmondana a források „objektív” hitelének, s valóban roppant precizitással törekszik arra, hogy az olvasó szeme előtt „megelevenítse”, az elmúlt kor világát, elbeszélőként, nagyon „modern” gesztusokkal élvén, mindvégig érzékeltei azt is, hogy a regény világa természetesen fiktív világ, s megelevenítése a szerző épp most adott önkényének függvénye.” (Margócsy István)
Szépírói életművét betetőző realista alkotásai közül az Özvegy és leánya 1855-57 már a lélektani regénnyel rokon, s azt a folyamatot elemzi, amelynek során hősei természete jellemmé alakul, ez pedig végzetükké válik. Az 1636 őszén játszódó cselekmény elbeszélése során Kemény átformálta a Szalárdi János Siralmas magyar krónikájából merített történetet.
A rajongóknak 1858-59 Szalárdi krónikája mellett Kemény János önéletírása a forrása. E regény Kemény legdrámaibb műve. Meghatározó szerepet játszik benne a párbeszéd és a belső monológ. Világában sem a józan ész, sem az erkölcsi értékek nem érvényesülhetnek. A cím a szombatosok mozgalmára utal, akik vakbuzgóságukban nem ismerték el az egyéniség jogait, és elutasították a részvétet.
A regényírói pályát lezáró mű, a Zord idő 1862 szemléletének tragikuma már a közösségi lét egészére kiterjed. Kemény ebben visszatért Martinuzzi György korához, s az eseményeket Buda eleste köré sűrítve állítja szembe egymással Komjáthi Elemér poétikus és Barnabás démoni figuráját. Ez utóbbinak ábrázolásával az író a tudattalan feltárására tett jelentős kísérletet.
Szépírói munkássága következetes fejlődést mutat a romantikától a realizmus felé. Műveivel a magas költészet rangjára emelte a magyar regényt, és forrásul az erdélyi emlékírók munkáit választotta. Történelmi regényeiben szerves egységet alkot az átvett tényanyag és a szépírói képzelet. Árnyalt jellemábrázolásával a lélektani regény irányába mutat.