Larsen syntyi Chicagossa tanskalaiselle äidille ja karibialaiselle isälle. Chicagon tiukka rotuerottelu teki hänen elämästään vaikeaa, sillä valkoisen äidin ja mustan isän ruskeaihoisena lapsena hän kohtasi torjuntaa kaikkialla ja koki ulkopuolisuutta sekä mustien että valkoisten yhteisöissä.

Larsenin äiti uskoi koulutukseen ja rohkaisi tytärtään opin tielle. Larsen aloitti opinnot mustille tarkoitetussa yliopistossa Tennesseessä, mutta viihtyi siellä vain vuoden, muutti Tanskaan ja opiskeli kolme vuotta Kööpenhaminassa. Myöhemmin hän käsitteli Tanskan-kokemuksiaan osittain omaelämäkerrallisessa esikoisromaanissaan Quicksand (1928).

Palattuaan vuonna 1912 Yhdysvaltoihin Larsen asettui New Yorkiin, suoritti siellä sairaanhoitajan tutkinnon ja työskenteli useita vuosia eri sairaaloissa. Vuonna 1919 hän meni naimisiin fyysikko Elmer Imesin kanssa ja muutti mustien suosimaan Harlemin kaupunginosaan. Hän alkoi tehdä vapaaehtoistyötä kirjastossa ja suoritti kirjastonhoitajan tutkinnon.

Harlemiin oli tuolloin kerääntynyt mustia taiteilijoita eri puolilta Yhdysvaltoja. Larsen tutustui kirjallisiin piireihin ja julkaisi esikoisteoksensa, joka sai hyvän vastaanoton. Seuraavana vuonna (1929) ilmestyi hänen pääteoksensa, pituutensa perusteella lähinnä pienoisromaaniksi luokiteltava Irene ja Clare. Se toi hänelle kosolti kunniaa ja mainetta ja nosti hänet keskeiseksi nimeksi sekä modernistina että afroamerikkalaisena ja feministisenä kirjailijana.

Larsenin ja Imesin avioliitto päättyi eroon vuonna 1933. Sen jälkeen Larsen vietti useita vuosia Euroopassa ja valmisteli uutta kirjaa, jota ei kuitenkaan koskaan julkaistu. Vuonna 1937 hän palasi New Yorkiin, lopetti kirjoittamisen ja jatkoi työtään sairaanhoitajana.

Vaikka Larsen kirjoitti vain kaksi romaania ja joitakin novelleja, hän kuuluu nykyisin Harlemin renessanssin – jolla tarkoitetaan New Yorkin Harlemissa 1920- ja 1930-luvuilla vallinnutta afroamerikkalaisen kulttuurin kukoistuskautta – tunnustetuimpiin kirjailijoihin.