Ծնվել է Մոլդովական Հանրապետության Պոդոլսկի գավառի Վիխվատինեց գյուղում: Ռուբինշտեյնը մանուկ հասակից տեղափոխվել է Մոսկվա: Դաշնամուր նվագել սովորել մորից հինգ տարեկան հասակում, ավելի ուշ նրան դասեր է տվել հայտնի ուսուցիչ Ա. Վիլլուանը: Ինը տարեկանում նա առաջին անգամ հանդես է եկել համերգով: 1840 -43 թթ-ին նա իր ուսուցչի՝ Վիլուանի հետ համերգային շրջագայություն է կատարել Արևմտյան Եվրոպայով: 1844-46 թթ-ին Ռուբինշտեյնը դասեր է վերցրել Բեռլինում Զ. Դենից, այնուհետև վերադարձել է Սանկտ-Պետերբուրգ: 1850 թ-ին նա գրել է իր առաջին օպերան՝ «Կուլիկովյան ճակատամարտ»: Սանկտ-Պետերբուրգում, Ռուբինշտեյնի նախաձեռնությամբ և անմիջական մասնակցությամբ հիմնվել են Ռուսական երաժշտական ընկերությունը (1859) և Ռուսաստանում առաջին կոնսերվատորիան (1862), որտեղ նա մինչև 1867 թ-ը տնօրինել է և դասավանդել: 1872 -73 թթ-ին Ռուբինշտեյնը ելույթներ է ունեցել ԱՄՆ-ում և վաստակած գումարները ներդրել աշխարհում առաջին միջազգային երաժշտական մրցույթների կազմակերպմանը: 1887-91 թթ-ին Ռուբինշտեյնը եղել է կրկին Սանկտ-Պետերբուրգի կոնսերվատորիայի տնօրենն ու դաշնամուրի բաժնի պրոֆեսոր: Մահացել է Պետերբուրգում: