Микола Ярошенко народився 13 грудня 1846 р. у Полтаві, у сім’ї 
високоосвіченого шляхтича, відставного генерал-майора, тому ще малим хлопчина мріяв стати не просто військовим, а генералом. 
Мати – Міщенко Любов Василівна зі старого українського роду, дочка відставного поручика. Мав Микола двох братів (брат Василь – інженер-технолог, його дружина Єлизавета, дочка губернатора, перша жінка-юрист) і сестру Софію (мати революціонера-терориста Бориса Савінкова).
У дев’ять років Микола став кадетом Полтавського кадетського корпусу, де виховували дітей у дусі «православия, самодержавия и русской народности». Хлопчик дуже любив малювати, на що звернув увагу викладач юного кадета І.Зайцев, і з яким Ярошенко дружив усе життя. Після Полтави у 1863 році Микола поступив до Павлівського військового училища, потім перевівся в Михайлівське артилерійське училище. У 24 роки поступив до Михайлівської артилерійської академії. Паралельно Ярошенко брав приватні уроки у відомого художника Андріана Волкова (сміявся: «від Зайцева до Волкова»), був частим гостем у салоні вчителя. Закоханий у свою військову професію, М. Ярошенко не залишав малювання: паралельно відвідував вечірню школу Товариства заохочення художників, займаючись під керівництвом І.Крамського (до речі, так само українця з походження). Упродовж семи років вільним слухачем відвідував вечірні класи Академії мистецтв. Приятелював із Г. М’ясоєдовим.
Після випуску упродовж 25 років працював у Петербурзькому Арсеналі (Патронному заводі). Людина честі він ставився до служби з повною віддачою, не робив аби як. Щоб мати більше вільного часу для малярства, не раз зрікався всяких підвищень по службі, якщо вони ставали на перешкоді його художнім заняттям, і все-таки піднявся до генерал-майора. У 1875 p. M. Ярошенко дебютував на IV-й пересувній виставці передвижників із картиною «Невський проспект вночі» (безлюдний проспект, дощова ніч і дві жінки, яких доля вигнала на панель, скоцюбилися на ґанку великого будинку). Картина загинула під час Другої світової війни. За цей твір Ярошенка 7 березня 1876 р. прийняли в члени Товариства пересувних художніх виставок і зразу ж обрали до правління.
Військовий інженер Микола Олександрович закохався у Марію Невротіну – наречену поета Миколи Некрасова, привернув до себе її серце; дочекався 28 років (віку, коли офіцерам дозволялося брати шлюб) і одружився з коханою. Медовий місяць вони провели у Кисловодську.
А екс-наречений написав:
«Я не люблю иронии твоей.
Оставь ее отжившим и не жившим».
Разом із дружиною Ярошенки влаштовували у петербурзькій квартирі знамениті “Ярошенківські суботи” – своєрідний клуб прогресивної інтелігенції. Тут бували відомі письменники Гаршин, Успенський, Короленко, художники Рєпін, Куїнджі, Полєнов, Максимов; нобелівські лауреати Менделєєв і Павлов. Гостював у Ярошенка Лев Толстой, який дуже поважав Миколу Олександровича і вважав його своїм близьким другом. Приїздив старовинний друг художник Нестеров.
М. Ярошенко жив із мотто «художник є служитель істини шляхом краси». Він писав лише те, що припадало до душі, що хвилювало, створив цілу галерею портретів визначних людей культури, які були цікавими в духовному відношенні; серед яких українізований француз М. Ґе, земляки-українці Г. Успенський, В. Короленко. М. Ярошенко написав картину «Терористка», прототипом була Віра Засулич, яка здійснила замах на петербурзького градоначальника Д.Ф.Трепова. За цю роботу художник отримав домашній арешт, картину арештували й не повернули власнику.
Охоче писав художник натюрморти («Букет польових квітів»), пейзажі («Крим. Судак. Бухта»).
Ярошенко часто приїздив до України, зокрема, в останні роки життя — на Полтавщину й Чернігівщину. Написав твори на українські теми: «Дівчина з рогачем» (1864 р.), «Сліпі каліки під Києвом» (1879 р.), «Жебраки в Києво-Печерській лаврі» (1879—1880 pp.).
З 1887 p. після смерті І. Крамського М. Ярошенко став ідейним керівником Товариства. «Він був великим лібералом, інтелігентом-художником і військовим, генералом у відставці, – писав Я. Минченков, – Ярошенко був батечком у «передвижників», і його побоювалися».
Навчання та книги супроводжували Ярошенка. Він удосконалювався під час студійних подорожей до мистецьких центрів Західної Європи (1880 — 95), Палестини, Єгипту тощо.
Хворий на туберкульоз трахеї М. Ярошенко ще 1885 р. купив будиночок у Кисловодську, місті, де провів медовий місяць. Коли ж туманний Петербург підірвав здоров’я генерал-майора, він пішов у відставку та разом із родиною переїхав у Кисловодськ. Своїх дітей Ярошенки не мали, виховували двох прийомних дочок: Надю Волжинську, онуку померлої їх приятельки в Кисловодську М. Жердевої, Надя зображена на картині «Дівчинка з лялькою»; 
і Машу Заболоцьку, яка стала другою дружиною Максиміліана Волошина. 
В останній рік життя Миколи Ярошенка до нього приїхав друг Нестеров, про що писав у спогадах: «по возвращению из путешествия, я приехал в Кисловодск, нашёл там его бодрее, свежее, хотя голос к нему не вернулся….. Я предложил написать с него портрет тут же, около дома, в саду. Он охотно согласился. …Это было мое последнее свидание с Н.Ярошенко». Цей портрет (див. головне зображення) зберігається Полтавському художньому музеї.
7 липня 1898 р. о 9-ій ранку у власному будиночку «Біла Вілла» у Кисловодську помер від паралічу серця 52-річний художник Микола Ярошенко. Сталося це наступного дня після того, як під дощем він повернувся з десятикілометрової гірської подорожі. Поховали Миколу Олександровича у Кисловодську, неподалік від будинку, в огорожі Свято-Нікольського собору. Через рік на його могилі було встановлено пам’ятник – бронзовий бюст художника на чорному постаменті, на тлі гранітної стели з рельєфним зображенням хреста, пальмової гілки та палітри з китицями. Автор скульптурного портрета – близький друг художника – Леонід Позен, який створив пам’ятники Гоголю і Котляревському у Полтаві.
Марія Павлівна пережила чоловіка на 17 років.
Свою мистецьку спадщину Ярошенка заповів рідному містові. У 1917 p. Полтаві була передана мистецька колекція, до якої входило понад 100 картин і етюдів М. Ярошенка, 23 альбоми з його малюнками, а також чимало творів інших художників-передвижників. Ця колекція стала основою музейної збірки, на базі якої у квітні 1919 p. було відкрито Полтавський художній музей імені Миколи Ярошенка.
