Михаил Григорьевич Ярошевский родился 22 августа 1915 года в Херсоне. Учился в Ленинградском Государственном университете. В феврале 1938 года в Ленинграде была раскрыта большая террористическая организация. Согласно «данным» НКВД, основной костяк организации составляли студенты и аспиранты Ленинградского университета. В руководящую тройку входили: Лев Гумилев, Теодор Шумовский и Иерихович. Аспирант Ярошевский был арестован как руководитель одной из таких групп.
После пыток Ярошевский подписал все предъявленные ему обвинения. Более года он находился в «Крестах», ожидая своей участи. После того, как сняли Ежова, дело Ярошевского было пересмотрено, и он был амнистирован вместе с другими, проходившими по этому делу.
В 1945 году Ярошевский под руководством С.Л. Рубинштейна окончил аспирантуру и защитил кандидатскую диссертацию. После защиты кандидатской стал сотрудником сектора психологии в Институте философии АН СССР. Преподавал в МГУ, читая курс по истории психологии.
Во время борьбы с «космополитами» Ярошевский был вынужден оставить институт и уехать в Сталинобад (Таджикистан). С 1951 по 1964 годы он организовал и возглавил несколько кафедр психологии в педагогических институтах Таджикской ССР и лабораторию экспериментальной психологии в Таджикском государственном университете.
В Институте психологии в Москве защитил докторскую диссертацию. В 1965 году создал и возглавил сектор психологии научного творчества Института истории естествознания и техники АН СССР. Был членом редколлегий журналов «Вопросы истории естествознания и техники» и «Психологического журнала».
Михаил Григорьевич Ярошевский скончался 22 марта 2002 года в Москве в возрасте 86 лет.