Абрам Федорович Иоффе родился 29 октября 1880 года в семье купца второй гильдии Файвиша Иоффе. Среднее образование он получил в реальном училище города Ромны Полтавской губернии, где обучался с 1889 по 1897 годы.
В 1902 году Иоффе окончил Санкт-Петербургский технологический институт. А в 1905 году – Мюнхенский университет в Германии, где работал под руководством Вильгельма Рентгена и получил степень доктора философии.
С 1906 года работал в Политехническом институте, где в 1918 году организовал физико–механический факультет для подготовки инженеров-физиков.
В 1911 году Абрам Иоффе определил заряд электрона, использовав ту же идею, что и Р.Милликен: в электрическом и гравитационном полях уравновешивались заряженные частицы металла (Милликен в своем опыте использовал капельки масла). Однако эту работу Иоффе опубликовал только в 1913 году, а Милликен опубликовал свой результат несколько раньше, поэтому в мировой литературе эксперимент получил его имя.
Иоффе – автор работ по экспериментальному обоснованию теории света (работы вел с 1909 по 1913 годы), физике твердого тела, диэлектрикам и полупроводникам.
Иоффе был редактором многих научных журналов, автором ряда монографий, учебников и популярных книг, в том числе «Основные представления современной физики» и «Физика полупроводников».
Абрам Федорович Иоффе скончался 14 октября 1960 года в своём рабочем кабинете. Он был похоронен на Литераторских мостках Волкова кладбища в Ленинграде.