Пауль Эрлих родился 14 марта 1854 года в городе Штрелен (ныне Польша) в обеспеченной еврейской семье. На интересы Пауля уже в раннем детстве оказал влияние его дед, читавший лекции по физике и ботанике в местных учебных заведениях.
В 1872 году Пауль поступил в университет Бреслау. Но проучившись один семестр, он перешел в Страсбургский университет, где проявились его большие способности к химии, хотя формально он и не занимался ею. Спустя два года он вернулся в Бреслау и выполнил здесь основную часть работ, необходимых для получения медицинского диплома, который ему вручили в Лейпцигском университете в 1878 году.
Окончив учебу, Эрлих работал в различных областях медицинской биологии, химии, экспериментальной патологии и терапии. В этот период он создал способ различения отдельных форм лейкоцитов. Высказал идею о том, что клетки, ответственные за иммунные реакции, имеют на поверхности антигенраспознающие структуры – рецепторы. Это открытие сыграло важнейшую роль в развитии гематологии и иммунологии.
Начиная с 1891 года Эрлих стал разрабатывать методы лечения инфекционных болезней с помощью химических веществ. Он установил факт приобретения микроорганизмами устойчивости к химиотерапевтическим препаратам. Мировую славу Эрлиху принес разработанный им «препарат 606» (сальварсан), который оказался высокоэффективным при лечении сифилиса.
В 1901 году Пауль Эрлих начал работать над проблемой злокачественных опухолей. Он предложил много важных для клинической практики лабораторных реакций. Нобелевская премия присуждена ему (совместно с И. И. Мечниковым) за работы в области иммунологии.
Пауль Эрлих умер 20 августа 1915 года в Бад-Хомбурге (Германия).