Отто Юльевич Шмидт родился 30 сентября 1891 года в городе Могилеве. В детстве работал в лавке письменных принадлежностей в Белоруссии. Деньги на обучение одаренного мальчика в гимназии дал его дедушка – Фрицис Эрглис. В 1913 году Отто Шмидт окончил университет и был оставлен при нем для подготовки к профессорскому званию.
В 1923-1956 годах он был профессором математики в Московском университете и одновременно вел руководящую научную и научно-организационную работу в различных областях.
Отто Юльевич Шмидт – один из основателей и главный редактор Большой советской энциклопедии (1924-1942 годы). В 1935 году он стал действительным членом Академии наук СССР. К тому времени был издан ряд его работ по географии, геофизике, геологии, астрономии.
Отто Шмидт основал в 1937 году новый институт – Институт теоретической геофизики Академии наук СССР с целью комплексного изучения Земли как планеты. Он же стал первым его директором (1937-1949). Сегодня это Институт физики Земли имени О.Ю.Шмидта.
В том же 1937 году он участвовал в организации дрейфующей научной станции Северный полюс-1. За это ему было присвоено звание Героя Советского Союза.
7 сентября 1956 года Отто Юльевич Шмидт умер в Москве. В честь него названы мыс на побережье Чукотского моря и остров в Карском море.