Яша Хейфец (Иосиф Рувимович Хейфец) родился (20 января) 2 февраля 1901 года в городе Вильно. Ныне это литовская столица Вильнюс, но в то время она входила в состав Российской империи.
Отец Яши был преподавателем музыки. Он и стал учить сына игре на скрипке, когда ему исполнилось три года. Мальчик проявил большие способности и был признан вундеркиндом. В пять лет мальчик поступил в музыкальное училище Императорского русского музыкального общества. В семь лет он дебютировал в публичном концерте в Каунасе, а в 9 лет поступил в Санкт-Петербургскую консерваторию.
Путешествовал с гастролями, в 1917 году посетил США и предпочел остаться там, получил американское гражданство.
В годы Второй мировой войны часто выступал на фронте перед солдатами. Хейфец отличался виртуозной техникой исполнения, гармоничностью и продуманностью композиций, мощным звуком. В 1930-1960-х годах Яша Хейфец много гастролировал, в 1934 году был в СССР.
В 1953 году, во время гастролей в Израиле, на него было совершено покушение за исполнение музыки Рихарда Вагнера, считавшегося фашистским композитором.
С 1972 года Хейфец сосредоточился на преподавательской деятельности. Умер от инсульта 10 декабря 1987 года в Лос-Анджелесе.