В последние годы 15 века Иван III задумал великую перестройку башен и стен Кремля. Сооружение кремлевских укреплений началось с Тайницкой башни. Под башней вырыли тайник-колодец. В случае осады через него и подземный ход можно было снабжать Кремль водой.
19 июля 1485 года итальянский мастер Антон Фрязин (Антонио Джиларди) заложил старейшую из башен Московского Кремля. В конце 17 века над башней возвели шатер. В 1770 году башню снесли, так как в Кремле приступали к строительству Кремлевского дворца по проекту Василия Баженова.
Однако в 1771-1773 годах башня была восстановлена с последующей надстройкой шатрового верха.
По аналогии с башней был назван Тайницкий сад, располагающийся вдоль кремлевской стены, выходящей к берегу Москва-реки. Здесь находилась Благовещенская церковь с Житным двором, где хранились запасы хлеба для царского двора, а также храм святых Константина и Елены. Благовещенская церковь была разрушена в 1932 году, а на месте Константино-Еленинского храма, уничтоженного в 1928 году, до середины 1960-х годов устраивались детские новогодние елки.
На высоком холме, ограничивающем территорию сада, до Октябрьской революции находился мемориальный комплекс царю-освободителю Александру II, построенный на добровольные пожертвования русского народа в конце 19 века и разрушенный в 1918-1920 годах.