В Армении прокурорская служба начала действовать с 6 декабря 1918 года, когда Совет первой Республики Армения принял Закон «О применении на территории Армении законов бывшей Российской империи». Данный закон, в частности, определял, что на территории Республики Армения временно действуют законы бывшей Российской империи, с дополнениями и изменениями Временного правительства, Закавказского комиссариата, Сейма и Совета Армении. В тот же день Совет Армении принял также закон о применении судебной системы Российской империи. Прокуратура действовала при судебной системе.

В Армении прокуратура, как отдельное подразделение, впервые была организована после утверждения советского строя. По примеру Советской России на всей территории Армении утверждение единой законности и организация борьбы против преступности было поручено прокуратуре АССР, которая была создана 22 июля 1922 года. Однако, как отдельная структура она имела очень короткую жизнь. В декабре 1922 года, с образованием Советского Союза, среди других союзных государственных органов была основана также Прокуратура Верховного суда СССР, и прокуратура АССР стала подчинятся подразделению этого органа в Советской Армении.

Принятая в 1937 году Конституция Советской Армении значительно повысила роль и значение прокурорского надзора, уточнила структуру прокуратуры как единую централизованную систему, которая действовала во главе с Прокурором СССР. Конституция АССР определяла: высший надзор за правильным применением законов на территории АССР учреждениями подчиненными народным комиссариатам АССР, а также отдельных должностных лиц и граждан осуществляется как непосредственно со стороны Прокурора СССР, так и со стороны прокурора АССР.

21 сентября 1991 года, провозгласив независимость, Верховный Совет третьей Республики Армения объявил, что бывшие законодательные и другие акты будут действовать на территории страны в таких пределах, в каких не противоречат идеалам Декларации о независимости. К числу актов не противоречивших принципам был причислен также Закон СССР «О прокуратуре», и прокурорские органы независимой Республики Армения до принятия нового закона в своей деятельности руководствовались этим законом.

Одним из первых шагов на пути создания национального законодательства, регулирующего деятельность прокуратуры явилось то, что 5 октября 1995 года в структуре Прокуратуры Армении, как отдельное подразделение, была создана Военная прокуратура.

5 июля 1995 года была принята первая Конституция Республики Армения, статья 103 которой определяет функции и задачи прокуратуры. Национальный закон о прокуратуре был принят 1 июля 1998 года, он вступил в действие 12 января 1999 года. В начале 1999 года согласно Закону «О прокуратуре» были сформированы новые структурные подразделения Прокуратуры Армении: Генеральная прокуратура со своими управлениями и отделами, прокуратуры областей, города Еревана, общин города Еревана и военные прокуратуры гарнизонов.

Решением Правительства Армении от 7 марта за номером 207-Н 1 июля объявлен днем работника прокуратуры.