Армен Джигарханян родился 3 октября 1935 года в Ереване. Происходит из старинного рода тифлисских армян.
Когда Армену был всего месяц от роду, его отец Борис ушёл из семьи, и впервые он увидел отца, уже став взрослым. Его воспитывал отчим, с которым у мальчика сложились тёплые отношения. Рос в русскоязычной среде, учился в русской школе и с одинаковым старанием постигал азы армянской и русской культур. Мать Елена Васильевна была заядлой театралкой и не пропускала ни одного драматического и оперного спектакля.
В школьные годы увлёкся театром и кино, а после окончания школы (1952) отправился в Москву и пытался поступить в ГИТИС, но неудачно. Вернувшись в Ереван, устроился на киностудию «Арменфильм» помощником оператора.
В 1954 году поступил в Ереванский художественно-театральный институт на курс к режиссёру В. Аджемяну, руководителю Театра имени Г. Сундукяна. Но набор оказался слишком велик, и Армен перешёл на курс А. Гулакяна (окончил в 1958 году).
На сцену актёр впервые вышел в январе 1955 года — в спектакле по пьесе В. Гусева «Иван Рыбаков» Ереванского русского драматического театра им. К. Станиславского. В труппу этого театра, где актёр проработал более десяти лет, его пригласили ещё студентом-второкурсником.
В 1967 году А. Эфрос пригласил актёра в Московский театр имени Ленинского комсомола.
В 1969 году А. Джигарханян начал играть у А. Гончарова в Московском театре имени В. Маяковского, на сцене которого он, в частности, сыграл роли Стенли Ковальского в «Трамвае „Желание"» и Большого Па в «Кошке на раскалённой крыше» Т. Уильямса, Сократа в «Беседах с Сократом» Э. Радзинского, генерала Хлудова в «Беге» М. Булгакова.
В сентябре 1996 года ушёл из театра, но продолжал выступать на сцене в спектаклях других театров и в антрепризных постановках.
В кино актёр дебютировал в 1960 году ролью Акопа в фильме «Обвал», а известность ему принесла одна из лучших его киноролей — молодой учёный-физик Артём Манвелян из картины «Здравствуй, это я!». Вскоре после выхода этого фильма последовали новые работы, демонстрирующие широту актёрского диапазона, психологическую достоверность и мастерство перевоплощения — кузнец Уста Мукуч в «Треугольнике», Левон Погосян в драме «Когда наступает сентябрь», штабс-капитан Овечкин в популярнейших «Новых приключениях неуловимых», чекист Артузов в телевизионной ленте «Операция „Трест"», левый эсер Прошьян в исторической картине «Шестое июля», Михаил Стышной в «Журавушке». Из отрицательных героев более всего запомнился зрителям горбатый главарь банды «Чёрная кошка» Карп из фильма «Место встречи изменить нельзя».
В 1978 году исполнил роль армянского национального героя полководца XVIII века Мхитара Спарапета в исторической драме Серо Ханзадяна «Звезда надежды».
С 1989 по 1997 годы преподавал актёрское мастерство во ВГИКе (профессор).
В 1996 году на основе своего курса основал Московский драматический театр под руководством Армена Джигарханяна, где стал художественным руководителем и с 2005 — директором. Театр Джигарханяна (Театр «Д») сразу занял особое место в ряду небольших театров Москвы. На сцене своего театра сыграл интересные роли в спектаклях «Возвращение домой» Х. Пинтера и «Последняя лента Крэппа» С. Беккета. О последнем рассказывает сам Армен Борисович: «...я играю Крэппа — полтора часа на сцене в полном одиночестве, только с магнитофоном. Жалею даже, что нет возможности, чтобы у Крэппа вдруг нос, как у сифилитика, отпал — до такой степени гниёт и разлагается этот человек... Я играю его без зубов — свои протезы снимаю...».
Помимо этого был занят в антрепризных спектаклях. Играл на сцене «Ленкома» (здесь артистом сыграны Генерал в спектакле «Варвар и еретик» по роману «Игрок» Ф. Достоевского и главный герой пьесы Э. Де Филиппо «Филумена Мартурано», спектакль идёт под названием «Город миллионеров»).
Армен Джигарханян стал одним из самых снимаемых российских актёров, в связи с чем занесён в Книгу рекордов Гиннесса как самый снимаемый российский актёр (более 250 ролей в кино- и телефильмах). На его счету разноплановые роли в фильмах лучших советских и российских режиссёров, в лентах различных жанров, в комедийных и приключенческих картинах, в драмах и музыкальных фильмах. Много работал на дубляже, озвучивал мультфильмы. О последних своих ролях в кино, часто эпизодических, говорит: «понизил требовательность» и «деньги хорошие».
Академик Национальной академии кинематографических искусств и наук России. Академик Российской академии кинематографических искусств «Ника».
В 2006 году принял участие в подготовке издания книги «Автограф века».
В 1999 получил грин-карту по квоте правительства США для выдающихся деятелей искусства. Семикомнатный дом в Америке подарил его поклонник. До 2015 года жил на две страны: три-четыре месяца в году — обычно это лето и начало осени — в Гарленде под Далласом (штат Техас), а с сентября по май — в Москве. В интервью «КП» 16 ноября 2016 года Армен Борисович рассказал, как у него появился дом в Далласе: «Всего три комнаты в этом доме. Я взял деньги в долг и купил».
5 марта 2016 года, в связи с сахарным диабетом, был госпитализирован в НИИ им. Н. В. Склифосовского с подозрением на инфаркт миокарда.
17 января 2018 года был госпитализирован из его театра, где он в последние дни занимался подготовкой к новому спектаклю, в Пироговскую клиническую больницу в Москве в состоянии средней тяжести. По предварительным данным, у актёра выявлены проблемы с сердцем. Кроме того, у него диагностирован гипертонический криз, а также имеется подозрение на невралгию и вирусную инфекцию. 26 апреля 2018 года госпитализирован с инфарктом и впал в кому.
Скончался в Москве 14 ноября 2020 года на 86-м году жизни. Причиной смерти стала остановка сердца из-за болезни почек и отёка организма на фоне других хронических заболеваний. Актёр был госпитализирован в середине октября, но спасти Армена Джигарханяна не удалось. Соболезнования в связи с кончиной выразили президент России Владимир Путин, премьер-министр Республики Армения Никол Пашинян, мэр Москвы Сергей Собянин.
Похоронен 17 ноября 2020 года на Ваганьковском кладбище рядом с дочерью Еленой