Родился 1 сентября 1958 года в городе Херсоне Украинской ССР, в рабочей семье. Мать - Гармаш Людмила Ипполитовна (род. 1935) из небольшой деревни на Западной Украине, окончила семь классов и всю жизнь проработала диспетчером на автобусной станции (дед по материнский линии - поляк). Отец - Леонид Трофимович Гармаш (род. 1933) сначала был водителем, потом окончил институт и стал работать на руководящих должностях.
Гармаш был непростым ребёнком, пару раз его исключали из школы. Мечтал после школы поступить в мореходное училище, но документы подал в Днепропетровское театральное училище. Окончил училище по специальности «Артист театра кукол». Затем работал в Херсоне, выезжая с гастролями в близлежащие посёлки и колхозы.
Через два года его призвали на военную службу в ряды Советской армии - в стройбат. Служил в посёлке Бологое (со слов актёра на Смоленском кинофестивале «Золотой Феникс»).
В 1980 году после службы в армии Гармаш поехал в Москву поступать в театральное училище. Первоначально он подал документы сразу в три театральных вуза, но потом остановил свой выбор на Школе-студии МХАТ. На экзамене Гармаш читал двадцатиминутный отрывок из Достоевского.
По окончании в 1984 году Школы-студии МХАТ (мастерская И. М. Тарханова) Гармаш был принят в труппу московского театра «Современник».
Сегодня Сергей Гармаш является одним из ведущих актёров театра с обширным репертуаром: Лопахин в «Вишнёвом саде» А. П. Чехова, старший брат в «Карамазовых и ад» по мотивам позднего Достоевского, Альфонс в «Трёх товарищах» Ремарка и Михаил в «Мурлин Мурло» Николая Коляды, первый министр в «Ещё раз о голом короле» Леонида Филатова.
Среди кинорежиссёров, работавших с Гармашем - Вадим Абдрашитов, Сергей Бодров, Анджей Вайда, Станислав Говорухин, Павел Лунгин, Никита Михалков, Игорь Таланкин, Валерий Тодоровский, Владимир Хотиненко, Сергей Соловьёв, Тимур Бекмамбетов, Юрий Кара.