Во время Великой Отечественной войны семья Алфёровых переехала в Туринск (Свердловская область), где его отец работал директором целлюлозно-бумажного завода, и после её окончания вернулась в разрушенный войной Минск. Окончил с золотой медалью среднюю школу № 42 в Минске и по совету учителя физики Якова Борисовича Мельцерзона несколько семестров отучился в Белорусском Политехническом Институте (ныне БНТУ) г. Минска на энергетическом факультете, после чего поехал поступать в Ленинград, в ЛЭТИ.
С 1953 года работал в Физико-техническом институте имени А. Ф. Иоффе, где был младшим научным сотрудником в лаборатории В. М. Тучкевича и принимал участие в разработке первых советских транзисторов и силовых германиевых приборов. Кандидат физико-математических наук (1961).
В 1970 году Алфёров защитил диссертацию, обобщив новый этап исследований гетеропереходов в полупроводниках, и получил степень доктора физико-математических наук. В 1972 году Алфёров стал профессором, а через год — заведующим базовой кафедрой оптоэлектроники ЛЭТИ. С начала 1990-х годов Алфёров занимался исследованием свойств наноструктур пониженной размерности: квантовых проволок и квантовых точек. С 1987 по май 2003 года — директор ФТИ им. А. Ф. Иоффе.
В 2003 году Алфёров оставил пост руководителя ФТИ и до 2006 года занимал пост председателя учёного совета института. Однако Алфёров сохранил влияние на ряд научных структур, среди которых: ФТИ им. А. Ф. Иоффе, НТЦ Центр микроэлектроники и субмикронных гетероструктур, научно-образовательный комплекс (НОК) Физико-технического института и физико-технический лицей. С 1988 г. (момента основания) декан физико-технического факультета СПбГПУ.
В 1990—1991 годах — вице-президент АН СССР, председатель Президиума Ленинградского научного центра. С 2003 года — председатель Научно-образовательного комплекса «Санкт-Петербургский физико-технический научно-образовательный центр» РАН. Академик АН СССР (1979), затем РАН, почётный академик Российской академии образования. Вице-президент РАН, председатель президиума Санкт-Петербургского научного центра РАН. Главный редактор «Писем в Журнал технической физики».
Был главным редактором журнала «Физика и техника полупроводников», членом редакционной коллегии журнала «Поверхность: Физика, химия, механика», членом редакционной коллегии журнала «Наука и жизнь». Был членом правления Общества «Знание» РСФСР.
Являлся инициатором учреждения в 2002 году премии «Глобальная энергия», до 2006 года возглавлял Международный комитет по её присуждению. Считается, что присуждение этой премии самому Алфёрову в 2005 году, стало одной из причин оставления им этого поста.
Является ректором-организатором нового Академического университета.
С 2001 года Президент Фонда поддержки образования и науки (Алфёровского фонда).
5 апреля 2010 года объявлено о том, что Алфёров назначен научным руководителем инновационного центра в Сколково.
С 2010 года — сопредседатель Консультативного научного Совета Фонда «Сколково».
В 2013 году баллотировался на пост президента РАН и, получив 345 голосов, занял второе место
Политическая деятельность:
1944 — член ВЛКСМ.
1965 — член КПСС.
1989—1992 — народный депутат СССР,
1995—1999 — депутат Государственной думы Федерального собрания РФ 2 созыва от движения «Наш дом — Россия» (НДР), председатель подкомитета по науке Комитета по науке и образованию Госдумы, член фракции НДР, с 1998 — член депутатской группы Народовластие.
1999—2003 — депутат Государственной думы Федерального собрания РФ 3 созыва от КПРФ, член фракции КПРФ, член комитета по образованию и науке.
2003—2007 — депутат Государственной думы Федерального собрания РФ 4 созыва от КПРФ, член фракции КПРФ, член комитета по образованию и науке.
2007—2011 — депутат Государственной думы Федерального собрания РФ 5 созыва от КПРФ, член фракции КПРФ, член Комитета Государственной Думы по науке и наукоёмким технологиям. Старейший депутат Государственной думы Федерального собрания РФ 5 созыва.
2012—2016 — депутат Государственной думы Федерального собрания РФ 6 созыва от КПРФ, член Комитета Государственной Думы по науке и наукоёмким технологиям.
С 2016 года — депутат Государственной думы Федерального собрания РФ 7 созыва от КПРФ. Старейший депутат Государственной думы Федерального собрания РФ 7 созыва.
Член редакционного совета радиогазеты «Слово».
Председатель Редакционной коллегии журнала «Нанотехнологии Экология Производство».
Учредил Фонд поддержки образования и науки для поддержки талантливой учащейся молодёжи, содействия её профессиональному росту, поощрения творческой активности в проведении научных исследований в приоритетных областях науки. Первый вклад в Фонд был сделан Жоресом Алфёровым из средств Нобелевской премии.
