Храмовая гора и Храм не только были настоящим сердцем Иерусалима эпохи Второго Храма, но и служили духовным центром всей еврейской нации.

Начало антиримского восстания 66-73 гг. (Иудейская война I) ознаменовалось прекращением регулярных жертв за благополучие римского императора. При подавлении этого восстания римская армия, во главе с Титом, осадила Иерусалим. С самого начала осады военные действия сконцентрировались вокруг Храма. В 70 году Иоханан Гисхальский укрепился в Храме и в ходе сопернической борьбы с Симоном (Шимоном) Бар-Гиорой соорудил на углах храмового здания башни.

Осада и бои за город длились пять месяцев. Согласно описанию событий у Иосифа Флавия, первым шагом римлян к захвату Храмовой горы было разрушение части стены крепости Антония, расположенной напротив Храма (в третий день месяца таммуз). На развалинах крепости римляне построили насыпь, которая достигала стены храмового двора. 17 таммуза прекратилось принесение жертвы тамид, — возможно, потому, что не было священников для проведения ритуала. Между 22 и 28 таммуза сгорели храмовые колоннады. Однако неоднократные попытки римлян овладеть стеной храмового двора не увенчались успехом, пока 9-го Ава (9 августа) Тит не приказал поджечь храмовые ворота. На следующий день в римском штабе состоялся совет относительно судьбы Храма. Согласно свидетельству Флавия, Тит намеревался пощадить Храм, но его подожгли римские солдаты. В то же время, другой источник сообщает, что Тит требовал разрушить Храм. Как бы там ни было, Храм запылал. Удерживавшие Храм повстанцы сражались до конца, и, когда пламя охватило здание, многие из них бросились в огонь. Храм горел в течение 10 дней, а к сентябрю весь Иерусалим был превращен в руины. Храмовая гора была распахана. Римлянами были пленены почти 100 000 жителей. Общее же количество погибших от меча, голода и пленённых за время войны, по свидетельству Иосифа Флавия, было около 1 миллиона 100 тысяч.

Таким образом, спустя всего 6 лет после окончания строительства нового, роскошного Иерусалимского храма, в 70 году н. э. он был разрушен. Это произошло в тот же самый день, 9-го Ава по еврейскому календарю, в который вавилоняне сожгли Храм Соломона.

Часть храмовой утвари из разрушенного Храма уцелела и была захвачена римлянами — эти трофеи (среди которых знаменитая Менора) изображены на рельефах триумфальной арки Тита на римском Форуме.