Вязьма в письменных источниках впервые упоминается в 1239 году — тогда город был отдан в удел Андрею Владимировичу Долгой Руке, сыну великого князя Киевского Владимира Рюриковича.

При этом Вяземское удельное княжество уже являлось составной частью Смоленского Великого княжества. В 1403 году Вязьма в числе удельных городов Смоленской земли была захвачена Великим княжеством Литовским. Но уже в 1493 году в период Русско-литовской войны 1487—1494 отошла к Русскому государству.
На протяжении всей своей истории Вязьма являлась достаточно укреплённым городом.
В период существования Ганзейского союза Вязьма была торговым пунктом, куда свозились товары из Тверского и Суздальского княжеств по ещё судоходной реке Вязьме. В XVII веке с Вязьмой или через неё вели торговлю 44 города. Из промыслов в городе было развито кожевенное производство. К середине XIX века Вязьма становится крупным торговым центром. В 1850 году в Вязьме действовали 8 пряничных фабрик.
С 21 октября 1654 года по 10 февраля 1655 года Вязьма была временной резиденцией российского правительства: возвращаясь из Смоленска с войском, царь Алексей Михайлович из-за разразившейся в Москве эпидемии чумы вынужден был остановиться в Вязьме. Сюда прибыли патриарх Никон и вся царская семья. В городе был построен деревянный дворец.
В Отечественную войну 1812 года в августе у города проходили бои во время отступления русской армии. Вязьма была сдана без боя и подожжена жителями.
Во время Великой Отечественной войны город был оккупирован немецкими войсками.