Восклицательный знак раньше имел другое название — и не менее говорящее.

Его называли «точкой удивления». Вероятно, в письменной речи его использовали именно как символ, который передает только эту эмоцию. Впоследствии значения «точки удивления» стали расширяться, и сейчас восклицательный знак передает радость, волнение и даже ярость.