Ce conifère se distingue par une forme pyramidale régulière se terminant en flèche. À maturité, l’arbre mesure entre 10 et 15 mètres de haut, mais il peut atteindre une hauteur de 25 mètres.
Les rameaux portent des aiguilles aplaties disposées en deux rangées de chaque côté. Les aiguilles, vert foncé et brillantes sur le dessus, ont deux lignes blanches sur leur face inférieure.
Lorsqu’on les froisse, les aiguilles dégagent une odeur similaire à la menthe, d’où l’origine du nom latin de l’espèce balsamifera, qui signifie « baume », faisant référence aux plantes odoriférantes.
Le jeune sapin baumier a une écorce lisse et grisâtre parsemée de vésicules de résine saillantes. L'écorce devient crevassée et brunâtre chez les arbres âgés.