Musicalement, la chanson est une merveille de simplicité apparente. Le rythme est lent, presque langoureux, ce qui renforce le sentiment de lourdeur et de lutte décrit dans les paroles. Mais ce qui rend "Gravity" inoubliable, c'est bien sûr la guitare de John Mayer. Son solo final est un moment d'anthologie : il ne s'agit pas de notes jouées rapidement, mais d'une mélodie expressive qui raconte une histoire à elle seule.
Le fait que cette chanson soit encore jouée par d'innombrables guitaristes aujourd'hui en dit long sur son influence durable.