Mertz stammt aus Bratislava und zog dann nach Wien wo er spielte und komponierte.
Er komponierte im Stile der frühen Romantik wie Schubert oder Mendelssohn und war damit einer der ersten seiner Zeit, der romantisch für Gitarre komponierte. Die frühen Werke sind noch einfach und verhalten. Später komponierte er grosse und sehr virtuose Stücke.