Nejčasnější důkazy o karnatické hudbě lze nalézt v hudebních tradicích starověkých Tamilů. Staří Tamilové vyvinuli systém hudby zvaný Tamizh Isai, který byl založen na sedmihlasé stupnici (Saptha Swaras) a používal různé hudební nástroje, včetně yazh (strunný nástroj) a kudam (bicí nástroj). Tamizh Isai byl používán pro náboženské obřady a kulturní představení.
Karnatická hudba se později rozvinula pod vlivem hinduistického náboženství a pod patronací vládnoucích dynastií jižní Indie. Ve 14. století vznikla Vijayanagarská říše jako mocné království v jižní Indii a stalo se hlavním centrem rozvoje karnatické hudby. Vijayanagarští vládci byli velkými patrony hudby a tance a podporovali růst hudebních škol a institucí. Zadali také složení mnoha nových hudebních děl, včetně kritis, swaras a jathis.
Během 17. a 18. století karnatská hudba vzkvétala pod nadvládou říše Maratha a království Mysore. Vládci Maratha byli velkými znalci hudby a tance a na svých dvorech podporovali růst karnatické hudby. Mysorský vládce Krishnaraja Wodeyar III byl velkým mecenášem hudby a tance a objednal složení mnoha nových hudebních děl.
V 19. století se karnatická hudba dostala do kontaktu se západní hudbou díky britské kolonizaci Indie. Někteří karnatičtí hudebníci začali do své hudby začleňovat západní prvky, jako je použití klavíru a houslí. Karnatická hudba si však zachovala svůj tradiční charakter a nadále byla založena na sedmihlasé stupnici a používání rág a talas.
Dnes je karnatická hudba prosperující uměleckou formou a hrají ji hudebníci po celém světě. Je považován za jeden z nejpropracovanějších a nejsložitějších hudebních systémů na světě a je obdivován pro svou krásu, emocionální hloubku a duchovní význam.