Formal:
* Qual é essa música? (Most common and neutral)
* De que música se trata? (More formal, literally "What music is it about?")
* Pode me dizer o nome dessa música? (More polite, literally "Could you tell me the name of this song?")
Informal:
* Qual é essa música aí? (More casual)
* Que música é essa? (Very casual)
* Que música tá tocando? (Slang, literally "What music is playing?")
To specify you're asking about a song you're hearing:
* Qual é a música que está tocando? (Literally "What is the song that is playing?")
* Qual é essa música que está rolando? (Slang, "What is this song that is playing?")
You can also use the phrase "Estou procurando o nome dessa música" (I'm looking for the name of this song), which can be helpful if you're trying to find the name of a song you heard somewhere.