Formal:
* Qu'est-ce que je fais de mal ? (This is the most literal translation)
* Où est mon erreur ? (Where is my mistake?)
* Que dois-je corriger ? (What should I correct?)
Informal:
* C'est quoi, mon erreur ? (What's my mistake?)
* J'ai fait quoi de travers ? (What did I do wrong?)
* Je fais quoi de mal ? (What am I doing wrong?)
More specific:
* Je ne comprends pas ce que je fais de mal. (I don't understand what I'm doing wrong.)
* J'ai l'impression de faire quelque chose de mal. (I have the feeling that I'm doing something wrong.)
The best choice depends on the situation and your relationship with the person you're speaking to.