Formal:
* Où as-tu fait une erreur ? (This is the most literal translation and implies a specific mistake.)
* Où t'es-tu trompé ? (Similar to the above, but can also imply a general mistake.)
Informal:
* Qu'est-ce qui a mal tourné ? (This is a more general question about what went wrong, without specifying a mistake.)
* Où est-ce que tu t'es planté ? (This is a more colloquial and informal way to ask "Where did you go wrong?".)
More specific:
* Où t'es-tu trompé dans ton raisonnement ? (This asks specifically about a mistake in reasoning.)
* Où as-tu fait une erreur dans ton calcul ? (This asks specifically about a mistake in a calculation.)
The best translation will depend on the context of your conversation.