Aldo vai a um banco sacar R$ 2.700,00. Ele pede uma cert...

Vamos assumir que:

x = quantidade de notas de R$10
20x = quantidade de notas de R$20
y = quantidade de notas de R$50

logo:

x * 10 + 20x * 20 + y * 50 = 2700

10x + 400x + 50y = 2700

410x + 50y = 2700

Nesse ponto, apenas para facilitar, vamos dividir os dois lados por 10.

410x + 50y = 2700

41x + 5y = 270

5y = 270 - 41x

y = (270 - 41x) / 5

Esse é o ponto que precisamos ter uma "sacada" na conta.
O resultado de (270 - 41x) deve ser divisivel por 5 e os valores divisiveis por 5 sempre terminam em 0 ou 5.
Os valores mais provaeis para x são 0 e 5. Porém o enunciado diz que não é zero.

Ao fazer a conta usando x=5 temos:

y = (270 - 41x) / 5

y = (270 - 41*5) / 5

y = (270 - 205) / 5

y = 65 / 5

y = 13