Paulo, Maria e Sandra investiram, respectivamente, R$ 20....

Dos R$ 10 000,00:
P é que pertence a Paulo
M, a Maria e S, a Sandra. 

P+M+S= 10 000

(P/20 000)=(M/30 000)=(S/50 000)=
= (P+M+S)=(20 000+30 000+50 000)=
=(10 000)/(100 000)= 0,1

Quantidade do lucro que cabe para cada um deles:
(P/20 000)=0,1
P= R$ 2 000,00 (o que cabe a Paulo)
(M/30 000)=0,1
M= R$ 3 000,00 (Maria)
S= R$ 5 000,00 (Sandra)

O que eu entedi vendo as alternativas, que o texto da questão especifica erroneamente o valor aplicado. Em minha interpretação, o valor investido não foi o aquele que Sandra investiu, mas sim o valor que coube a ela do lucro 
(R$ 5 000,00) - pois se você os R$ 50 000,00 seria mais óbvio para poder afirmar que a assertiva da questão está errada. 

M=5 000*(1,1)²
M=5 000*1,21
M= R$ 6 050,00 (que é maior que R$ 6 000,00)