Solução por Thiago Mota
A ideia para resolver essa questão é tentar colocar os retângulos um do lado do outro. Observe a seguinte imagem:
Como podemos ver, os dois retângulos cabem dentro do quadrado porquê suas dimensões somadas entram perfeitamente dentro do quadrado, ou seja, $$20 + 30 \leq 40$$ e $$15 + 10 \leq 40$$, logo para resolver basta checar se a soma das alturas é menor que a altura do quadrado e se a soma das larguras é menor do que a largura do quadrado.
Uma coisa muito importante é que é possível rotacionar os retângulos dentro do quadrado para que ele encaixe, no caso acima caso o retângulo azul fosse rotacionado seria impossível ele entrar, pois $$20 + 30 > 40$$. Segue o código: