Solução de Frederico Bulhões
Para resolver esse problema vamos considerar o seguinte: a solução ideal existe caso centralizarmos a caixa na esfera. Então o valor da maior diagonal da caixa será, usando a formula de pitagoras:
$$D = \sqrt{L^2 + A^2 + P^2}$$
E basta checar que $$D \leq 2\cdot R$$, que o valor da maior diagonal seja menor que o diâmetro da esfera.
Para não termos problemas de precisão usando double podemos em vez disso chechar que:
$$L^2 + A^2 + P^2 \leq 4\cdot R^2$$
Evitando assim o uso da raiz quadrada, embora esse problema específico também passe usando double.
Código para melhor entendimento:
https://gist.github.com/fredbr/028ccd3a9315c801495b38b71383ec38