Integral doble como producto de simples

Enunciado
Sea $f$ una función continua real de variable real. Expresar la integral

$\displaystyle\int_{a}^{b}\left(\displaystyle\int_{x}^{b}f(x)f(y)\;dy\right)dx$

en términos de la integral $\displaystyle\int_{a}^{b}f(x)\;dx.$ Como aplicación calcular la integral doble:

$\displaystyle\iint_{M}\displaystyle\frac{xy}{(4+x^2)(4+y^2)}\;dxdy$

siendo $M=\{(x,y)\in \mathbb{R}^2:x\leq y\leq \sqrt{2},\;0\leq x\leq \sqrt{2}\}.$

 (Propuesto en examen, Amp. Calc., ETS de Ing. Industriales, UPM).

Solución
Como $f$ es continua, admite una primitiva $F.$ Entonces, usando la regla de Barrow y que una primitiva de $f(x)F(x)$ es $F^2(x)/2:$

$$I:=\displaystyle\int_{a}^{b}\left(\displaystyle\int_{x}^{b}f(x)f(y)dy\right)dx=\displaystyle\int_{a}^{b}f(x)\left(\displaystyle\int_{x}^{b}f(y)dy\right)dx$$ $$=\displaystyle\int_{a}^{b}f(x)\left(F(b)-F(x)\right)dx=F(b)\displaystyle\int_{a}^{b}f(x)\;dx-\displaystyle\int_{a}^{b}f(x)F(x)\;dx$$ $$=
F(b)(F(b)-F(a))-\left[\dfrac{F^2(x)}{2}\right]_a^b=F(b)(F(b)-F(a))-\dfrac{F^2(b)-F^2(a)}{2}.$$

Simplificando la expresión anterior:

$$I:=F(b)(F(b)-F(a))-\dfrac{1}{2}(F(a)+F(b))(F(b)-F(a))$$ $$=
(F(b)-F(a))\left(F(b)-\dfrac{F(b)}{2}-\dfrac{F(a)}{2}\right)=\dfrac{1}{2}(F(b)-F(a))^2.$$

Podemos por tanto concluir que:

$\displaystyle\int_{a}^{b}\left(\displaystyle\int_{x}^{b}f(x)f(y)\;dy\right)dx=\dfrac{1}{2}\left(\int_a^bf(x)\;dx\right)^2.\quad (*)$

Para resolver la integral doble dada, expresamos:

$J:=\displaystyle\iint_{M}\displaystyle\frac{xy}{(4+x^2)(4+y^2)}\;dxdy=\int_0^{\sqrt{2}}\left(\int_x^{\sqrt{2}}\frac{x}{4+x^2}\frac{y}{4+y^2}\;dy\right)dx.$

Usando $(*):$

$$J=\dfrac{1}{2}\left(\displaystyle\int_0^{\sqrt{2}}\frac{x}{4+x^2}\;dx\right)^2=\dfrac{1}{2}\left(\left[\dfrac{1}{2}\log (4+x^2)\right]_0^{\sqrt{2}}\right)^2$$ $$
=\dfrac{1}{2}\left(\dfrac{1}{2}\log 6-\dfrac{1}{2}\log 4\right)^2=\dfrac{1}{8}\log^2\left(\dfrac{3}{2}\right).$$