Напомню, что после перехода к полярным координатам уравнение \begin{equation} \left(x^{3}+y^{3}\right)^{2}=x^{2}+y^{2}\label{eq:base} \end{equation} свелось к уравнению \[ R^{6}\left(\cos^{3}\varphi+\sin^{3}\varphi\right)^{2}=R^{2}, \] откуда \[ R^{2}=\frac{1}{\cos^{3}\varphi+\sin^{3}\varphi}. \] Площадь фигуры, ограниченной уравнением (\ref{eq:base}), и находящейся в первой четверти, \[ S=\underset{\Omega}{\iint}1\cdot dxdy=\intop_{0}^{\pi/2}d\varphi\intop_{0}^{R}dr\cdot r=\intop_{0}^{\pi/2}\frac{R^{2}}{2}d\varphi=\frac{1}{2}\intop_{0}^{\pi/2}\frac{d\varphi}{\cos^{3}\varphi+\sin^{3}\varphi}= \] \[ =\frac{1}{2}\intop_{0}^{\pi/2}\frac{d\varphi}{\left(\cos\varphi+\sin\varphi\right)\left(\cos^{2}\varphi-\cos\varphi\sin\varphi+\sin^{2}\varphi\right)}=\frac{1}{2}\intop_{0}^{\pi/2}\frac{d\varphi}{\left(\cos\varphi+\sin\varphi\right)\left(1-\cos\varphi\sin\varphi\right)}. \] Самое сложное теперь - это выбрать замену. Если заменять одним из способов, перечисленных в задачнике Демидовича после №2024, то годится только самый неудобный. Но если удобных способов нет – значит, их надо создать.
Заменим $\varphi=\psi+\frac{\pi}{4}$; $\psi=\varphi-\frac{\pi}{4}$. Тогда \[ \cos\varphi+\sin\varphi=\cos\left(\psi+\frac{\pi}{4}\right)+\sin\left(\psi+\frac{\pi}{4}\right)=\cos\left(\psi+\frac{\pi}{4}\right)+\cos\left(\frac{\pi}{2}-\psi-\frac{\pi}{4}\right)= \] \[ =\cos\left(\psi+\frac{\pi}{4}\right)+\cos\left(\psi-\frac{\pi}{4}\right)=2\cos\psi\cos\frac{\pi}{4}=\sqrt{2}\cos\psi; \] \[ \sin\varphi\cos\varphi=\sin\left(\psi+\frac{\pi}{4}\right)\cos\left(\psi+\frac{\pi}{4}\right)=\frac{1}{2}\sin\left(2\psi+\frac{\pi}{2}\right)=\frac{1}{2}\cos\left(2\psi\right). \] Заменим вышевычисленное в интеграле для площади: \[ S=\frac{1}{2}\intop_{0}^{\pi/2}\frac{d\varphi}{\left(\cos\varphi+\sin\varphi\right)\left(1-\cos\varphi\sin\varphi\right)}=\frac{1}{\sqrt{2}}\intop_{-\pi/4}^{\pi/4}\frac{d\psi}{\cos\psi\left(2-\cos\left(2\psi\right)\right)}=\frac{1}{\sqrt{2}}\intop_{-\pi/4}^{\pi/4}\frac{\left(\sin\psi\right)'d\psi}{\cos^{2}\psi\left(2-\cos\left(2\psi\right)\right)}= \] ещё одна замена: $\sin\psi=t$ \[ =\frac{1}{\sqrt{2}}\intop_{-\pi/4}^{\pi/4}\frac{\left(\sin\psi\right)'d\psi}{\left(1-\sin^{2}\psi\right)\left(1+2\sin^{2}\psi\right)}=\frac{1}{\sqrt{2}}\intop_{-1/\sqrt{2}}^{1/\sqrt{2}}\frac{dt}{\left(1-t^{2}\right)\left(1+2t^{2}\right)}. \] Под интегралом получилась рациональная функция, которую мы разложим на элементарные слагаемые (процесс нахождения $A$ и $B$ я, с вашего позволения, пропущу): \[ \frac{1}{\left(1-t^{2}\right)\left(1+2t^{2}\right)}=\frac{A}{1-t^{2}}+\frac{B}{1+2t^{2}}=\frac{1}{3}\frac{1}{1-t^{2}}+\frac{2}{3}\frac{1}{1+2t^{2}}; \] и тогда \[ S=\frac{1}{\sqrt{2}}\intop_{-1/\sqrt{2}}^{1/\sqrt{2}}\frac{dt}{\left(1-t^{2}\right)\left(1+2t^{2}\right)}=\frac{1}{\sqrt{2}}\intop_{-1/\sqrt{2}}^{1/\sqrt{2}}\left(\frac{1}{3}\frac{1}{1-t^{2}}+\frac{2}{3}\frac{1}{1+2t^{2}}\right)dt=\left.\left(\frac{1}{6\sqrt{2}}\ln\left|\frac{1+t}{1-t}\right|+\frac{1}{3}\mathrm{arctg}\,\left(\sqrt{2}t\right)\right)\right|_{-1/\sqrt{2}}^{1/\sqrt{2}}= \] \[ =\frac{1}{6\sqrt{2}}\ln\left(3+2\sqrt{2}\right)+\frac{\pi}{6}, \] что совпадает с результатом, полученным раньше.