Линия будет выглядеть так (чертёж при $a=b=h=k=1$):
рис. 1
Из рис.1 видно, что следует рассматривать фигуру в первой четверти
($x\geqslant0$, $y\geqslant0$).
Выберем координаты в таком виде:
\[
\left\{ \begin{array}{l}
x=ar\cos^{2/3}\left(\varphi\right),\\
y=br\sin^{2/3}\left(\varphi\right).
\end{array}\right.
\]
Такие $x$ и $y$ принадлежат первой четверти. Якобиан перехода будет
такой:
\[
J=\left|\begin{array}{cc}
x'_{r} & x'_{\varphi}\\
y'_{r} & y'_{\varphi}
\end{array}\right|=\left|\begin{array}{cc}
a\cos^{2/3}\left(\varphi\right) & -\frac{2}{3}ar\cos^{-1/3}\left(\varphi\right)\sin\left(\varphi\right)\\
b\sin^{2/3}\left(\varphi\right) & \frac{2}{3}br\sin^{-1/3}\left(\varphi\right)\cos\left(\varphi\right)
\end{array}\right|=\frac{2}{3}abr\left|\begin{array}{cc}
\cos^{2/3}\left(\varphi\right) & -\cos^{-1/3}\left(\varphi\right)\sin\left(\varphi\right)\\
\sin^{2/3}\left(\varphi\right) & \sin^{-1/3}\left(\varphi\right)\cos\left(\varphi\right)
\end{array}\right|=
\]
\[
=\frac{2}{3}abr\left\{ \cos^{2/3}\left(\varphi\right)\sin^{-1/3}\left(\varphi\right)\cos\left(\varphi\right)+\sin^{2/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)\sin\left(\varphi\right)\right\} =\frac{2}{3}abr\left\{ \cos^{5/3}\left(\varphi\right)\sin^{-1/3}\left(\varphi\right)+\sin^{5/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)\right\} =
\]
\[
=\frac{2}{3}abr\sin^{-1/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)\left\{ \cos^{6/3}\left(\varphi\right)+\sin^{6/3}\left(\varphi\right)\right\} =\frac{2}{3}abr\sin^{-1/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right).
\]
Уравнение кривой в этом случае приобретёт следующий вид ($R$ - значение
координаты $r$ на границе фигуры):
\[
\frac{\left(aR\cos^{2/3}\left(\varphi\right)\right)^{3}}{a^{3}}+\frac{\left(bR\sin^{2/3}\left(\varphi\right)\right)^{3}}{b^{3}}=\frac{\left(aR\cos^{2/3}\left(\varphi\right)\right)^{2}}{h^{2}}+\frac{\left(bR\sin^{2/3}\left(\varphi\right)\right)^{2}}{k^{2}},
\]
\[
R^{3}\cos^{2}\left(\varphi\right)+R^{3}\sin^{2}\left(\varphi\right)=\frac{a^{2}R^{2}\cos^{4/3}\left(\varphi\right)}{h^{2}}+\frac{b^{2}R^{2}\sin^{4/3}\left(\varphi\right)}{k^{2}},
\]
\[
R^{3}=R^{2}\left(\frac{a^{2}}{h^{2}}\cos^{4/3}\left(\varphi\right)+\frac{b^{2}}{k^{2}}\sin^{4/3}\left(\varphi\right)\right),
\]
\[
R=\frac{a^{2}}{h^{2}}\cos^{4/3}\left(\varphi\right)+\frac{b^{2}}{k^{2}}\sin^{4/3}\left(\varphi\right).
\]
В итоге интеграл площади приобретает вид:
\[
S=\iint\limits_{\Omega}1\cdot dxdy=\intop_{0}^{\pi/2}d\varphi\intop_{0}^{R}\left|J\right|dr,
\]
и теперь мы будем его брать:
\[
\intop_{0}^{R}\left|J\right|dr=\intop_{0}^{R}\frac{2}{3}abr\sin^{-1/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)dr=\frac{2}{3}ab\sin^{-1/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)\intop_{0}^{R}rdr=
\]
\[
=\frac{2}{3}ab\sin^{-1/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)\left.\frac{r^{2}}{2}\right|_{0}^{R}=\frac{1}{3}abR^{2}\sin^{-1/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)=
\]
\[
=\frac{1}{3}ab\left(\frac{a^{2}}{h^{2}}\cos^{4/3}\left(\varphi\right)+\frac{b^{2}}{k^{2}}\sin^{4/3}\left(\varphi\right)\right)^{2}\sin^{-1/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)=
\]
\[
=\frac{1}{3}ab\left(\frac{a^{4}}{h^{4}}\cos^{8/3}\left(\varphi\right)+2\frac{a^{2}}{h^{2}}\frac{b^{2}}{k^{2}}\cos^{4/3}\left(\varphi\right)\sin^{4/3}\left(\varphi\right)+\frac{b^{4}}{k^{4}}\sin^{8/3}\left(\varphi\right)\right)\sin^{-1/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)=
\]
\[
=\frac{1}{3}ab\left(\frac{a^{4}}{h^{4}}\cos^{7/3}\left(\varphi\right)\sin^{-1/3}\left(\varphi\right)+2\frac{a^{2}}{h^{2}}\frac{b^{2}}{k^{2}}\cos\left(\varphi\right)\sin\left(\varphi\right)+\frac{b^{4}}{k^{4}}\sin^{7/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)\right).
\]
Теперь возьмём внешний интеграл по $\varphi$:
\[
S=\intop_{0}^{\pi/2}d\varphi\intop_{0}^{R}\left|J\right|dr=
\]
\[
=\frac{ab}{3}\intop_{0}^{\pi/2}\left(\frac{a^{4}}{h^{4}}\cos^{7/3}\left(\varphi\right)\sin^{-1/3}\left(\varphi\right)+2\frac{a^{2}}{h^{2}}\frac{b^{2}}{k^{2}}\cos\left(\varphi\right)\sin\left(\varphi\right)+\frac{b^{4}}{k^{4}}\sin^{7/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)\right)d\varphi=
\]
\[
=\frac{ab}{3}\left(\frac{a^{4}}{h^{4}}\intop_{0}^{\pi/2}\cos^{7/3}\left(\varphi\right)\sin^{-1/3}\left(\varphi\right)d\varphi+2\frac{a^{2}}{h^{2}}\frac{b^{2}}{k^{2}}\intop_{0}^{\pi/2}\cos\left(\varphi\right)\sin\left(\varphi\right)d\varphi+\frac{b^{4}}{k^{4}}\intop_{0}^{\pi/2}\sin^{7/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)d\varphi\right).
\]
В общем случае,
\[
\intop_{0}^{\pi/2}\cos^{\alpha}\left(\varphi\right)\sin^{\beta}\left(\varphi\right)d\varphi=\frac{1}{2}\intop_{0}^{\pi/2}\cos^{\alpha-1}\left(\varphi\right)\sin^{\beta-1}\left(\varphi\right)\left[2\cos\left(\varphi\right)\sin\left(\varphi\right)\right]d\varphi=\frac{1}{2}\intop_{0}^{\pi/2}\left(\cos^{2}\left(\varphi\right)\right)^{\frac{\alpha-1}{2}}\left(\sin^{2}\left(\varphi\right)\right)^{\frac{\beta-1}{2}}\left[\sin^{2}\left(\varphi\right)\right]^{\prime}d\varphi=
\]
$\sin^{2}\left(\varphi\right)=t$
\[
=\frac{1}{2}\intop_{0}^{1}\left(1-t\right)^{\frac{\alpha-1}{2}}t^{\frac{\beta-1}{2}}dt=\frac{1}{2}\intop_{0}^{1}\left(1-t\right)^{\frac{\alpha+1}{2}-1}t^{\frac{\beta+1}{2}-1}dt=\frac{1}{2}B\left(\frac{\alpha+1}{2},\frac{\beta+1}{2}\right).
\]
Пользуясь этой формулой, найдём все слагаемые площади:
\[
\intop_{0}^{\pi/2}\cos^{7/3}\left(\varphi\right)\sin^{-1/3}\left(\varphi\right)d\varphi=\frac{1}{2}B\left(\frac{7/3+1}{2},\frac{-1/3+1}{2}\right)=\frac{1}{2}B\left(\frac{7+3}{6},\frac{-1+3}{6}\right)=\frac{1}{2}B\left(\frac{10}{6},\frac{2}{6}\right)=\frac{1}{2}B\left(\frac{5}{3},\frac{1}{3}\right)=
\]
\[
=\frac{1}{2}\frac{\Gamma\left(\frac{5}{3}\right)\Gamma\left(\frac{1}{3}\right)}{\Gamma\left(\frac{5}{3}+\frac{1}{3}\right)}=\frac{1}{2}\frac{\Gamma\left(1+\frac{2}{3}\right)\Gamma\left(\frac{1}{3}\right)}{\Gamma\left(2\right)}=\frac{1}{2}\frac{\frac{2}{3}\Gamma\left(\frac{2}{3}\right)\Gamma\left(\frac{1}{3}\right)}{1!}=\frac{1}{3}\frac{\pi}{\sin\frac{\pi}{3}}=\frac{1}{3}\frac{\pi}{\frac{\sqrt{3}}{2}}=\frac{2\pi}{3\sqrt{3}},
\]
\[
\intop_{0}^{\pi/2}\sin^{7/3}\left(\varphi\right)\cos^{-1/3}\left(\varphi\right)d\varphi=\frac{1}{2}B\left(\frac{-1/3+1}{2},\frac{7/3+1}{2}\right)=\frac{1}{2}B\left(\frac{7/3+1}{2},\frac{-1/3+1}{2}\right)=\frac{2\pi}{3\sqrt{3}},
\]
\[
\intop_{0}^{\pi/2}\cos\left(\varphi\right)\sin\left(\varphi\right)d\varphi=\frac{1}{2}\intop_{0}^{\pi/2}\sin\left(2\varphi\right)d\varphi=\left.-\frac{1}{4}\cos\left(2\varphi\right)\right|_{0}^{\pi/2}=-\frac{1}{4}\left(-1-1\right)=\frac{1}{2}.
\]
Тогда, окончательно, сама площадь равна
\[
S=\frac{ab}{3}\left(\frac{a^{4}}{h^{4}}\frac{2\pi}{3\sqrt{3}}+2\frac{a^{2}}{h^{2}}\frac{b^{2}}{k^{2}}\frac{1}{2}+\frac{b^{4}}{k^{4}}\frac{2\pi}{3\sqrt{3}}\right)=\frac{ab}{3}\left[\frac{2\pi}{3\sqrt{3}}\left(\frac{a^{4}}{h^{4}}+\frac{b^{4}}{k^{4}}\right)+\frac{a^{2}}{h^{2}}\frac{b^{2}}{k^{2}}\right].
\]
