Произведя соответствующую замену переменных, свести двойные интегралы к однократным \[ \iint\limits _{x^{2}+y^{2}\leqslant1}f\left(ax+by+c\right)dxdy,\qquad\left(a^{2}+b^{2}\neq0\right) \]
Введём новые переменные. Пусть $u=ax+by$, но теперь надо выбрать и вторую переменную. Так как область интегрирования представляет окружность, не хотелось бы портить симметрию, а потому преобразование было бы удобно выбрать соответственно. Положим \begin{equation} \left\{ \begin{array}{c} u=ax+by,\\ v=px+qy, \end{array}\right.\label{zam} \end{equation} и теперь выберем $p$ и $q$.
Решив систему (\ref{zam}) относительно $x$ и $y$, получим \[ \left\{ \begin{array}{c} x=\frac{uq-vb}{aq-bp},\\ y=\frac{-up+va}{aq-bp}. \end{array}\right. \] Полученное подставим в уравнение окружности, ограничивающей область интегрирования: \[ x^{2}+y^{2}=\frac{1}{\left(aq-bp\right)^{2}}\left[\left(uq-vb\right)^{2}+\left(-up+va\right)^{2}\right]= \] \[ =\frac{1}{\left(aq-bp\right)^{2}}\left[\left(u^{2}q^{2}-2uvbq+v^{2}b^{2}\right)+\left(u^{2}p^{2}-2uvap+v^{2}a^{2}\right)\right]= \] \[ =\frac{1}{\left(aq-bp\right)^{2}}\left[\left(q^{2}+p^{2}\right)u^{2}-2uv\left(bq+ap\right)+v^{2}\left(b^{2}+a^{2}\right)\right]=1 \] В уравнении окружности слагаемое с произведением $uv$ нежелательно, поэтому положим $bq+ap=0$, откуда $q=-\frac{a}{b}p$. Тогда \[ q^{2}+p^{2}=\left(-\frac{a}{b}p\right)^{2}+p^{2}=\left(\frac{a^{2}}{b^{2}}+1\right)p^{2}=\left(a^{2}+b^{2}\right)\frac{p^{2}}{b^{2}}. \] Отсюда видно, что чтобы коэффициенты при $u^{2}$ и $v^{2}$ были одинаковы, достаточно чтобы $p=\pm b$. Рассмотрим ещё выражение из знаменателя \[ aq-bp=-\frac{a^{2}}{b}p-bp=-\frac{p}{b}\left(a^{2}+b^{2}\right) \] Пусть $p=-b$, тогда $q=a$, \[ q^{2}+p^{2}=\left(a^{2}+b^{2}\right)\frac{p^{2}}{b^{2}}=a^{2}+b^{2},\qquad aq-bp=-\frac{p}{b}\left(a^{2}+b^{2}\right)=a^{2}+b^{2}, \] \[ x^{2}+y^{2}=\frac{1}{\left(a^{2}+b^{2}\right)^{2}}\left[\left(a^{2}+b^{2}\right)u^{2}+v^{2}\left(a^{2}+b^{2}\right)\right]=\frac{u^{2}+v^{2}}{a^{2}+b^{2}}=1, \] или \[ u^{2}+v^{2}=a^{2}+b^{2}. \] Такой вид приобретёт окружность в новых координатах при преобразовании \[ \left\{ \begin{array}{c} u=ax+by,\\ v=-bx+ay. \end{array}\right. \] Для этого преобразования нужно ещё найти якобиан. Воспользоваться при его нахождении можно следующим свойством. Перемножим две матрицы: \[ \left(\begin{array}{cc} x'_{u} & x'_{v}\\ y'_{u} & y'_{v} \end{array}\right)\cdot\left(\begin{array}{cc} u'_{x} & u'_{y}\\ v'_{x} & v'_{y} \end{array}\right)=\left(\begin{array}{cc} x'_{u}u'_{x}+x'_{v}v'_{x}\; & x'_{u}u'_{y}+x'_{v}v'_{y}\\ y'_{u}u'_{x}+y'_{v}v'_{x}\; & y'_{u}u'_{y}+y'_{v}v'_{y} \end{array}\right)= \] по формуле дифференцирования сложной функции получим \[ =\left(\begin{array}{cc} x'_{x} & x'_{y}\\ y'_{x} & y'_{y} \end{array}\right)=\left(\begin{array}{cc} 1 & 0\\ 0 & 1 \end{array}\right)=E_{2}, \] т.е. единичную матрицу размера 2. Определитель произведения матриц равен произведению определителей, определитель единичной матрицы (любого размера) равен 1, а потому \[ \det\left[\left(\begin{array}{cc} x'_{u} & x'_{v}\\ y'_{u} & y'_{v} \end{array}\right)\cdot\left(\begin{array}{cc} u'_{x} & u'_{y}\\ v'_{x} & v'_{y} \end{array}\right)\right]=\left|\begin{array}{cc} x'_{u} & x'_{v}\\ y'_{u} & y'_{v} \end{array}\right|\cdot\left|\begin{array}{cc} u'_{x} & u'_{y}\\ v'_{x} & v'_{y} \end{array}\right|=J\cdot\left|\begin{array}{cc} u'_{x} & u'_{y}\\ v'_{x} & v'_{y} \end{array}\right|=1, \] \[ \left|\begin{array}{cc} u'_{x} & u'_{y}\\ v'_{x} & v'_{y} \end{array}\right|=\frac{1}{J}. \] Иногда эта формула для получения якобиана оказывается удобнее.
Так вот, в нашем случае \[ \left|\begin{array}{cc} u'_{x} & u'_{y}\\ v'_{x} & v'_{y} \end{array}\right|=\left|\begin{array}{cc} a & b\\ -b & a \end{array}\right|=a^{2}+b^{2}=\frac{1}{J},\qquad J=\frac{1}{a^{2}+b^{2}}. \] Теперь у нас есть всё для перехода в интеграле к новым переменным \[ \iint\limits _{x^{2}+y^{2}\leqslant1}f\left(ax+by+c\right)dxdy=\iint\limits _{u^{2}+v^{2}\leqslant a^{2}+b^{2}}\frac{f\left(u+c\right)}{a^{2}+b^{2}}dudv= \] для краткости временно обозначим $a^{2}+b^{2}\equiv R^{2}$ ($R$ - это радиус круга интегрирования в новых переменных) \[ =\frac{1}{R^{2}}\iint\limits _{u^{2}+v^{2}\leqslant R^{2}}f\left(u+c\right)dudv=\frac{1}{R^{2}}\int\limits _{-R}^{R}du\int\limits _{-\sqrt{R^{2}-u^{2}}}^{\sqrt{R^{2}-u^{2}}}f\left(u+c\right)dv=\frac{1}{R^{2}}\int\limits _{-R}^{R}f\left(u+c\right)du\int\limits _{-\sqrt{R^{2}-u^{2}}}^{\sqrt{R^{2}-u^{2}}}dv= \] \[ =\frac{1}{R^{2}}\int\limits _{-R}^{R}f\left(u+c\right)du\left[\sqrt{R^{2}-u^{2}}-\left(-\sqrt{R^{2}-u^{2}}\right)\right]=\frac{2}{R^{2}}\int\limits _{-R}^{R}\sqrt{R^{2}-u^{2}}f\left(u+c\right)du= \] и в качестве последнего штриха переобозначим обратно \[ =\frac{2}{a^{2}+b^{2}}\int\limits _{-\sqrt{a^{2}+b^{2}}}^{\sqrt{a^{2}+b^{2}}}\sqrt{a^{2}+b^{2}-u^{2}}f\left(u+c\right)du. \]

