Найти область сходимости интеграла \begin{equation} \int\limits _{0}^{\infty}\frac{x^{p-1}\ln x}{1+x}dx.\label{int} \end{equation} Я понял: надо было брать мажорирующую функцию прямо вместе с логарифмом.
Разложим интеграл на два по разным областям интегрирования
\[ \int\limits _{0}^{\infty}\frac{x^{p-1}\ln x}{1+x}dx=\int\limits _{0}^{1}\frac{x^{p-1}\ln x}{1+x}dx+\int\limits _{1}^{\infty}\frac{x^{p-1}\ln x}{1+x}dx, \] и рассмотрим второе слагаемое. Уже было показано, что при $p=1$ оно расходится.
Пусть теперь $p-1 < 0$, $p < 1$. Поделим на $x$ числитель и знаменатель
\[
\frac{x^{p-1}\ln x}{1+x}=\frac{x^{p-2}\ln x}{\frac{1}{x}+1},
\]
и рассмотрим числитель. Его интеграл легко вычислить
\[
\int x^{p-2}\ln xdx=\frac{1}{p-1}\int\left(x^{p-1}\right)^{\prime}\ln xdx=\frac{1}{p-1}x^{p-1}\ln x-\frac{1}{p-1}\int x^{p-2}dx=
\]
\[
=\frac{1}{p-1}x^{p-1}\ln x-\frac{1}{\left(p-1\right)^{2}}x^{p-1}+C;
\]
так как $p-1 < 0$,\[ \lim_{x\to\infty} x^{p-1}\ln x =0, \]
\[
\int\limits _{1}^{\infty}x^{p-2}\ln xdx=\left.\frac{1}{p-1}x^{p-1}\ln x-\frac{1}{\left(p-1\right)^{2}}x^{p-1}\right|_{1}^{\infty}=\frac{1}{\left(p-1\right)^{2}},
\]
следовательно, он сходится. С другой стороны, при $x > 0$
\[
\frac{x^{p-2}\ln x}{\frac{1}{x}+1} > 0,\qquad x^{p-2}\ln x > 0,
\]
и
\[
\lim_{x\to\infty}\frac{\frac{x^{p-2}\ln x}{\frac{1}{x}+1}}{x^{p-2}\ln x}=\lim_{x\to\infty}\frac{1}{\frac{1}{x}+1}=1 > 0,
\]
следовательно, интеграл
\begin{equation}
\int\limits _{1}^{\infty}\frac{x^{p-1}\ln x}{1+x}dx\label{int2}
\end{equation}
сходится по второму признаку сравнения.
Рассмотрим теперь первое слагаемое:
\[
\int\limits _{0}^{1}\frac{x^{p-1}\ln x}{1+x}dx=\int\limits _{\infty}^{1}\frac{y^{1-p}\ln\frac{1}{y}}{1+\frac{1}{y}}\left(-\frac{1}{y^{2}}\right)dy=\int\limits _{1}^{\infty}\frac{y^{-p}\ln\frac{1}{y}}{y+1}dy=-\int\limits _{1}^{\infty}\frac{y^{-p}\ln y}{y+1}dy,
\]
где $x=\frac{1}{y}$, $y=\frac{1}{x}$, $dx=-\frac{1}{y^{2}}dy$.
Этот интеграл ровно такой же, что рассмотренный выше (\ref{int2}), за переобозначением переменной интегрирования и заменой степени с $p-1$ на $-p$. Мы уже выяснили, что для его сходимости степень эта должна быть меньше нуля, т.е. \[ -p < 0, \] \[ p > 0. \] Для сходимости исходного интеграла (\ref{int}) должны одновременно сходиться слагаемые, на которые его разложили, что происходит при одновременном выполнении условий $p < 1$ и $p > 0$: \[ p\in\left(0;1\right). \]