Борис Павлович избавил нас от рассмотрения случая, когда $\alpha=\beta$, исключив его условиями задачи. Можно, однако, доказать, что в этом случае интеграл расходится.
Вид интеграл принимает такой:
\[ \int\limits _{0}^{\infty}\frac{\sin^{2}\alpha x}{x}dx \]
Оценим подынтегральное выражение снизу. Далее мы будем рассматривать $\alpha > 0$, так как знак $\alpha$ в этом интеграле неважен. Понизив степень, получим, что \[ \frac{\sin^{2}\alpha x}{x}=\frac{1-\cos2\alpha x}{2x}. \] Найдём, где числитель будет больше единицы: \[ 1-\cos2\alpha x\geqslant1, \] \[ \cos2\alpha x\leqslant0, \] \[ \frac{\pi}{2}+2\pi n\leqslant2\alpha x\leqslant\frac{3\pi}{2}+2\pi n, \] \[ \frac{\pi+4\pi n}{4\alpha}\leqslant x\leqslant\frac{3\pi+4\pi n}{4\alpha},\qquad n\in\mathbb{Z}. \] Тогда \[ \frac{\sin^{2}\alpha x}{x}=\frac{1-\cos2\alpha x}{2x}\geqslant\frac{1}{2x}, \] и следовательно, \[ \int\limits _{\frac{\pi+4\pi n}{4\alpha}}^{\frac{3\pi+4\pi n}{4\alpha}}\frac{\sin^{2}\alpha x}{x}dx=\int\limits _{\frac{\pi+4\pi n}{4\alpha}}^{\frac{3\pi+4\pi n}{4\alpha}}\frac{1-\cos2\alpha x}{2x}dx > \int\limits _{\frac{\pi+4\pi n}{4\alpha}}^{\frac{3\pi+4\pi n}{4\alpha}}\frac{1}{2x}dx=\left.\frac{\ln x}{2}\right|_{\frac{\pi+4\pi n}{4\alpha}}^{\frac{3\pi+4\pi n}{4\alpha}}=\frac{1}{2}\left(\ln\frac{3\pi+4\pi n}{4\alpha}-\ln\frac{\pi+4\pi n}{4\alpha}\right)= \] (дальше воспользуемся тем, что при $0 < x < e-1$ будет выполняться $\ln\left(1+x\right) > \frac{x}{e-1}$, если и это надо доказать – обращайтесь) \[ =\frac{1}{2}\ln\frac{3+4n}{1+4n}=\frac{1}{2}\ln\left(1+\frac{2}{1+4n}\right) > \frac{1}{2\left(e-1\right)}\frac{2}{1+4n}=\frac{1}{e-1}\frac{1}{1+4n}. \] Дальше понятно, что убывать частичные интегралы будут со скоростью гармонического ряда, который расходится. Но нужно оформить эту мысль строго.
Рассмотрим интеграл \[ \int\limits _{\frac{4\pi n}{4\alpha}}^{\frac{4\pi+4\pi n}{4\alpha}}\frac{\sin^{2}\alpha x}{x}dx=\int\limits _{\frac{\pi}{\alpha}n}^{\frac{\pi}{\alpha}\left(n+1\right)}\frac{\sin^{2}\alpha x}{x}dx=\int\limits _{\frac{4\pi n}{4\alpha}}^{\frac{\pi+4\pi n}{4\alpha}}\frac{\sin^{2}\alpha x}{x}dx+\int\limits _{\frac{\pi+4\pi n}{4\alpha}}^{\frac{3\pi+4\pi n}{4\alpha}}\frac{\sin^{2}\alpha x}{x}dx+\int\limits _{\frac{3\pi+4\pi n}{4\alpha}}^{\frac{4\pi+4\pi n}{4\alpha}}\frac{\sin^{2}\alpha x}{x}dx. \] Для его слагаемых верно (среднее мы доказали выше): \[ \int\limits _{\frac{4\pi n}{4\alpha}}^{\frac{\pi+4\pi n}{4\alpha}}\frac{\sin^{2}\alpha x}{x}dx > 0,\qquad\int\limits _{\frac{\pi+4\pi n}{4\alpha}}^{\frac{3\pi+4\pi n}{4\alpha}}\frac{\sin^{2}\alpha x}{x}dx > \frac{1}{e-1}\frac{1}{1+4n},\qquad\int\limits _{\frac{3\pi+4\pi n}{4\alpha}}^{\frac{4\pi+4\pi n}{4\alpha}}\frac{\sin^{2}\alpha x}{x}dx > 0, \] итого \[ \int\limits _{\frac{\pi}{\alpha}n}^{\frac{\pi}{\alpha}\left(n+1\right)}\frac{\sin^{2}\alpha x}{x}dx > \frac{1}{e-1}\frac{1}{1+4n}. \] Сложив несколько таких неравенств для последовательных номеров получим, что \[ \int\limits _{\frac{\pi}{\alpha}n}^{\frac{\pi}{\alpha}\left(n+m\right)}\frac{\sin^{2}\alpha x}{x}dx > \frac{1}{e-1}\sum_{k=0}^{m-1}\frac{1}{1+4\left(n+k\right)}. \] Заметим, что \[ \sum_{k=0}^{m-1}\frac{1}{1+4\left(n+k\right)} > \sum_{k=0}^{m-1}\frac{1}{4+4\left(n+k\right)}=\frac{1}{4}\sum_{k=0}^{m-1}\frac{1}{n+k+1} > \frac{1}{4}\sum_{k=0}^{m-1}\frac{1}{n+m}=\frac{1}{4}\frac{m}{n+m}. \] Тогда при $m=n$ \[ \sum_{k=0}^{n-1}\frac{1}{1+4\left(n+k\right)} > \frac{1}{4}\frac{n}{n+n}=\frac{1}{8}, \] \[ \int\limits _{\frac{\pi}{\alpha}n}^{\frac{2\pi}{\alpha}n}\frac{\sin^{2}\alpha x}{x}dx > \frac{1}{e-1}\sum_{k=0}^{n-1}\frac{1}{1+4\left(n+k\right)} > \frac{1}{8}\frac{1}{e-1}. \] Мы для всякого $B$ можем найти натуральное $n > \frac{\alpha}{\pi}B$. Тогда положив $b_{1}\equiv\frac{\pi}{\alpha}n > B$, $b_{2}\equiv\frac{2\pi}{\alpha}n > b_{1}$ и $\varepsilon\equiv\frac{1}{8}\frac{1}{e-1}$, мы получим, что \[ \int\limits _{b_{1}}^{b_{2}}\frac{\sin^{2}\alpha x}{x}dx > \varepsilon, \] а значит исходный интеграл расходится по критерию Коши.
