Из заданного выражения видно, что каждый параметр встречается в трех членах выражения и, следовательно, мы не можем выбрать параметр, который встречается в половине членов, то есть дважды. В этом случае выберем любой параметр, например, \(\displaystyle x\):

\(\displaystyle 15\color{red}{x}y+6\color{red}{x}^{\,2}-20y^{\,2}-8y\color{red}{x}.\)

Сгруппируем член, в который входит параметр \(\displaystyle x\) в самой большой степени (это \(\displaystyle 6x^{\,2}\)), и любой другой член, содержащий данный параметр (например, \(\displaystyle 15xy\)), в одни скобки, а все остальные члены – в другие:

\(\displaystyle (15xy+6x^{\,2})+(-20y^{\,2}-8yx\,).\)

Найдем общий множитель для выражения в первых скобках \(\displaystyle (15xy+6x^{\,2}).\)

1. Наибольший общий делитель числовых коэффициентов \(\displaystyle 15\) и \(\displaystyle 6\) равен \(\displaystyle 3.\)
2. Общий параметр у выражений \(\displaystyle xy\) и \(\displaystyle x^{\,2}\) –  это параметр \(\displaystyle x.\)

Значит, общий множитель для \(\displaystyle 15xy+6x^{\,2}\) равен \(\displaystyle 3x.\) Вынося его за скобки, имеем:

\(\displaystyle 15xy+6x^{\,2}=3x\,(5y+2x\,).\)

Далее найдем общий множитель для выражения во вторых скобках \(\displaystyle (-20y^{\,2}-8yx\,).\)

1. Наибольший общий делитель числовых коэффициентов \(\displaystyle 20\) и \(\displaystyle 8\) равен \(\displaystyle 4.\)
2. Общий параметр у выражений \(\displaystyle y^{\,2}\) и \(\displaystyle yx\) –  это параметр \(\displaystyle y.\)

Значит, общий множитель для \(\displaystyle -20y^{\,2}-8yx\) равен \(\displaystyle 4y.\) Вынося его за скобки, имеем:

\(\displaystyle (-20y^{\,2}-8yx\,)=4y\,(-5y-2x\,).\)

Возвращаясь к исходному выражению, получаем:

\(\displaystyle (15xy+6x^{\,2})+(-20y^{\,2}-8yx\,)= 3x\,(5y+2x\,)+4y\,(-5y-2x\,).\)

Заметим, что множители \(\displaystyle (5y+2x\,)\) и \(\displaystyle (-5y-2x\,)\) отличаются только знаком, то есть

\(\displaystyle (-5y-2x\,)=-(5y+2x\,).\)

Поэтому заменим множитель \(\displaystyle (-5y-2x\,)\) на \(\displaystyle -(5y+2x\,)\):

\(\displaystyle \begin{array}{l} 3x\,(5y+2x\,)+4y\,\color{red}{(-5y-2x\,)}= \\[10px] \kern{5em} =3x\,(5y+2x\,)+4y\,\color{red}{\Big(-(5y+2x\,)\Big)}= \\[10px] \kern{10em} =3x\,(5y+2x\,)-4y\,(5y+2x\,). \end{array}\)

Теперь заметим, что в обеих частях выражения есть общий множитель \(\displaystyle (5y+2x\,).\) Значит, его также можно вынести за скобки:

\(\displaystyle 3x\,\color{blue}{(5y+2x\,)}-4y\,\color{blue}{(5y+2x\,)}=\color{blue}{(5y+2x\,)} (3x-4y\,).\)

Таким образом,

\(\displaystyle 15xy+6x^{\,2}-20y^{\,2}-8yx=(5y+2x\,) (3x-4y\,).\)

Ответ: \(\displaystyle (5y+2x\,) (3x-4y\,).\)