Из заданного выражения видно, что каждая переменная встречается в трех членах выражения и, следовательно, мы не можем выбрать переменную, которая встречается в половине членов, то есть дважды. В этом случае выберем любую переменную, например, \(\displaystyle x\):

\(\displaystyle 20\color{red}{x^{\,5}}y^{\,10}z^{\,4}-35\color{red}{x^{\,3}}y^{\,4}-24\color{red}{x^{\,2}}y^{\,6}z^{\,11}+42z^{\,7} {\small .}\)

Сгруппируем член, в который входит переменная \(\displaystyle x\) в самой большой степени (это \(\displaystyle 20x^{\,5}y^{\,10}z^{\,4}\)), и любой другой член, содержащий данную переменную (например, \(\displaystyle -35x^{\,3}y^{\,4}\)), в одни скобки, а все остальные члены – в другие:

\(\displaystyle (20x^{\,5}y^{\,10}z^{\,4}-35x^{\,3}y^{\,4})+(-24x^{\,2}y^{\,6}z^{\,11}+42z^{\,7}) {\small .}\)

Найдем общий множитель для выражения в первых скобках \(\displaystyle (20x^{\,5}y^{\,10}z^{\,4}-35x^{\,3}y^{\,4}) {\small .}\)

1. Наибольший общий делитель числовых коэффициентов равен \(\displaystyle НОД(20,35)=5 {\small .}\)
2. Выберем общие переменные у выражений \(\displaystyle x^{\,5}y^{\,10}z^{\,4}\) и \(\displaystyle x^{\,3}y^{\,4}\) с наименьшим показателем степени, –  это \(\displaystyle x^{\,3}\) и \(\displaystyle y^{\,4} {\small .}\)

Значит, общий множитель для \(\displaystyle (20x^{\,5}y^{\,10}z^{\,4}-35x^{\,3}y^{\,4})\) равен \(\displaystyle 5x^{\,3}y^{\,4} {\small .}\) Вынося его за скобки, имеем:

\(\displaystyle 20x^{\,5}y^{\,10}z^{\,4}-35x^{\,3}y^{\,4}=5x^{\,3}y^{\,4}\,(4x^{\,2}y^{\,6}z^{\,4}-7) {\small .}\)

Далее найдем общий множитель для выражения во вторых скобках \(\displaystyle (-24x^{\,2}y^{\,6}z^{\,11}+42z^{\,7}) {\small .}\)

1. Наибольший общий делитель числовых коэффициентов равен \(\displaystyle НОД(24,42)=6{\small .}\)
2. Выберем общие переменные у выражений \(\displaystyle x^{\,2}y^{\,6}z^{\,11}\) и \(\displaystyle z^{\,7}\) с наименьшим показателем степени, –  это \(\displaystyle z^{\,7} {\small .}\)

Значит, общий множитель для \(\displaystyle (-24x^{\,2}y^{\,6}z^{\,11}+42z^{\,7})\) равен \(\displaystyle 6z^{\,7} {\small .}\) Вынося его за скобки, имеем:

\(\displaystyle -24x^{\,2}y^{\,6}z^{\,11}+42z^{\,7}=6z^{\,7}(-4x^{\,2}y^{\,6}z^{\,4}+7){\small .}\)

Возвращаясь к исходному выражению, получаем:

\(\displaystyle \begin{aligned} (20x^{\,5}y^{\,10}z^{\,4}-35x^{\,3}y^{\,4})&+(-24x^{\,2}y^{\,6}z^{\,11}+42z^{\,7})=\\ &=5x^{\,3}y^{\,4}\,(4x^{\,2}y^{\,6}z^{\,4}-7)+6z^{\,7}(-4x^{\,2}y^{\,6}z^{\,4}+7){\small .} \end{aligned}\)

Заметим, что множители \(\displaystyle (4x^{\,2}y^{\,6}z^{\,4}-7)\) и \(\displaystyle (-4x^{\,2}y^{\,6}z^{\,4}+7)\) отличаются только знаком, то есть

\(\displaystyle (-4x^{\,2}y^{\,6}z^{\,4}+7)=-(4x^{\,2}y^{\,6}z^{\,4}-7) {\small .}\)

Поэтому заменим множитель \(\displaystyle (-4x^{\,2}y^{\,6}z^{\,4}+7)\) на \(\displaystyle -(4x^{\,2}y^{\,6}z^{\,4}-7)\):

\(\displaystyle \begin{array}{l} 5x^{\,3}y^{\,4}\,(4x^{\,2}y^{\,6}z^{\,4}-7)+6z^{\,7}\,\color{red}{(-4x^{\,2}y^{\,6}z^{\,4}+7)}= \\[10px] \kern{6em} =5x^{\,3}y^{\,4}\,(4x^{\,2}y^{\,6}z^{\,4}-7)+6z^{\,7}\,\color{red}{\Big(-(4x^{\,2}y^{\,6}z^{\,4}-7)\Big)}= \\[10px] \kern{12em} =5x^{\,3}y^{\,4}\,(4x^{\,2}y^{\,6}z^{\,4}-7)-6z^{\,7}\,(4x^{\,2}y^{\,6}z^{\,4}-7) {\small .} \end{array}\)

Теперь заметим, что в обеих частях выражения есть общий множитель \(\displaystyle (4x^{\,2}y^{\,6}z^{\,4}-7) {\small .}\) Значит, его также можно вынести за скобки:

\(\displaystyle 5x^{\,3}y^{\,4}\,\color{blue}{(4x^{\,2}y^{\,6}z^{\,4}-7)}-6z^{\,7}\,\color{blue}{(4x^{\,2}y^{\,6}z^{\,4}-7)}=\color{blue}{(4x^{\,2}y^{\,6}z^{\,4}-7)} (5x^{\,3}y^{\,4}-6z^{\,7}) {\small .}\)

Таким образом,

\(\displaystyle 20x^{\,5}y^{\,10}z^{\,4}-35x^{\,3}y^{\,4}-24x^{\,2}y^{\,6}z^{\,11}+42z^{\,7}=({\bf 4}{\pmb x}^{\,{\bf 2}}{\pmb y}^{\,{\bf 6}}{\pmb z}^{\,{\bf 4}}-{\bf 7})({\bf 5}{\pmb x}^{\,{\bf 3}}{\pmb y}^{\,{\bf 4}}-{\bf 6}{\pmb z}^{\,{\bf 7}}) {\small .}\)

Ответ: \(\displaystyle (4x^{\,2}y^{\,6}z^{\,4}-7)(5x^{\,3}y^{\,4}-6z^{\,7}){\small .}\)