"для любого целого числа N>7 найти все такие пары целых чисел x и y, что 3x+5y=N"
Если нет ограничения, что x и y >=0, то для некоторых N можно получить бесконечное число решений.

Например, N=13, x=11, 21, 31, и т.д. При этом всегда найдется целое значение для y = -(3x-N)/5, т.к. 3x-N делится на 5 без остатка.

А это противоречит свойству "конечности" алгоритма.
Может в условиях задачи ошибка? x и y должны быть не только целыми, но и не отрицательными?