Ну вот теорему косинусов обижать не стоит: это мощнейшая штука. Утилитарный интерес к ней и, собственно, польза от нее заключаются, грубо говоря, в том, что именно она дает одно уравнение, которого вам и недоставало для замыкания системы уравнений (при решении геометрической задачи алгебраическим методом). Еще она чрезвычайно полезна при геометрическом нахождении углов в пространстве. Да и вообще, очень хорошая теорема. Но она очень деликатная. Или она поможет всем или ее тут вообще не стоило и трогать
А если получаются такие уравнения, то это верный признак того, что при алгебраическом методе решения задачи в качестве неизвестных были выбраны только линейные величины(типа R, a и проч.) Избавление от высоких степеней в таких задачах происходит, как правило при применении тригонометрии,... и вообще введении тригонометрической неизвестной (угла какого-нибудь там...) Попробуйте подойти к вашей задаче с этих позиций. Может что и получится.

Да и ещё, а можно хоть на сам текст-то взглянуть, а то общаемся тут, а задачи никто, кроме вас, и не видел. :)