Похоже, что это задача на полное отражение луча, идущего только по сердцевине (чтобы не было потерь).

Все зависит от того, как понимать вопрос задачи. Если считать, что спрашивают о лучах, которые уже вышли из световода в воздух (n=1) через торец световода, то получается проблема - при этих числах луч вообще не выйдет из-за полного отражения о торцевую поверхность.

Если же считать, что спрашивают о максимальном угле между лучами, которые все еще находятся внутри сердцевины, но отражены от ее противоположных концов, то задача решаема.

К сожалению, это вопрос к автору задачи.