Вы используете устаревший браузер. Этот и другие сайты могут отображаться в нём некорректно. Вам необходимо обновить браузер или попробовать использовать другой.
На самом деле все очень просто: даже не зная косинус чего мы умножаем на три, мы в любом случае получим следующее, вне зависимости от значения косинуса. Далее решаем как самое обычное уравнение с одной неизвестной величиной и находим ответ : cos^2x3 = 3cos^2