Вы используете устаревший браузер. Этот и другие сайты могут отображаться в нем неправильно. Необходимо обновить браузер или попробовать использовать другой.
99,9% все циклиться в
while(fabs(f_c)>=eps)
{
if(f_a*f_c<=0) b=c;
else a=c;
}
так как внутри него не производиться перерасчет f_c.
Да и вообще наплодил переменных :D