Nietzsche, Dostoiévski e o problema do niilismo