Hermann Broch, Schriftsteller