Buenas:
Las instrucciones para calcular los cuantiles empiezan por q seguido del nombre de la distribución. La función se llama con la probabilidad como primer parámetro y luego los de la distribución, por tanto, lo que quieres sería
> qnorm(.9, 500, 100)
[1] 628.1552
Un saludo.