Buenas:
El paquete que te está dando problemas es el paquete rgl. Este paquete depende de varios paquetes. Te recomiendo que lo instales primero usando en una consola la instrucción sudo apt-get install r-cran-rgl
Luego intenta volver instalar rglwidget como comenté.
Un saludo.