Hola cimlap
mira a mi me paso lo mismo. prueba ha elegir la opcion de instalacion automatica, haciendo esto yo no tuve problema. la verdad es que nunca mas me puse a ver porque podia ser este error.
Tambien puedes intentar con este procedimiento,
1) cuando creas el nuevo sitio web indicale al visual studio que la localizacion será http y no el file System
luego te vas al explorador de windows y buscas una carpeta bajo el directorio C:\Inetpub\wwwroot con el nombre que le hayas dado al proyecto. bueno para esa carpeta tienes que editar sus propiedades y darle permisos de control total al usuario ASPNET
Regresas al visual studio y realizar la instalacion.
Lo que esto hace es que uses el IIS para ejecutar tu DNN en lugar de hacerlo con el Servidor que trae incorporado Visual Studio.
Espero no haberte confundido más.
Saludos