Muy buenas:
Quizas no sea lo mismo, porque tengo otra versión de NX y del internet explorer instalada, pero cada vez que abría la ayuda de NX aparecía un mensaje sobre la configuración de complementos de seguridad y me pedía permiso para ejecutar un control activex. No sé como será en versiones mas modernas del internet explorer, pero podría ser un "fallo" silencioso: Detecta que hay que ejecutar un activex y por defecto dice que no, así que ni pregunta.
La ayuda del NX en la versión 6 son ficheros html, si vas a la carpeta y pinchas directamente sobre cualquiera de esos archivos html se abre el navegador. Quizás en NX8 se mantengan los ficheros html, prueba a abrirlos con otro navegador. Si ese otro navegador (mozilla, chrome, otro cualquiera...) puede y el internet explorer no, entonces quiźas sea algo de la configuración de seguridad.
Podría ser también algo relacionado con las rutas de acceso al directorio de ayuda, pero no sé que habría que tocar para solucionarlo. Probablemente habría que cambiar el path en algún fichero de configuración, si estuviera en tu situación miraría el foro de http://www.eng-tips.com/threadminder.cfm?pid=561&page=1 , que está completamente en inglés pero es de lo mejor que hay para NX.
Siento no poder ser de más ayuda.