¿Los padres genéticamente incompatibles tienden a producir descendientes mentales o físicamente insalubres?

Depende de lo que entiendas por genéticamente incompatible. Si te refieres a dos individuos con genética que producirán resultados negativos, entonces sí, por definición. Sin embargo, la incompatibilidad proviene de los códigos genéticos / similares. El caso más obvio es el de la endogamia. El código genético de un individuo es tan similar que los rasgos recesivos se acumulan. Algunos rasgos recesivos son tan raros que tienen una probabilidad muy baja de ser combinados con alguien que también tiene ese rasgo y, por lo tanto, pasan desapercibidos. Sin embargo, cuando son puros, la probabilidad de que esos recesivos se emparejen con ellos mismos es alta, y muchos desórdenes, desde insignificantes hasta letales, pueden ocurrir. Esto, como usted dice, produce descendencia mental o físicamente no saludable.
El siguiente nivel de incompatibilidad es alguien que tiene esos mismos recesivos a pesar de no estar relacionados. Esto resulta en niños con un riesgo de enfermedades genéticas.
Sin embargo, cuanto más disímil sea el código genético, menos probable es que esto ocurra, y generalmente usted termina teniendo niños más sanos y robustos.
Esto puede revertirse un poco cuando cruzas los límites de las especies. Por ejemplo, cruce un caballo y un burro y obtendrá una mula, que es más saludable y robusta que cualquiera de los dos. Incluso hay un término para esto, vigor híbrido. La razón por la que digo que esto se revierte es que, por lo general, son estériles, lo que podría denominarse ser físicamente poco saludable.