¿Habláis en serio?
¿Queréis empezar a programar un sistema operativo desde cero aspirando a ser totalmente compatible con Linux y Windows?
Si os veis con ganas de crear un sistema operativo, es relativamente sencillo si no se aspira a mucho, y yendo poco a poco. Pero aspirar a que sea compatible con linux y windows, me parece bastante imposible...
Sobre lo de implementar compatibilidad de linux desde cero no le veo sentido, y respecto lo segundo, hay proyectos como reactOS que llevan más de 3 años y de momento lo único que tienen implementado es una simple consola de NT.
Si queréis conseguir lo que decís, lo más logico sería basar vuestro sistema operativo en el núcleo de Linux y añadirle Wine.
Un sistema operativo basado en linux y que pretende ser fácil de usar y además añadir cierta compatibilidad para Win32 es RoX:
http://lemmit.offline.ee/home/green/Linux/También hay otros SO, con el núcleo Linux como OpenBeOS y sucedáneos.