Bueno, primero debes saber que linux se usa en forma diferente de windows, por ejemplo para configurar la mayoria de los programas tienes que editar archivos de texto a mano cambiando ciertos parametros, etc. Tambien no encontraras algunos de los programas que usas en windows pero hay muchos equivalentes que a veces son incluso mejores.
Como usuario te será suficiente saber que las partes mas importantes son el kernel, que es el corazón del SO y sin el cual nada podria funcionar, está el intérprete de comandos que se llama bash, que debes aprender a utilizar para administar tu sistema junto con algunos comandos básicos, luego está el X window system que digamos que es un programa que se encarga de dibujar las ventanitas, la mayoria de los problemas que experimentan los usuarios de problemas de visualizacion o no poder iniciar el modo gráfico se deben a una mala configuracion de este programa.
Sobre de de Xwindows funciona otro programa que llama window manager (hay muchos de ellos) que se encarga del comportamiento de las ventanas y encima de este un desktop environment que es tu escritorio y los mas famosos son kde y gnome.
También está el gestor de paquetes de tu distribucion (una distribucion es un tipo de linux, por ejemplo debian), en linux los programas vienen enpaquetados en un solo archivo donde viene la documentacion, imagenes, el programa ejecutable, etc. y para instalar y desinstalar programas se usa un gestor de paquetes por ejemplo el apt en debian.
Y bueno, creo a grandes rasgos esto es lo básico que debes saber, pero antes que nada te recomiendo que investigues y leas sobre lo que te acabo de mencionar para que te formes una idea mas clara de como funciona todo esto, para empezar seria bueno que investigues sobre las direntes distribuciones, hay unas mas amigables que otras, por ejemplo están mandrake y fedora para principiantes y debian es para mas avanzados.
