Jądro (kernel) to plik vmlinuz znajdujący się w katalogu /boot. Jest on ładowany do pamięci przez LILO (LInux LOader) podczas uruchamiania systemu. Znajdują się tu instrukcje odpowiedzialne za funkcjonowanie podstawowych elementów Linuxa, w tym: przełączanie procesora pomiędzy poszczególnymi procesami, komunikację z urządzeniami podłączonymi do komputera oraz zarządzanie pamięcią i partycją wymiany (swap). Programy użytkownika nie muszą “wiedzieć”, jaki typ dysku twardego znajduje się w komputerze – wszelka komunikacja ze sprzętem odbywa się za pośrednictwem jądra. Dlatego też musi być ono dostosowane do rodzaju sprzętu. Dokładniej mówiąc, powinien zawierać sterowniki do wszystkich komponentów komputera.
Jądro Linuxa jest prawie w całości napisane w języku C. Źródła znajdują się w katalogu /usr/src/linux. Dostępność kodu źródłowego kernela oznacza, że każdy (przy odpowiedniej wiedzy programistycznej) może poprawić w nim błędy, dodać nowe, ciekawe możliwości lub sterowniki. Linux rozwija się tak szybko właśnie dzięki udostępnianiu kodu źródłowego tysiącom entuzjastów z całego świata.
