オペレーティングシステム（OS）の基本機能を提供するプログラムで、CPUやメモリ、入出力デバイスなどのハードウェアと、アプリケーションなどソフトウェアとの間に入ってやり取りを管理する。OSの中核となるプログラムで、上層のレイヤー（階層）にあるソフトウェアに比べると開発は難しい。

　カーネルが提供する基本機能としては、アプリケーションの実行を許可する「プロセス管理」、実行するアプリケーションに対して適切なメモリを割り当てる「メモリ管理」、キーボードやハードディスクドライブ（HDD）、USBなどの入出力デバイスに対してアプリケーションからの入出力を実行する「デバイス管理」などが挙げられる。これらの機能は、カーネルが自発的に動作するのではなく、アプリケーションからの要求に応じて提供する。ユーザーがふだんコンピュータを使用しているとき、カーネルを意識しないのはこのためである。

　例外として、コンピュータを最初に起動したときには、カーネルが自発的に動作する。このとき、ハードウェアやメモリの初期化を行い、ユーザーがアプリケーションを実行するための環境を整備する。

　厳密にいえば、コンピュータを稼働させるためには、カーネルは必ずしも必要ではない。しかし、コンピュータの起動時に、カーネルに問題が生じて停止してしまうと、OSは完全に動作することができなくなってしまう。この状態をカーネルパニックというが、安全に復旧するには、強制的にコンピュータを終了するか、再起動するしか方法がない。

　なお、OSS（オープンソースソフトウェア）のOSであるLinuxでは、カーネルそのものをLinuxと呼ぶ場合がある。