Phần mềm hệ thống là phần mềm máy tính thiết kế cho việc vận hành và điều khiển phần cứng máy tính và cung cấp một kiến trúc cho việc chạy phần mềm ứng dụng. Phần mềm hệ thống có thể được chia thành hai loại, hệ điều hành và phần mềm tiện ích.
Trong một số ấn phẩm, thuật ngữ phần mềm hệ thống cũng bao gồm những công cụ phát triển phần mềm (như là trình biên dịch, trình liên kết, trình sửa lỗi).
Trái ngược với phần mềm hệ thống, phần mềm cho phép người sử dụng soạn thảo tài liệu, chơi trò chơi, nghe nhạc hoặc truy cập mạng được gọi chung là phần mềm ứng dụng. Tuy nhiên không có ranh giới rõ ràng giữa phần mềm ứng dụng và hệ điều hành. Hầu hết các hệ điều hành đóng gói các phần mềm ứng dụng. Các phần mềm như vậy không được xem xét như là phần mềm hệ thống bởi vì nó có thể được gỡ bỏ mà không ảnh hưởng gì đến chức năng của phần mềm khác. Trường hợp ngoại lệ, ví dụ như là đối với trình duyệt web như là Internet Explorer của Microsoft được tranh luận tại tòa án là phần mềm hệ thống do nó không thể gỡ bỏ. Ví dụ sau này là hệ điều hành Chrome và Firefox OS mà các chức năng trình duyệt như giao diện người dùng và cách thức chạy chương trình (và các trình duyệt web khác không được cài đặt trong vùng của chúng), sau đó chúng có thể bị tranh luận rằng là (bộ phận của) hệ điều hành và sau đó là phần mềm hệ thống.