Operating System

Định nghĩa

Hệ điều hành (tiếng Anh: Operating System, viết tắt là OS) là một lớp phần mềm hệ thống có vai trò trung tâm trong kiến trúc máy tính hiện đại. Về bản chất, nó là cầu nối giữa phần cứng vật lý — bao gồm bộ xử lý trung tâm (CPU), bộ nhớ chính (RAM), thiết bị lưu trữ, bộ điều khiển vào/ra (I/O controllers), và các thành phần ngoại vi — với người dùng cuối cùng cũng như các chương trình ứng dụng. Hệ điều hành không chỉ đơn thuần là một chương trình chạy trên máy tính, mà là một tập hợp các dịch vụ, giao thức và cơ chế được tích hợp chặt chẽ nhằm đảm bảo việc sử dụng hiệu quả, an toàn và đồng thời các tài nguyên phần cứng trong một môi trường đa người dùng, đa tác vụ hoặc cả hai.

Thuật ngữ "operating system" xuất hiện lần đầu tiên vào đầu những năm 1960, nhưng ý tưởng nền tảng về một chương trình điều khiển tổng thể đã tồn tại từ thập niên 1950 dưới dạng các hệ thống giám sát (supervisor programs) và chương trình điều khiển công việc (job control programs). Từ gốc tiếng Anh "operate" mang nghĩa "điều khiển, vận hành, khai thác", còn "system" hàm ý một cấu trúc tổ chức gồm nhiều thành phần tương tác theo quy luật nhất định. Do đó, "operating system" có thể hiểu đúng và đầy đủ là "hệ thống điều khiển hoạt động" — một hệ thống phần mềm được thiết kế để điều khiển toàn bộ chuỗi hoạt động của máy tính, từ khởi động, phân bổ tài nguyên, thực thi lệnh, đến xử lý lỗi và kết thúc phiên làm việc. Đây không phải là một khái niệm trừu tượng mà là một thực thể kỹ thuật cụ thể, có mã nguồn, có kiến trúc rõ ràng, có vòng đời phát triển và có khả năng tương tác trực tiếp với phần cứng thông qua các lệnh đặc biệt và cơ chế đặc quyền (privilege levels).

Một cách nhìn sâu hơn, hệ điều hành là thành phần phần mềm đầu tiên được nạp vào bộ nhớ sau khi quá trình khởi động (booting) hoàn tất, và nó duy trì trạng thái hoạt động liên tục trong suốt thời gian máy tính vận hành. Nó tạo ra một lớp trừu tượng hóa (abstraction layer) giúp che giấu độ phức tạp của phần cứng khỏi lập trình viên và người dùng. Nhờ đó, một ứng dụng không cần biết chi tiết về loại ổ cứng đang dùng, cách điều khiển từng chân tín hiệu trên card đồ họa hay cơ chế ngắt (interrupt) của CPU; thay vào đó, nó chỉ cần gọi các dịch vụ chuẩn do hệ điều hành cung cấp — ví dụ như open(), read(), write(), fork() — để thực hiện các thao tác tương ứng. Chính sự trừu tượng hóa này là nền tảng cho tính di động phần mềm (software portability) và sự phát triển bền vững của hệ sinh thái ứng dụng.

Lịch sử và nguồn gốc

Lịch sử hình thành hệ điều hành gắn liền với sự tiến hóa của máy tính từ những cỗ máy chuyên dụng, đơn nhiệm sang các hệ thống đa năng, đa người dùng và cuối cùng là thiết bị cá nhân, di động. Giai đoạn đầu tiên (1940–1955) chứng kiến sự ra đời của các máy tính cơ học và điện cơ như ENIAC, UNIVAC I, trong đó mỗi chương trình phải được nạp thủ công bằng công tắc, dây cáp hoặc thẻ đục lỗ, và việc chuyển từ chương trình này sang chương trình khác đòi hỏi can thiệp vật lý. Không tồn tại khái niệm hệ điều hành ở dạng hiện đại; thay vào đó, các kỹ sư vận hành (operators) đóng vai trò như "hệ điều hành sống", thực hiện mọi thao tác điều khiển bằng tay.

Giai đoạn thứ hai (1955–1965), thường gọi là thời kỳ hệ thống giám sát (supervisor systems), đánh dấu bước ngoặt quan trọng. Các máy tính như IBM 704 và IBM 709 bắt đầu hỗ trợ cơ chế ngắt (interrupt) và bộ nhớ ngoài (drum memory), cho phép tự động hóa việc nạp và chuyển đổi giữa các chương trình. Chương trình giám sát đầu tiên — gọi là General Motors Operating System (GMOS), phát triển năm 1955 cho IBM 701 — cho phép chạy tuần tự nhiều công việc (batch processing), giảm đáng kể thời gian chết giữa các tác vụ. Đến năm 1961, hệ điều hành Compatible Time-Sharing System (CTSS) tại MIT trở thành hệ thống chia sẻ thời gian đầu tiên trên thế giới, cho phép nhiều người dùng truy cập đồng thời vào một máy tính qua các thiết bị đầu cuối (teletype), mở đường cho khái niệm đa người dùng (multi-user) và tương tác thời gian thực (interactive computing). CTSS là tiền thân trực tiếp của hệ điều hành UNIX.

Giai đoạn thứ ba (1965–1980) chứng kiến sự ra đời của các hệ điều hành hiện đại với kiến trúc phân tầng rõ ràng. Năm 1969, Ken Thompson và Dennis Ritchie tại Bell Labs phát triển UNIX trên máy PDP-7 như một phản ứng đối với sự thất bại của dự án Multics — một hệ điều hành tham vọng nhưng quá phức tạp. UNIX nổi bật nhờ triết lý thiết kế tối giản (do one thing and do it well), sử dụng ngôn ngữ C (được phát triển cùng lúc) để viết hầu hết mã nguồn — điều chưa từng có trước đây — khiến nó dễ di chuyển giữa các kiến trúc phần cứng khác nhau. Cùng thời kỳ, hệ điều hành CP/M (1974) của Gary Kildall trở thành tiêu chuẩn cho máy tính cá nhân trước khi IBM PC ra đời. Sự kiện ra mắt IBM PC năm 1981 và việc chọn MS-DOS (một bản sao có giấy phép từ QDOS của Seattle Computer Products) làm hệ điều hành mặc định đã định hình thị trường hệ điều hành cá nhân trong suốt hơn một thập kỷ. Trong khi đó, các hệ điều hành thời gian thực (RTOS) như VxWorks (1980s) và QNX (1982) bắt đầu được áp dụng trong công nghiệp, hàng không và y tế — nơi yêu cầu độ tin cậy cao và đáp ứng thời gian xác định.

Đặc điểm và tính chất

Hệ điều hành sở hữu một tập hợp đặc điểm kỹ thuật và kiến trúc học đặc trưng, phản ánh vai trò then chốt của nó trong hệ thống máy tính. Những đặc điểm này không chỉ là thuộc tính bề ngoài mà là hệ quả tất yếu của các yêu cầu về hiệu suất, bảo mật, độ tin cậy và khả năng mở rộng. Một trong những đặc điểm nền tảng nhất là tính trừu tượng hóa: hệ điều hành xây dựng các mô hình logic (ví dụ: tiến trình, luồng, tập tin, thiết bị ảo) để che giấu chi tiết kỹ thuật của phần cứng vật lý. Điều này cho phép lập trình viên làm việc với các khái niệm trừu tượng dễ hiểu hơn — chẳng hạn, thay vì gửi lệnh điều khiển trực tiếp tới chip điều khiển ổ cứng SCSI, họ chỉ cần gọi hàm write() lên một tập tin — và hệ điều hành sẽ tự động chuyển đổi yêu cầu đó thành chuỗi lệnh phần cứng phù hợp.

Tính đa nhiệm (multitasking) và tính đa người dùng (multi-user) là hai đặc điểm phân biệt rõ ràng hệ điều hành hiện đại với các chương trình điều khiển sơ khai. Đa nhiệm không nhất thiết nghĩa là thực thi song song thật sự (true parallelism), mà là khả năng tạo cảm giác nhiều chương trình đang chạy đồng thời thông qua cơ chế lập lịch (scheduling) và chuyển ngữ cảnh (context switching) do nhân hệ điều hành (kernel) điều khiển. Mỗi tiến trình (process) được cấp một không gian địa chỉ riêng, ngăn cách với các tiến trình khác nhằm đảm bảo tính ổn định và bảo mật. Đa người dùng thì liên quan đến cơ chế xác thực (authentication), phân quyền (authorization) và kiểm soát truy cập (access control), cho phép nhiều tài khoản người dùng tồn tại độc lập với nhau trên cùng một hệ thống, mỗi tài khoản có không gian làm việc, cấu hình và quyền hạn riêng.

• Nhân hệ điều hành (Kernel): Là thành phần lõi, chạy ở chế độ đặc quyền (ring 0 hoặc supervisor mode), có quyền truy cập trực tiếp vào phần cứng. Nhân chịu trách nhiệm quản lý bộ nhớ, lập lịch CPU, điều khiển thiết bị, xử lý ngắt và cung cấp các lời gọi hệ thống (system calls) — cổng duy nhất để chương trình người dùng tương tác với phần cứng.
• Hệ thống tập tin (File System): Cung cấp mô hình tổ chức dữ liệu trên thiết bị lưu trữ dưới dạng tập tin và thư mục, kèm theo các thuộc tính như quyền truy cập, thời gian tạo, kích thước và siêu dữ liệu (metadata). Các hệ thống tập tin phổ biến bao gồm ext4 (Linux), NTFS (Windows), APFS (macOS), và FAT32 (tương thích rộng).
• Giao diện người dùng (User Interface): Có thể là dòng lệnh (CLI – Command-Line Interface) hoặc giao diện đồ họa (GUI – Graphical User Interface). CLI cung cấp khả năng kiểm soát sâu và tự động hóa cao, trong khi GUI tập trung vào tính trực quan và dễ sử dụng cho người dùng phổ thông.
• Cơ chế quản lý bộ nhớ: Bao gồm phân trang (paging), phân đoạn (segmentation), quản lý bộ nhớ ảo (virtual memory), và bảo vệ bộ nhớ (memory protection) để ngăn chặn một tiến trình truy cập trái phép vào vùng nhớ của tiến trình khác hoặc của nhân hệ điều hành.
• Hệ thống điều khiển thiết bị (Device Driver): Là các mô-đun phần mềm chuyên biệt, hoạt động như cầu nối giữa nhân hệ điều hành và phần cứng cụ thể, cho phép hệ điều hành nhận diện, khởi tạo và giao tiếp với thiết bị mà không cần biết chi tiết mạch điện bên trong.

Phân loại

Theo mô hình kiến trúc nhân

Dựa trên cách tổ chức nhân hệ điều hành, có thể phân thành ba loại chính: nhân đơn khối (monolithic kernel), nhân vi mô (microkernel) và nhân lai (hybrid kernel). Nhân đơn khối — như trong Linux và Unix truyền thống — tích hợp hầu hết các dịch vụ hệ thống (quản lý bộ nhớ, lập lịch, điều khiển thiết bị, hệ thống tập tin) vào một không gian địa chỉ duy nhất chạy ở chế độ đặc quyền. Ưu điểm là hiệu suất cao nhờ tránh được chi phí chuyển ngữ cảnh giữa các tiến trình; nhược điểm là độ ổn định thấp hơn vì lỗi trong bất kỳ thành phần nào cũng có thể làm sập toàn bộ hệ thống. Nhân vi mô — điển hình là MINIX và QNX — chỉ giữ các chức năng cốt lõi nhất (lập lịch, quản lý thông điệp, quản lý bộ nhớ cơ bản) trong nhân, còn các dịch vụ khác (hệ thống tập tin, điều khiển thiết bị) chạy dưới dạng tiến trình người dùng riêng biệt. Cách tiếp cận này tăng cường độ tin cậy và khả năng bảo mật, nhưng thường kém hiệu suất hơn do chi phí giao tiếp giữa các tiến trình.

Theo mục đích sử dụng

Hệ điều hành còn được phân loại theo lĩnh vực ứng dụng. Hệ điều hành chung chung (general-purpose OS) như Windows, macOS, Linux được thiết kế để phục vụ đa dạng nhu cầu từ văn phòng, giải trí đến phát triển phần mềm. Hệ điều hành thời gian thực (Real-Time OS – RTOS) như FreeRTOS, VxWorks, RTEMS ưu tiên đáp ứng thời gian xác định (deterministic timing), tức là đảm bảo rằng một tác vụ nhất định sẽ hoàn tất trong khoảng thời gian tối đa đã biết trước — điều kiện bắt buộc trong các hệ thống điều khiển công nghiệp, robot, xe tự hành hay thiết bị y tế. Hệ điều hành nhúng (Embedded OS) như Android (dựa trên Linux kernel), iOS, hoặc Zephyr được tối ưu hóa cho thiết bị có tài nguyên hạn chế (bộ nhớ nhỏ, CPU chậm), thường không có ổ cứng quay và yêu cầu tiêu thụ điện năng thấp.

Cơ chế hoạt động

Cơ chế hoạt động của hệ điều hành xoay quanh chu kỳ lặp vô hạn gồm bốn giai đoạn chính: (1) Nhận yêu cầu từ người dùng hoặc ứng dụng thông qua lời gọi hệ thống; (2) Kiểm tra tính hợp lệ và quyền hạn của yêu cầu; (3) Thực hiện công việc tương ứng bằng cách tương tác với phần cứng hoặc các thành phần nội bộ; (4) Trả kết quả về cho tiến trình gọi. Toàn bộ quá trình được điều phối bởi nhân hệ điều hành thông qua một loạt cơ chế đồng bộ và bất đồng bộ. Khi một tiến trình gọi hàm read() từ một tập tin, nhân sẽ kiểm tra xem tiến trình có quyền đọc tập tin đó không, xác định vị trí dữ liệu trên đĩa thông qua bảng phân bố tập tin (inode hoặc MFT), gửi lệnh đọc tới bộ điều khiển ổ cứng, chờ ngắt (interrupt) báo hiệu hoàn tất thao tác I/O, sau đó sao chép dữ liệu từ bộ đệm phần cứng vào không gian bộ nhớ của tiến trình. Trong suốt thời gian chờ I/O, nhân có thể tạm dừng tiến trình đang chờ và chuyển sang thực thi tiến trình khác — đây chính là cơ chế đa nhiệm nền tảng.

Ứng dụng thực tế

Hệ điều hành hiện diện ở khắp nơi trong đời sống hiện đại, từ chiếc điện thoại thông minh trong túi bạn, đến máy chủ đám mây lưu trữ dữ liệu toàn cầu, từ hệ thống điều khiển máy bay thương mại đến thiết bị đo huyết áp tại bệnh viện. Trong văn phòng, Windows hoặc macOS cung cấp môi trường để chạy các ứng dụng như Microsoft Office, Adobe Creative Suite, trình duyệt web và phần mềm hội nghị trực tuyến — tất cả đều phụ thuộc vào hệ điều hành để quản lý bộ nhớ, hiển thị giao diện, lưu trữ tài liệu và kết nối mạng. Trong trung tâm dữ liệu, hàng ngàn máy chủ chạy Linux (thường là các bản phân phối như CentOS, Ubuntu Server hoặc Red Hat Enterprise Linux) để vận hành các dịch vụ như email, website, cơ sở dữ liệu và trí tuệ nhân tạo. Các hệ thống nhúng sử dụng RTOS để điều khiển động cơ ô tô, hệ thống phanh ABS, hoặc thiết bị IoT như cảm biến nhiệt độ thông minh trong nhà. Ngay cả các thiết bị gia dụng như ti vi thông minh, tủ lạnh kết nối Internet hay loa thông minh đều chạy các biến thể của hệ điều hành Android hoặc hệ điều hành tùy chỉnh dựa trên Linux kernel.

Ưu điểm và hạn chế

Ưu điểm nổi bật nhất của hệ điều hành là khả năng trừu tượng hóa và chuẩn hóa, giúp giảm đáng kể độ phức tạp trong phát triển phần mềm và nâng cao tính tương thích giữa phần cứng và phần mềm. Nhờ có hệ điều hành, một ứng dụng được viết trên một nền tảng có thể được biên dịch lại để chạy trên nền tảng khác mà không cần thay đổi logic kinh doanh. Hệ điều hành cũng đảm bảo tính bảo mật và cách ly tài nguyên: mỗi tiến trình chạy trong không gian địa chỉ riêng, không thể can thiệp vào tiến trình khác hoặc vào nhân hệ điều hành nếu không được ủy quyền — điều này ngăn chặn sự lan rộng của phần mềm độc hại và tăng cường độ ổn định hệ thống. Ngoài ra, các cơ chế như bộ nhớ ảo, hoán đổi (swapping), và quản lý bộ đệm giúp tận dụng tối đa tài nguyên phần cứng, ngay cả khi chúng bị giới hạn.

Tuy nhiên, hệ điều hành cũng tồn tại những hạn chế không thể tránh khỏi. Thứ nhất là chi phí phần mềm: việc duy trì và cập nhật hệ điều hành đòi hỏi nguồn lực lớn về nhân sự và ngân sách, đặc biệt với các hệ thống doanh nghiệp. Thứ hai là sự phụ thuộc vào nhà phát triển: người dùng bị ràng buộc bởi các quyết định chiến lược của nhà sản xuất hệ điều hành — ví dụ như thay đổi giao diện, loại bỏ tính năng, hoặc thay đổi chính sách cấp phép. Thứ ba là rủi ro bảo mật tập trung: vì hệ điều hành là thành phần trung tâm, nên bất kỳ lỗ hổng nào trong nhân hoặc trong các thành phần cốt lõi đều có thể dẫn đến mất kiểm soát toàn bộ hệ thống. Cuối cùng, độ trễ và chi phí chuyển ngữ cảnh trong các hệ điều hành đa nhiệm vẫn là rào cản đối với các ứng dụng thời gian thực cực kỳ nghiêm ngặt, nơi yêu cầu phản hồi dưới vài microsecond.

Lưu ý quan trọng

Khi sử dụng hệ điều hành, người dùng và quản trị viên cần đặc biệt lưu ý đến các vấn đề liên quan đến bảo mật và ổn định. Việc không cập nhật thường xuyên các bản vá bảo mật là nguyên nhân hàng đầu gây ra các vụ xâm nhập hệ thống, bởi các lỗ hổng đã biết có thể bị khai thác dễ dàng nếu không được sửa chữa kịp thời. Ngoài ra, việc cài đặt phần mềm từ nguồn không đáng tin cậy hoặc chạy chương trình với đặc quyền quản trị (administrator/root) khi không cần thiết có thể làm suy yếu cơ chế cách ly tiến trình và mở đường cho phần mềm độc hại chiếm quyền kiểm soát toàn bộ hệ thống. Một sai lầm phổ biến khác là vô hiệu hóa các cơ chế bảo vệ mặc định như tường lửa, kiểm soát tài khoản người dùng (UAC trên Windows hoặc sudo trên Linux), hoặc dịch vụ chống virus — những thành phần này không chỉ là “phần mềm thừa” mà là lớp phòng thủ đầu tiên trong kiến trúc bảo mật nhiều tầng. Đối với các hệ thống nhúng và thời gian thực, việc lựa chọn hệ điều hành phải dựa trên phân tích kỹ lưỡng các yêu cầu về thời gian đáp ứng, độ tin cậy, khả năng kiểm chứng (verifiability) và hỗ trợ dài hạn (long-term support — LTS), chứ không nên dựa vào độ phổ biến hay giao diện người dùng.