NPU là gì? Điểm khác biệt giữa NPU, GPU và CPU

Khi AI đang dần “xâm chiếm” trong nhiều khía cạnh cuộc sống như nghệ thuật, thể thao,... đặc biệt là công nghệ. Và để có thể đẩy mạnh sự phát triển của AI thì những thành phần hỗ trợ cho máy móc được ra đời, trong đó có cái tên là NPU. Vậy NPU là gì và có ý nghĩa như thế nào đến trí tuệ nhân tạo? Cùng GEARVN tìm hiểu ngay sau đây nhé !

NPU là gì?

NPU (viết tắt của Neural Processing Unit) là các đơn vị xử lý chuyên dụng dành cho SoC với khả năng tăng tốc độ hoạt động của mạng nơron (neuron) nhân tạo và những công việc liên quan đến AI. NPU được tối ưu hóa với khả năng tính toán ở mức hiệu suất cao với những thuật toán từ máy học (machine learning). NPU có thể được ví như là những con chip dành riêng cho trí tuệ nhân tạo.

NPU nổi tiếng với khả năng xử lý song song giữa luồng dữ liệu khổng lồ, có thể lên đến hàng nghìn tỷ phép tính một giây. Vì được sinh ra là dành cho AI, NPU cung cấp một băng thông xử lý lớn cùng với tốc độ cao nhằm phục vụ các công việc liên quan đến trí tuệ nhân tạo. NPU thường sẽ được trang bị trong những phần cứng như CPU hoặc các phần mềm nhằm nâng cao hiệu quả sử dụng dành cho công việc liên quan đến AI.

Những thông số cơ bản của NPU

NPU sẽ được đính kèm vào trong phần cứng như CPU, vì vậy chúng ta có thể thấy những thông số quen thuộc như số nhân, cache, tốc độ xử lý,.. Ngoài ra chúng ta sẽ có thêm 1 thông số mang tên TOPS.

TOPS (viết tắt của Tera Operations per Second) là đơn vị đo lường hiệu suất của NPU được biểu thị dưới dạng số tự nhiên. TOPS sẽ giúp ta liên tưởng đến TFLOPS (teraflops) - một đơn vị thể hiện khả năng xử lý lên tới hàng nghìn tỷ phép tính thường được đề cập trên thông số của các máy chơi game cầm tay (gaming handheld).

So sánh NPU, GPU và CPU

GPU (Graphic Processing Unit) hay bộ xử lý đồ họa, luôn được biết đến với tầm quan trọng trong những bộ PC Gaming hay laptop gaming. Khả năng xử lý đồ họa được áp dụng chung phương thức với NPU tuy nhiên ở một cấp độ thấp hơn về mặt hiệu suất. Nếu GPU phải làm việc liên quan đến AI thì chúng sẽ cần yêu cầu các mạch tích hợp đặc biệt nhằm đáp ứng hiệu quả cho chương trình liên quan đến máy học. Hiện nay một số GPU từ NVIDIA đã được tích hợp vào card màn hình dưới dạng lõi Tensor (Tensor core). 

Đến với CPU, đây vốn chính là “đầu não” cho mọi thiết bị máy tính với khả năng thực hiện mọi tác vụ trên máy tính. Mọi phần mềm hoạt động sẽ đều yêu cầu khả năng xử lý từ chính bộ vi xử lý tuy nhiên sẽ không được tập trung vào các công việc AI như chính NPU.

Còn đối với NPU thì chúng chỉ cần sử dụng chính các mạch này trên GPU và biến nó thành một đơn vị xử lý trên chính “dây chuyền” của mình. Điều này giúp NPU đảm bảo hiệu suất xử lý tác vụ ở mức điện năng tiêu thụ thấp và vô cùng lý tưởng dành cho các thiết bị mang tính di động cao như laptop.

Những loại NPU trong các thiết bị

NPU dành cho PC, laptop

PC và laptop chắc chắn chính là điểm đến tuyệt vời cho mọi NPU khi đây là một trong những công cụ làm việc phổ biến nhất hiện nay. Nghệ thuật, y tế, khoa học,... bất kì ngành nghề nào cũng sẽ có sự xuất hiện của máy tính cá nhân và khi được kết hợp với AI thì đây thực chất là trợ thủ đắc lực cho chúng ta. Nắm bắt điều ấy, những “ông hoàng” trong ngành vi mạch như Intel, Qualcomm đã mang tới cho chúng ta những chiếc CPU hiện đại tích hợp cho mình những NPU mạnh mẽ.

Với Intel, đó là dòng CPU mang tên Intel Core Ultra cùng tốc độ xử lý tối đa có thể lên tới 4.8 GHz kèm với các GPU và số nhân tối thiểu là 12. Tất cả mọi thông số như thể hiện tham vọng của đội xanh khi họ đang thực sự phóng khoáng cho một tương lai hứa hẹn của những con chip cao cấp dành cho những “cỗ máy chiến đấu” hay sẽ là những bộ PC Workstation cực khủng.

Với Qualcomm, được biết đến nhiều nhất có lẽ là những con chip Snapdragon trên những chiếc smartphone Android. Danh tiếng cùng sức mạnh đi đôi với nhau tạo nên sự uy tín với mọi phân khúc người dùng thì nay Qualcomm tiếp tục lấn sân sang những chiếc laptop AI với dòng NPU mang danh Snapdragon X Elite và Snapdragon X Plus. Cả 2 dòng CPU đều thể hiện sức mạnh tuyệt vời bao gồm phần số nhân, tốc độ xử lý và số lượng NPU TOPS.

NPU dành cho smartphone

Đối với smartphone, đây sẽ là những thiết bị vô cùng phổ biến khi được sử dụng hàng ngày từ nhu cầu giải trí đến công việc. Vì vậy việc phổ biến công nghệ AI trên loại thiết bị này sẽ là “sân chơi” lớn dành cho mọi thương hiệu hiện nay.

Cái tên mà chúng ta có thể nghĩ đến đầu tiên đó chính là Apple với dòng chip Bionic trên những chiếc iPhone. Hiện nay, dòng chip đã được trang bị thêm những NPU giúp bạn có thể thực hiện những tác vụ như chỉnh sửa hình ảnh, video bằng các phần mềm AI góp phần gia tăng tính đa dụng của thiết bị và mở rộng phân khúc người dùng.

Ở phần Android, đó là sự khởi xướng của Samsung với các tính năng AI được cung cấp trên thiết bị của mình thông qua Bixby Vision trên các dòng điện thoại Samsung Galaxy. Thông qua Bixby Vision, bạn có thể tận dụng tính năng nhận dạng hình ảnh, tùy chỉnh thông minh cho camera.

Tương lai của NPU

Với sự phát triển của công nghệ AI như các phần mềm chatbot Chat GPT, Gemini AI, Character AI, Bing Chat hay những phần mềm hỗ trợ Monica AI, tạo voice bằng AI,... thì việc trang bị NPU vào những thiết bị công nghệ như laptop, PC, smartphone là điều vô cùng cần thiết trong thời gian tới. Cùng với đó có thể là những dòng sản phẩm như laptop AI, PC AI, smartphone AI sẽ ngày càng được chú trọng nhằm phục vụ cho những nhu cầu thiết yếu của người dùng trong công việc và học tập. Tất cả sẽ thúc đẩy đến một phân khúc sản phẩm phục vụ cho AI mà đòi hỏi những “ông hoàng” công nghệ trên thế giới phải bước vào và cho ra những thành phẩm tuyệt vời như trong những bộ phim khoa học viễn tưởng về tương lai.

Vậy là chúng ta đã cùng tìm hiểu về NPU và những thông tin xung quanh về NPU. Nếu GEARVN có thiếu sót bất kì thông tin nào thì hãy đóng góp cho chúng mình bằng cách bình luận bên dưới. Hẹn gặp lại các bạn trong những bài viết tiếp theo trên GEARVN - Blog Thủ Thuật. PEACE !