Khái niệm TOPS là gì? và tại sao nó quan trọng đối với AI?

Ngày nay, thuật ngữ "TOPS" đang được sử dụng rất nhiều. Đâu là ý nghĩa của nó và lý do tại sao bạn nên quan tâm nếu bạn quan tâm đến AI. Tất cả sẽ được giải thích trong bài viết sau đây của Phúc Anh

Khái niệm TOPS là gì?

Khi chúng ta bước vào thế giới PC AI, rất nhiều thuật ngữ và từ viết tắt mới xuất hiện để giải thích về phần cứng và khả năng mới. 

Bạn có thể nhận thấy rằng nhiều máy tính xách tay hiện đại - và sắp tới là máy tính để bàn, với thông báo về AMD's Ryzen PRO 8000 - đang được trang bị bộ xử lý (CPU) bao gồm Bộ xử lý thần kinh (NPU) để tăng hiệu suất dành riêng cho AI. 

Với NPU, cần có một số liệu mới để đo lường hiệu suất và đó là lúc thuật ngữ "TOPS" phát huy tác dụng. Đây là lý do tại sao bạn sẽ được nghe nhiều hơn về TOPS trong tương lai khi PC AI tiếp tục bão hòa thị trường.

Vậy TOPS là gì? TOPS không phải là một thuật ngữ mới trong thế giới công nghệ, nhưng nó chắc chắn đang nhận được rất nhiều sự chú ý gần đây với sự nổi lên của PC AI cao cấp (định nghĩa vẫn còn mơ hồ, nhưng nó tập trung vào PC có CPU, GPU hiện đại, và NPU). 

TOPS chỉ đơn giản biểu thị số lượng nghìn tỷ hoạt động mà một hệ thống có thể thực hiện mỗi giây. TOPS có thể được sử dụng để đo hiệu suất tổng thể của hệ thống, nhưng nó cũng có thể được chia nhỏ cho phần cứng cụ thể.

Ví dụ: card đồ họa RTX 4090 của NVIDIA có thể mang lại hiệu suất hơn 1.300 TOPS, cho dù để chơi game hay tăng tốc các tác vụ AI. Đây là một trong những GPU mạnh nhất trên thị trường hiện nay, tuy nhiên con số đó vẫn còn hơi khó hiểu.

CPU Core Ultra của Intel — CPU đầu tiên của công ty cung cấp NPU — cung cấp tổng thể 34 TOPS (bao gồm CPU, GPU tích hợp và NPU), với khoảng 10 TOPS được khắc trên tổng số riêng cho NPU. CPU di động Ryzen 8040 của AMD nâng hiệu suất NPU lên tới 16 TOPS và Qualcomm Snapdragon X Elite sắp ra mắt sẽ ra mắt với NPU có khả năng lên tới 45 TOPS. 

Intel, AMD và Qualcomm dự kiến ​​sẽ tiếp tục nâng cao hiệu suất NPU trong các thế hệ sắp tới. Bây giờ chúng ta biết rằng CPU Lunar Lake thế hệ tiếp theo của Intel sẽ cung cấp NPU với 45 TOPS và AMD cho biết họ dự kiến ​​sẽ tăng gấp ba hiệu suất NPU trong loạt chip di động tiếp theo.

Các nhà sản xuất chip này đang dựa vào TOPS để quảng cáo sản phẩm của họ và mục đích chủ yếu là để đơn giản hóa hiệu suất và giúp người mua hiểu những gì họ đang nhận được.

Tại sao hiệu suất AI được đo bằng TOPS?

TOPS chắc chắn không đại diện cho bức tranh toàn cảnh khi phân tích hiệu suất NPU. Giống như cơn sốt TFLOP vào năm 2020 khi bảng điều khiển thế hệ tiếp theo vẫn chưa xuất hiện, TOPS đang được sử dụng để đơn giản hóa và quảng cáo hiệu suất hệ thống tới nhiều người hơn. Một NPU có khả năng đạt số TOPS gấp hai hoặc ba lần so với đối thủ cạnh tranh của nó trông rất tuyệt vời trên giấy tờ, nhưng cuối cùng thì thước đo lại thiếu sắc thái.

Ít nhất thoạt nhìn thì đó là tình huống "Số lớn tốt, số nhỏ xấu", nhưng có nhiều yếu tố khác có thể ảnh hưởng đến hiệu suất của NPU. Về mặt lý thuyết, một NPU cụ thể có 100 TOPS có thể được điều chỉnh cho một nhiệm vụ cụ thể, trong đó nó có thể hoạt động tốt hơn một NPU riêng biệt có 200 TOPS được điều chỉnh cho một nhiệm vụ khác. 

Việc đo lường hiệu suất tổng thể của PC thường tập trung vào các con số chuẩn cụ thể và những quan sát trừu tượng. Ví dụ: trong các bài đánh giá máy tính xách tay của chúng tôi , chúng tôi cung cấp nhiều con số khó sử dụng phần mềm kiểm tra chuyên dụng, nhưng chúng tôi cũng cung cấp "cảm nhận" tổng quát hơn về cách hệ thống hoạt động trong các tình huống thực tế.

Việc kiểm tra NPU cũng là điều cần được giải quyết khi chúng tôi tiến lên phía trước. Có sẵn các điểm chuẩn dành riêng cho NPU và chúng là một khởi đầu tốt trên con đường đo lường sức mạnh theo các nhiệm vụ cụ thể.

TOPS cũng đang được sử dụng để đặt điểm chuẩn phần cứng cho các công cụ AI tích hợp. Như Tom's Hardware đã báo cáo lần đầu tiên , Microsoft đã đặt ra yêu cầu 40 TOPS để chạy Copilot cục bộ trên hệ thống của bạn mà không phụ thuộc vào kết nối với máy chủ của Microsoft.

Vì vậy, ngay cả khi TOPS không phải là thước đo tốt nhất để đánh giá hiệu suất của NPU, nó vẫn cung cấp cho người mua một tiêu chuẩn để họ có thể so sánh đại khái các PC AI.

Bạn có nên quan tâm đến TOPS?

Đo TOPS là một cách nhanh chóng và dễ dàng để so sánh các NPU hoặc để đánh giá xem NPU có khả năng xử lý một số công cụ nhất định hay không. Tuy nhiên, TOPS không nên được coi là phép đo cuối cùng khi nói đến sức mạnh của NPU. Có rất nhiều sắc thái liên quan và bạn muốn chắc chắn rằng mình đang có được phần cứng phù hợp cho công việc sắp tới.

Bạn có nên quan tâm đến TOPS? Nó phụ thuộc. Nếu bạn là người dùng PC thông thường xử lý email, duyệt web và năng suất, bạn chắc chắn có thể tiếp tục mà không cần lo lắng về NPU và các phương pháp được sử dụng để đo hiệu suất của chúng. Nếu đang mua một chiếc máy tính xách tay mới, bạn có thể vẫn muốn chú ý đến các yêu cầu đối với một số công cụ AI có thể giúp cuộc sống của bạn dễ dàng hơn.

Mặt khác, nếu bạn quan tâm đến thế giới mới nổi của PC AI, thì NPU và khả năng của chúng được đo bằng TOPS có thể là những chủ đề quen thuộc. Chỉ cần nhớ rằng TOPS không phải là thước đo hoàn hảo và thay vào đó là cách dễ dàng để các nhà sản xuất chip so sánh và quảng cáo sản phẩm của họ.

Theo dõi Phúc Anh để cập nhật các thông tin công nghệ mới nhất nhé!