Đăng ngày: 15:43 12-03-2025

Trí tuệ nhân tạo (AI) hiện đang phát triển với tốc độ rất nhanh, có nhiều đóng góp quan trọng vào sản xuất, kinh doanh, dịch vụ và đời sống con người. Tuy nhiên, AI là một lĩnh vực rất phức tạp và cũng tạo ra nhiều thách thức rất đáng lo ngại. Hiểu biết đúng về AI để nắm bắt đúng và kịp thời các cơ hội và thách thức từ AI là rất cần thiết đối với mỗi con người, mỗi tổ chức và mỗi quốc gia.

Nghiên cứu cho thấy, hiện nay các tổ chức tiêu chuẩn hóa quốc tế và khu vực trên thế giới đã công bố những tiêu chuẩn kỹ thuật có liên quan tới AI. Hiện Việt Nam cũng đã có một số tiêu chuẩn có liên quan tới AI, trong đó phải nhắc tới Tiêu chuẩn quốc gia TCVN 14199-2:2024 về Trí tuệ nhân tạo - Quy trình vòng đời và yêu cầu chất lượng- Phần 2: Độ bền vững do Ủy ban Tiêu chuẩn Đo lường Chất lượng Quốc gia thẩm định, Bộ Khoa học và Công nghệ công bố.

Tiêu chuẩn này áp dụng cho tất cả các giai đoạn vòng đời của mô-đun AI - ý tưởng, phát triển, triển khai, vận hành và ngừng hoạt động - và giải quyết nhiều quy trình vòng đời khác nhau. Do trong thực tế, các công nghệ AI được sử dụng cho nhiều nhiệm vụ khác nhau, nên tiêu chuẩn DIN SPEC này không chỉ hướng đến một lĩnh vực cụ thể mà còn áp dụng cho các công ty và sản phẩm AI trên tất cả các lĩnh vực.

AI là một lĩnh vực rất phức tạp và cũng tạo ra nhiều thách thức rất đáng lo ngại nên cần phải có những tiêu chuẩn nghiêm ngặt về chất lượng. Ảnh minh họa

Tiêu chuẩn này áp dụng cho tất cả các loại mô-đun AI bao gồm cả ML và các hệ thống chuyên gia. Tiêu chuẩn này không định nghĩa hoặc liệt kê các thuật toán, phương pháp hoặc công nghệ là một phần của AI. Do đó, người dùng tiêu chuẩn được yêu cầu tự đánh giá xem mô hình Meta chất lượng AI đã định và các yêu cầu chất lượng AI liên quan có được áp dụng hay không.

Tiêu chuẩn cũng đề xuất tách biệt giữa các mô-đun AI có mức rủi ro cao và thấp liên quan đến an toàn, bảo mật, quyền riêng tư và đạo đức. Nó cũng cung cấp các khía cạnh liên quan trong bối cảnh đánh giá rủi ro. Tiêu chuẩn này không thiết lập một quy trình đánh giá rủi ro chính xác, cũng như không thiết lập khuôn khổ thiết kế đạo đức. Tuy nhiên, nó bị ràng buộc bởi khung pháp lý hiện hành và quy tắc ứng xử đạo đức của mỗi tổ chức. Sự tuân thủ các quy định được cho là đúng. Ngoài ra, các bên liên quan của tiêu chuẩn này được yêu cầu thành lập một nhóm chuyên gia để đánh giá hồ sơ rủi ro mô-đun AI của họ.

Mô hình Meta chất lượng AI được giới thiệu trong tiêu chuẩn này bao gồm các khía cạnh quan trọng nhất cần được tính đến để tạo thuận lợi cho việc thiết kế các mô-đun AI chất lượng cao. Các yêu cầu chất lượng đối với các mô-đun AI, đặc biệt hơn so với phần mềm cổ điển, cần phải được liên kết với vòng đời. Điều này trở nên đặc biệt rõ ràng khi xem xét các ứng dụng học máy, phát triển thông qua thu thập thông tin khi được triển khai trong thế giới thực, được gọi là học trực tuyến. 

Lưu ý, các đặc điểm chất lượng chính, hay còn được gọi là trụ cột chất lượng, cần được tính đến trong toàn bộ vòng đời của mô-đun AI bao gồm chức năng và hiệu năng, độ bền vững và tính dễ hiểu. Những trụ cột chất lượng này kéo theo những thách thức cấp bách nhất về chất lượng dành riêng cho AI. Chúng chỉ ra các vấn đề triển khai trọng tâm của các mô-đun AI so với phần mềm truyền thống, chẳng hạn như việc xây dựng tập huấn luyện và độ bền vững tương ứng với các mẫu đối thủ.

Trong tiêu chuẩn này, mỗi mô-đun AI được xem như hoặc là rủi ro cao hoặc là rủi ro thấp. Các mô-đun AI có liên quan đến an toàn, bảo mật, quyền riêng tư và đạo đức được phân loại như là các mô-đun có rủi ro cao (có tiềm năng). Các mô-đun AI không có sự liên quan như vậy được xem như rủi ro thấp. Đối với các mô-đun AI rủi ro cao, tiêu chuẩn này yêu cầu xem xét tất cả các yêu cầu chất lượng đã nêu. Những sai lệch tiềm tàng của các mô-đun AI có rủi ro cao so với các yêu cầu chất lượng đã liệt kê cần có sự biện minh hợp lý. Yêu cầu này được nới lỏng đối với các mô-đun AI có rủi ro thấp.

Yêu cầu về độ bền vững là một vấn đề chất lượng AI quan trọng. Do đó, độ bền vững được giới thiệu và xem xét trong tiêu chuẩn này như một trụ cột cơ bản của chất lượng AI. 

Trong tiêu chuẩn này, có sự phân biệt giữa độ bền vững đối thủ (AR), tức là độ bền vững đối với các nhiễu loạn của đối thủ và độ bền vững thoái hóa (CR), tức là độ bền vững đối với các tín hiệu tạp nhiễu hoặc những thay đổi trong phân phối dữ liệu cơ bản. Hai mục tiêu độ bền vững cụ thể này làm rõ định nghĩa khá tổng quát về độ bền vững theo hai chủ đề thiết yếu và bộ tiêu chí về chất lượng AI.

Yêu cầu truyền đạt các chi tiết quan trọng liên quan đến trụ cột chất lượng độ bền vững. Tiêu chuẩn này không hình thành một chuỗi hành động kiểm soát khi nào và cách thức thực hiện các hành động, mà xa hơn bao gồm một tập hợp các yêu cầu chất lượng quan trọng về độ bền vững dành riêng cho AI. Tất cả các biện pháp kiểm soát chất lượng AI phải được nhúng vào các quy trình phù hợp để quản lý rủi ro cho một tổ chức đang phát triển hoặc sử dụng AI.

Yêu cầu về quản lý rủi ro, tất cả các giai đoạn của quy trình quản lý rủi ro đều được liên kết chặt chẽ với các môi trường có khả năng áp dụng mô hình AI. Cần phải nhấn mạnh rằng quản lý rủi ro độ bền vững AI không thể được xem như một quy trình cứng nhắc chỉ được thực hiện một lần cho mỗi mô hình AI. Thay vào đó, cần phải liên tục làm việc qua các giai đoạn khác nhau của quy trình quản lý rủi ro. Các mô hình mối đe dọa đã được phát hiện và rủi ro về độ bền vững có thể thay đổi thường xuyên do những thay đổi trong môi trường hoặc sự xuất hiện của các đối thủ mạnh hơn.

An Dương  (vietq.vn)