Trong bối cảnh kỷ nguyên số đang phát triển vũ bão, Trí tuệ Nhân tạo (AI) đã trở thành một yếu tố then chốt định hình tương lai. Tuy nhiên, song hành với những tiềm năng vượt trội, AI cũng đặt ra những thách thức về đạo đức, pháp lý và an toàn. Hiểu rõ điều này, Liên minh Châu Âu (EU) đã tiên phong xây dựng và ban hành “AI Act” – một bộ quy định pháp lý toàn diện nhằm quản lý và định hướng sự phát triển của AI. Vậy, AI Act là gì và nó có ý nghĩa như thế nào đối với chúng ta?
AI Act là gì?
AI Act (Đạo luật Trí tuệ Nhân tạo) là một bộ luật do Liên minh Châu Âu (EU) đề xuất và thông qua, nhằm thiết lập một khung pháp lý chung để quản lý việc phát triển, triển khai và sử dụng các hệ thống Trí tuệ Nhân tạo (AI) trong mọi lĩnh vực. Mục tiêu cốt lõi của AI Act là đảm bảo rằng các hệ thống AI được phát triển và sử dụng theo cách an toàn, minh bạch, có trách nhiệm, không phân biệt đối xử và tôn trọng các quyền cơ bản của con người. AI Act phân loại các hệ thống AI dựa trên mức độ rủi ro của chúng, từ đó áp dụng các yêu cầu pháp lý khác nhau phù hợp với từng loại.
Mục tiêu chính của AI Act
- Đảm bảo an toàn và quyền con người: Ưu tiên hàng đầu của AI Act là bảo vệ sức khỏe, sự an toàn và các quyền cơ bản của công dân EU khỏi những rủi ro tiềm ẩn từ các hệ thống AI.
- Thúc đẩy sự đổi mới đáng tin cậy: Tạo ra một môi trường pháp lý rõ ràng và ổn định để khuyến khích các công ty đầu tư vào phát triển AI theo hướng có trách nhiệm và có đạo đức.
- Xây dựng thị trường nội bộ thống nhất: Thiết lập các quy tắc chung cho toàn EU, giúp gỡ bỏ các rào cản pháp lý và tạo điều kiện thuận lợi cho thương mại các sản phẩm và dịch vụ AI.
- Nâng cao khả năng cạnh tranh toàn cầu: Định vị EU trở thành một trung tâm dẫn đầu về AI đáng tin cậy trên trường quốc tế.
Các cấp độ rủi ro trong AI Act
AI Act áp dụng cách tiếp cận dựa trên rủi ro, phân loại các hệ thống AI thành bốn cấp độ chính, mỗi cấp độ có những yêu cầu pháp lý riêng:
1. Rủi ro Không chấp nhận được (Unacceptable Risk)
Đây là những hệ thống AI bị cấm hoàn toàn vì chúng vi phạm các giá trị cốt lõi của EU hoặc gây nguy hiểm nghiêm trọng đến quyền con người. Ví dụ bao gồm:
- Các hệ thống thao túng hành vi con người bằng cách lợi dụng sự yếu đuối hoặc dễ bị tổn thương.
- Hệ thống phân loại cá nhân dựa trên hành vi hoặc đặc điểm cá nhân để đánh giá mức độ tin cậy xã hội (social scoring), có thể dẫn đến sự phân biệt đối xử.
- Việc sử dụng AI để nhận dạng cảm xúc tại nơi làm việc hoặc trong các cơ sở giáo dục, trừ khi có lý do y tế hoặc an toàn cụ thể.
2. Rủi ro Cao (High Risk)
Các hệ thống AI được coi là rủi ro cao nếu chúng có thể ảnh hưởng đáng kể đến các quyền cơ bản hoặc an toàn của con người. Các hệ thống này phải tuân thủ các yêu cầu nghiêm ngặt trước khi được đưa ra thị trường hoặc sử dụng. Ví dụ bao gồm:
- AI trong quản lý hoạt động cơ sở hạ tầng quan trọng (ví dụ: hệ thống giao thông).
- AI trong giáo dục và đào tạo nghề (ví dụ: đánh giá bài thi, tuyển sinh).
- AI trong quản lý lao động và quyền tiếp cận việc làm (ví dụ: sàng lọc hồ sơ, đánh giá hiệu suất).
- AI trong việc tiếp cận dịch vụ công thiết yếu (ví dụ: đánh giá khả năng tiếp cận phúc lợi xã hội).
- AI trong thực thi pháp luật.
- AI trong quản lý di cư, xin tị nạn và kiểm soát biên giới.
- AI trong hành chính tư pháp và các quy trình dân chủ.
Ví dụ minh họa về AI rủi ro cao và E-E-A-T: Để hiểu rõ hơn về AI rủi ro cao, hãy xem xét một hệ thống AI được sử dụng để sàng lọc hồ sơ ứng viên xin việc. Theo AI Act, nếu hệ thống này có khả năng phân biệt đối xử dựa trên các yếu tố như giới tính, chủng tộc hoặc tuổi tác (mặc dù không cố ý), nó sẽ bị coi là rủi ro cao. Một nhà phát triển AI chuyên nghiệp (Expertise) phải đảm bảo hệ thống của họ được thiết kế để giảm thiểu thiên vị bằng cách sử dụng dữ liệu huấn luyện đa dạng và kiểm định thuật toán chặt chẽ (Experience). Họ cần chứng minh (Authoritativeness) rằng hệ thống đã trải qua các bài kiểm tra nghiêm ngặt và tuân thủ các tiêu chuẩn về đạo đức, đồng thời cung cấp tài liệu chi tiết về cách hoạt động của thuật toán (Trustworthiness), và tham khảo các nghiên cứu tiên tiến trong lĩnh vực này.
3. Rủi ro Hạn chế (Limited Risk)
Các hệ thống AI này có thể gây ra hậu quả tiêu cực đến mức độ hạn chế, nhưng không đe dọa trực tiếp đến quyền cơ bản. Chúng yêu cầu các nhà cung cấp phải tuân thủ các nghĩa vụ về tính minh bạch, để người dùng biết rằng họ đang tương tác với một hệ thống AI và có khả năng từ chối tương tác. Ví dụ bao gồm:
- Chatbot: Người dùng cần biết họ đang nói chuyện với AI.
- Hệ thống tạo sinh nội dung (ví dụ: AI tạo văn bản, hình ảnh): Cần có thông báo để người dùng biết nội dung đó được tạo ra bởi AI.
4. Rủi ro Tối thiểu hoặc Không có rủi ro (Minimal or No Risk)
Phần lớn các hệ thống AI hiện nay thuộc nhóm này, bao gồm các ứng dụng AI mang lại lợi ích rõ ràng và ít hoặc không có rủi ro. AI Act không áp đặt thêm nghĩa vụ pháp lý đối với các hệ thống này, nhưng vẫn khuyến khích các nhà phát triển tuân thủ các quy tắc ứng xử tự nguyện để nâng cao tính tin cậy.
- Game AI.
- Bộ lọc thư rác.
- AI hỗ trợ trong các ứng dụng văn phòng thông thường.
Các nghĩa vụ chính theo AI Act
AI Act đặt ra các nghĩa vụ cụ thể cho các bên liên quan, bao gồm nhà phát triển, nhà nhập khẩu, nhà phân phối và người sử dụng hệ thống AI:
Đối với nhà phát triển hệ thống AI
- Đánh giá sự phù hợp: Tự đánh giá hoặc thông qua bên thứ ba để chứng minh hệ thống AI tuân thủ AI Act.
- Quản lý rủi ro: Thiết lập quy trình quản lý rủi ro xuyên suốt vòng đời của hệ thống AI.
- Chất lượng dữ liệu: Đảm bảo dữ liệu huấn luyện, xác thực và kiểm thử có chất lượng cao và phù hợp.
- Tài liệu kỹ thuật: Duy trì tài liệu kỹ thuật chi tiết cho phép đánh giá sự tuân thủ.
- Minh bạch và thông tin: Cung cấp thông tin rõ ràng cho người dùng về cách hệ thống AI hoạt động và các hạn chế của nó.
- Kiểm soát của con người: Đảm bảo khả năng kiểm soát hiệu quả của con người đối với hệ thống AI.
- Độ chính xác, mạnh mẽ và an ninh: Đảm bảo hệ thống hoạt động chính xác, chống lại các mối đe dọa và có khả năng phục hồi.
Đối với nhà nhập khẩu và nhà phân phối
Họ có trách nhiệm đảm bảo các AI mà họ đưa ra thị trường EU tuân thủ quy định, bao gồm việc xác minh sự tuân thủ của nhà phát triển và cung cấp thông tin cần thiết.
Đối với người sử dụng hệ thống AI rủi ro cao
- Chỉ sử dụng AI theo hướng dẫn của nhà cung cấp.
- Giám sát hoạt động của hệ thống và báo cáo các sự cố nghiêm trọng.
- Đảm bảo sự tham gia và giám sát của con người khi cần thiết.
AI Act có ảnh hưởng đến Việt Nam không?
Mặc dù AI Act là một quy định của EU, nhưng nó có tác động lan tỏa toàn cầu. Các công ty Việt Nam phát triển hoặc cung cấp sản phẩm/dịch vụ AI cho thị trường EU sẽ phải tuân thủ AI Act. Ngoài ra, các quốc gia khác, bao gồm cả Việt Nam, có thể tham khảo AI Act như một khuôn khổ để xây dựng các quy định về AI của riêng mình, nhằm đảm bảo sự phát triển AI an toàn và có trách nhiệm trong nước.
Tương lai của AI với AI Act
AI Act đánh dấu một bước ngoặt quan trọng trong việc định hình tương lai của AI. Bằng cách thiết lập một bộ quy tắc rõ ràng, nó hướng tới việc xây dựng một hệ sinh thái AI nơi công nghệ tiên tiến song hành với sự an toàn, đạo đức và quyền con người. Điều này không chỉ bảo vệ công dân mà còn thúc đẩy sự đổi mới bền vững và xây dựng lòng tin vào công nghệ AI.
Lời kêu gọi hành động (CTA): Hãy cùng tìm hiểu sâu hơn về AI Act và các quy định liên quan để chủ động thích ứng với sự thay đổi của kỷ nguyên số. Đăng ký nhận bản tin của chúng tôi để cập nhật những thông tin mới nhất về AI và các quy định pháp lý!
Câu hỏi thường gặp về AI Act
1. AI Act có áp dụng cho các công ty ngoài EU không?
Có, AI Act áp dụng cho bất kỳ nhà cung cấp nào đưa hệ thống AI ra thị trường EU hoặc cho hệ thống AI được sử dụng trong EU, bất kể nguồn gốc của nhà cung cấp ở đâu.
2. AI Act có cấm hoàn toàn việc sử dụng AI không?
Không, AI Act không cấm AI mà thay vào đó, nó phân loại các hệ thống AI dựa trên mức độ rủi ro và áp dụng các quy định khác nhau, bao gồm cả việc cấm đối với các hệ thống có rủi ro không chấp nhận được.
3. Ai là người chịu trách nhiệm chính trong việc tuân thủ AI Act?
Trách nhiệm chính thuộc về các nhà phát triển, nhà nhập khẩu và nhà phân phối hệ thống AI. Tuy nhiên, người sử dụng hệ thống AI rủi ro cao cũng có những nghĩa vụ quan trọng.
4. Khi nào các quy định của AI Act bắt đầu có hiệu lực?
AI Act đã được thông qua và các quy định sẽ có hiệu lực từng bước trong khoảng thời gian từ giữa năm 2024 đến năm 2026.
5. Các hệ thống AI “tự học” có bị ảnh hưởng bởi AI Act không?
Evet, các hệ thống AI học máy, đặc biệt là những hệ thống được phân loại là rủi ro cao, sẽ phải tuân thủ các yêu cầu nghiêm ngặt về chất lượng dữ liệu, giám sát và minh bạch.
6. AI Act có hạn chế sự sáng tạo và đổi mới trong lĩnh vực AI không?
Mục tiêu của AI Act là thúc đẩy sự đổi mới một cách có trách nhiệm. Bằng cách tạo ra sự rõ ràng về pháp lý và xây dựng lòng tin, nó có thể khuyến khích sự đầu tư vào AI bền vững và có đạo đức, thay vì hạn chế sự sáng tạo.
7. Làm thế nào để doanh nghiệp nhỏ có thể tuân thủ AI Act?
Đối với các doanh nghiệp nhỏ, việc hiểu rõ phân loại rủi ro của hệ thống AI mà họ phát triển hoặc sử dụng là bước đầu tiên quan trọng. Việc tìm kiếm các giải pháp AI tuân thủ hoặc hợp tác với các chuyên gia tư vấn có thể giúp họ đáp ứng các yêu cầu.
