Nguồn: nytimes.com

Liên minh Châu Âu vừa công bố dự thảo quy định quản lý nghiêm ngặt đối với trí tuệ nhân tạo^[1] (AI), với mục tiêu thiết lập bộ chính sách đầu tiên về những tiêu chuẩn mà Chính phủ và các công ty cần tuân thủ khi sử dụng công nghệ AI – một trong những đột phá khoa học quan trọng nhất nhưng vướng phải nhiều tranh cãi về khía cạnh nhân quyền.

Dự thảo sẽ đặt ra những giới hạn xung quanh việc ứng dụng AI trong nhiều hoạt động khác nhau như ô tô tự lái, quyết định tuyển dụng, cho vay ngân hàng, chọn trường ứng tuyển hay chấm điểm bài thi. Dự thảo quy định cũng sẽ kiểm soát việc sử dụng AI trong những lĩnh vực “rủi ro cao” bao gồm hệ thống tòa án và hành pháp vì chúng có thể gây nguy hại đến sự an toàn và quyền cơ bản của người dân. Một số ứng dụng AI trong đó có nhận dạng khuôn mặt trực tiếp trong nơi công cộng sẽ bị cấm, ngoại trừ những trường hợp cấp thiết như an ninh quốc gia.

Theo dự thảo quy định trên, các công ty cung cấp AI trong những lĩnh vực có rủi ro cao phải trình bằng chứng chứng minh độ an toàn, bao gồm đánh giá rủi ro và tài liệu giải thích quy trình AI đưa ra quyết định. Các công ty cũng phải đảm bảo hệ thống AI được thiết lập và sử dụng dưới sự giám sát của con người. Các công ty vi phạm quy định có thể phải chịu án phạt tới 6% doanh thu toàn cầu.

Dự kiến các quy định trên sẽ mất vài năm để hoàn thiện và được các thành viên Liên minh Châu Âu thông qua, với mục tiêu quản lý công nghệ mới nổi AI trước khi chúng trở thành quá phổ biến. Chính sách mới không chỉ ảnh hưởng sâu rộng đến các doanh nghiệp công nghệ lớn đã đầu tư phát triển AI như Amazon, Google, Facebook và Microsoft, mà còn với rất nhiều tổ chức sử dụng AI trong triển khai chăm sóc y tế, thẩm định chính sách bảo hiểm và đánh giá mức độ tín dụng. Chính phủ nhiều nước cũng đang sử dụng một số phiên bản của công nghệ AI trong tư pháp hình sự hay phân bổ dịch vụ công như trợ cấp thu nhập.

Bà Margrethe Vestager – Phó chủ tịch Ủy ban châu Âu và là người phụ trách các vấn đề kỹ thuật số cho biết, “AI cần được quản lý để trở thành một công nghệ đáng tin cậy. Với những quy định mới mang tính chiến lược này, Châu Âu sẽ dẫn đầu trong việc phát triển tiêu chuẩn toàn cầu nhằm đảm bảo an toàn khi sử dụng công nghệ AI.”

——————————————————————-

^[1] Trí tuệ nhân tạo (artificial intelligence): mô phỏng các chức năng nhận thức của con người bằng các hệ thống máy móc, như học tập (thu nhận thông tin và quy tắc sử dụng thông tin), hệ thống lý luận (sử dụng quy tắc để đạt được kết luận gần đúng hoặc xác định) và tự điều chỉnh.