19 LHQ kêu gọi ngừng sử dụng AI xâm phạm quyền con người mới nhất

Liên Hợp Quốc kêu gọi các abcxyz tạm hoãn sử dụng các công nghệ trí tuệ nhân tạo nhận diện khuôn mặt có nguy cơ đe dọa nhân quyền.

Trong một tuyên bố mới đây, Michelle Bachelet, người đứng đầu Văn phòng Cao ủy Nhân quyền Liên hợp quốc, kêu gọi gọi các nước cấm việc sử dụng AI không tuân thủ luật nhân quyền quốc tế. Các trường hợp sử dụng AI nên bị cấm bao gồm: các hệ thống “chấm điểm xã hội” của các abcxyz (hệ thống đánh giá và tính điểm xã hội cho công dân dựa trên hành vi của họ), và các công cụ dựa trên AI phân loại mọi người thành các nhóm theo đặc điểm dân tộc hoặc giới tính.
Các công nghệ dựa trên AI có thể mang lại nhiều lợi ích, nhưng cũng có thể “có những tác động tiêu cực, thậm chí là thảm khốc, nếu chúng được sử dụng mà không quan tâm đầy đủ đến ảnh hưởng nhân quyền”, Bachelet nói trong một tuyên bố mới đây.
Tuyên bố của Bachelet được đưa ra cùng với một báo cáo mới của Liên Hợp Quốc nói về việc các quốc gia và doanh nghiệp sử dụng các hệ thống AI mà không thiết lập các biện pháp chống phân biệt đối xử và bảo vệ nhân quyền. “Nếu AI được sử dụng trong các lĩnh vực rất quan trọng liên quan đến quyền con người, nó phải được triển khai đúng cách. Và chúng ta chưa có một khuôn khổ để đảm bảo điều đó,” Peggy Hicks, người đứng đầu báo cáo mới về AI và nhân quyền của Văn phòng Cao ủy Nhân quyền Liên hợp quốc, nói tại buổi trình bày báo cáo tại Geneva.

Michelle Bachelet, người đứng đầu Văn phòng Cao ủy Nhân quyền Liên hợp quốc.

Tuyên bố của Bachelet cũng như báo cáo không kêu gọi cấm hoàn toàn công nghệ nhận dạng khuôn mặt, nhưng cho rằng các abcxyz nên tạm dừng việc quét nhận dạng các đặc điểm của mọi người theo thời gian thực cho đến khi chứng minh được rằng công nghệ này hoạt động chính xác, không phân biệt đối xử và đáp ứng các tiêu chuẩn bảo vệ dữ liệu và quyền riêng tư nhất định.
Báo cáo của Liên Hợp Quốc không nhắc tên các quốc gia cụ thể. Tuy nhiên Trung Quốc là một trong số các quốc gia đã triển khai công nghệ nhận dạng khuôn mặt – đặc biệt là để giám sát khu vực phía tây Tân Cương, nơi có nhiều người Duy Ngô Nhĩ thiểu số sinh sống. Các tác giả chính của báo cáo cho biết việc nêu tên các quốc gia cụ thể không nằm trong nhiệm vụ của họ và làm như vậy thậm chí có thể phản tác dụng.
Báo cáo cũng cảnh báo về các công cụ AI cố gắng suy luận trạng thái cảm xúc và tinh thần của con người bằng cách phân tích nét mặt hoặc chuyển động cơ thể của họ, cho rằng công nghệ như vậy dễ bị sai lệch và thiếu cơ sở khoa học. “Việc các cơ quan công quyền sử dụng hệ thống nhận dạng cảm xúc, chẳng hạn như để chọn ra các cá nhân để cảnh sát bắt giữ hoặc để đánh giá tính trung thực của người bị thẩm vấn, có nguy cơ ảnh hưởng đến các quyền riêng tư, quyền tự do và công bằng,” theo báo cáo.
Các khuyến nghị của báo cáo nhất quán với ý tưởng của nhiều nhà lãnh đạo chính trị phương Tây: cần giải quyết vấn đề độ tin cậy của các công nghệ AI, nhất là khi công nghệ này được sử dụng để theo dõi và lập hồ sơ cá nhân hay lựa chọn ai là người được tiếp cận việc làm, các khoản vay và các cơ hội giáo dục. Các quy định mới của Liên minh châu Âu trong năm nay sẽ cấm một số hoạt động sử dụng AI, chẳng hạn như quét các đặc điểm trên khuôn mặt theo thời gian thực, và kiểm soát chặt chẽ các trường hợp sử dụng AI có thể đe dọa sự an toàn hoặc quyền của con người.
Chính quyền Mỹ cũng đã lên tiếng bày tỏ những lo ngại tương tự, mặc dù họ vẫn chưa vạch ra một cách tiếp cận chi tiết để hạn chế công nghệ này. Một nhóm mới được thành lập có tên là Hội đồng Thương mại và Công nghệ, do các quan chức Mỹ và châu Âu cùng lãnh đạo, đã tìm cách hợp tác để phát triển các quy tắc chung cho AI và các chính sách công nghệ khác.
“Thật đáng sợ khi nghĩ về những cách mà AI có thể tạo ra sự phân biệt đối xử hoặc tăng cường hơn nữa xu hướng phân biệt đối xử,” Bộ trưởng Thương mại Mỹ Gina Raimondo cho biết trong một hội nghị trực tuyến vào tháng 6/2021. “Chúng ta phải đảm bảo rằng điều đó không xảy ra.” Raimondo khi đó đang thảo luận với Margrethe Vestager, phó chủ tịch điều hành của Ủy ban châu Âu về Kỷ nguyên kỹ thuật số, người đã đề xuất nên cấm hoàn toàn một số trường hợp sử dụng AI, như việc tính điểm xã hội, có thể làm mất đi cơ hội của một người nào đó, và việc “sử dụng rộng rãi nhận dạng sinh trắc học trong không gian công cộng.”
Nguồn:

https://techxplore.com/news/2021-09-urges-moratorium-ai-imperils-human.html
https://techxplore.com/news/2021-06-eu-watchdogs-ai-facial-recognition.html