Những điểm chính:
- Các nhà lập pháp Trung Quốc đã nhận ra vai trò trung tâm của các thuật toán trong hoạt động của các nền tảng internet và định nghĩa nó là “khả năng ra quyết định tự động” trong Luật Bảo vệ Thông tin Cá nhân (PIPL) ban hành vào ngày 20 tháng 2021 năm XNUMX, lần đầu tiên quy định về công nghệ này.
- Theo PIPL, các nền tảng sẽ đánh giá trước tác động của các thuật toán và chịu trách nhiệm về kết quả của việc ra quyết định sau đó.
- PIPL mở rộng quyền được biết của người dùng nền tảng và yêu cầu các nền tảng phá vỡ "kén thông tin" được tạo ra bởi các đề xuất được cá nhân hóa theo thuật toán cho người dùng.
Luật bảo vệ thông tin cá nhân của Trung Quốc (个人 信息 保护 法), được ban hành vào tháng 2021 năm XNUMX, vạch ra ranh giới cho các nền tảng Internet thực hiện việc ra quyết định tự động thông qua các thuật toán.
Ⅰ. Tiểu sử
Các nền tảng Internet của Trung Quốc, điển hình là TopBuzz và TikTok của ByteDance, đang sử dụng rộng rãi các thuật toán đề xuất để đưa nội dung và sản phẩm đến người dùng của họ.
Tuy nhiên, các thuật toán như vậy, được cho là đã can thiệp vào quyền quyết định tự do của người dùng và do đó tạo ra rủi ro đạo đức, đang bị công chúng và các cơ quan quản lý nghi ngờ.
Các nhà lập pháp Trung Quốc đã nhận ra vai trò trung tâm của các thuật toán trong hoạt động của các nền tảng như vậy và định nghĩa nó là "tự động ra quyết định" trong Luật Bảo vệ Thông tin Cá nhân (sau đây gọi là 'PIPL') được ban hành vào ngày 20 tháng 2021 năm XNUMX, quy định công nghệ này cho lần đầu tiên.
Theo PIPL, ra quyết định tự động đề cập đến các hoạt động tự động phân tích và đánh giá thói quen hành vi, sở thích hoặc tình trạng tài chính, sức khỏe và tín dụng của các cá nhân thông qua các chương trình máy tính và đưa ra quyết định từ đó. (Điều 73)
Trước đó, đã có nhiều ý kiến trái chiều về trách nhiệm của các nền tảng đối với việc ra quyết định tự động. Ví dụ: một số người tin rằng các nền tảng không nên chịu trách nhiệm về kết quả của các thuật toán đưa ra quyết định tự động của họ, về cơ bản là một loại công nghệ trung lập. Tuy nhiên, PIPL làm rõ điều ngược lại.
Ⅱ. Hạn chế trên các nền tảng
1. Cơ quan quản lý trực tiếp xem xét các thuật toán
Với tư cách là người xử lý thông tin cá nhân, các nền tảng sẽ thường xuyên kiểm tra việc tuân thủ việc xử lý thông tin cá nhân của họ với luật pháp và quy định hành chính. (Điều 54)
Điều này yêu cầu các nền tảng phải kiểm tra định kỳ việc ra quyết định tự động theo thuật toán và các hoạt động xử lý thông tin khác của họ.
Theo quy định, các cơ quan quản lý cũng có thể tiến hành kiểm toán nội bộ về hoạt động của các thuật toán của nền tảng, thay vì chỉ giám sát bên ngoài đối với các hành vi của nền tảng và hậu quả.
Theo đó, các cơ quan quản lý đưa ra các thuật toán như đối tượng điều chỉnh trực tiếp, cho phép các cơ quan quản lý can thiệp vào công nghệ và chi tiết của quá trình ra quyết định tự động.
2. Nền tảng đánh giá trước tác động của các thuật toán
Với tư cách là người xử lý thông tin cá nhân, các nền tảng sẽ tiến hành đánh giá trước tác động bảo vệ thông tin cá nhân và ghi lại thông tin xử lý nếu họ sử dụng thông tin cá nhân để ra quyết định tự động. (Điều 55)
Việc đánh giá bằng các nền tảng sẽ bao gồm các nội dung sau:
A. Cho dù mục đích, phương pháp hoặc bất kỳ khía cạnh nào khác của việc xử lý thông tin cá nhân là hợp pháp, chính đáng và cần thiết;
B. Ảnh hưởng đến quyền và lợi ích cá nhân và mức độ rủi ro; và
C. Các biện pháp bảo vệ an ninh được thực hiện có hợp pháp, hiệu quả và tương xứng với mức độ rủi ro hay không.
Theo đó, các nền tảng sẽ tiến hành đánh giá trước khi các thuật toán đưa ra quyết định tự động đi vào hoạt động. Đánh giá rủi ro bao gồm tính hợp pháp và sự cần thiết của việc ra quyết định tự động theo thuật toán, cũng như tác động và rủi ro của nó.
Việc ra quyết định tự động bằng thuật toán bị lỗi từ các nền tảng có thể gây tổn hại đến tài sản và quyền cá nhân của công dân, thậm chí đến lợi ích công cộng và an ninh quốc gia.
Do đó, hậu quả tiêu cực có thể ảnh hưởng đến hàng nghìn người dùng. Tại thời điểm đó, mặc dù các nền tảng phải chịu trách nhiệm, có thể khó phục hồi những thiệt hại đã xảy ra.
Để ngăn chặn tình huống như vậy, luật thiết lập một hệ thống đánh giá trước cho các thuật toán của nền tảng nhằm cố gắng can thiệp trước vào các thuật toán.
3. Nền tảng chịu trách nhiệm về kết quả của việc ra quyết định sau đó
Nền tảng sẽ đảm nhận các nghĩa vụ sau đối với kết quả của quá trình ra quyết định tự động (Điều 24):
A. Nền tảng phải đảm bảo rằng kết quả là công bằng và khách quan
Trong trường hợp người xử lý thông tin cá nhân tiến hành ra quyết định tự động với thông tin cá nhân, họ sẽ đảm bảo tính minh bạch của việc ra quyết định và tính công bằng, khách quan của kết quả và không được đối xử khác biệt bất hợp lý đối với các cá nhân về giá giao dịch hoặc các điều kiện giao dịch khác.
B. Nền tảng sẽ cung cấp các tùy chọn ra quyết định tự động không nhắm mục tiêu đến các đặc điểm cá nhân cho người dùng của họ.
Trong trường hợp việc cung cấp thông tin dựa trên thông tin đẩy hoặc tiếp thị thương mại cho các cá nhân được thực hiện bằng phương pháp ra quyết định tự động, các lựa chọn không nhắm vào đặc điểm cá nhân của cá nhân hoặc các cách dễ dàng để từ chối nhận sẽ được cung cấp đồng thời cho các cá nhân đó.
C. Nền tảng sẽ đưa ra giải thích về kết quả ra quyết định.
Trong trường hợp quyết định có ảnh hưởng quan trọng đến quyền và lợi ích của cá nhân được thực hiện bằng phương thức ra quyết định tự động, thì cá nhân đó có quyền yêu cầu người xử lý thông tin cá nhân giải thích, cũng như có quyền từ chối đưa ra quyết định quyết định của bộ xử lý thông tin cá nhân chỉ bằng cách ra quyết định tự động.
Quy tắc này quy định các nền tảng phải chịu trách nhiệm về kết quả của quá trình ra quyết định tự động, bao gồm:
A. Quy tắc không công nhận biện pháp bảo vệ "tính trung lập về công nghệ" đã được các nền tảng sử dụng. Nền tảng phải chịu trách nhiệm về kết quả của việc ra quyết định tự động theo thuật toán và phải đảm bảo rằng kết quả là công bằng và hợp lý.
B. Quy tắc mở rộng quyền được biết của người dùng nền tảng. Người dùng có thể yêu cầu tính minh bạch của kết quả ra quyết định tự động cũng như giải thích từ các nền tảng trong trường hợp "tác động quan trọng".
C. Quy tắc yêu cầu các nền tảng phá vỡ "kén thông tin" được tạo ra bởi các đề xuất được cá nhân hóa theo thuật toán cho người dùng và yêu cầu các nền tảng bảo vệ quyền được biết của người dùng.
III. Nhận xét của chúng tôi
Trung Quốc đã tạo ra một bước đột phá trong PIPL bằng cách bổ sung các quy tắc pháp lý cho các thuật toán ra quyết định tự động của các nền tảng. Tuy nhiên, nó vẫn cần được hoàn thiện hơn nữa. Ví dụ, luật không làm rõ:
A. điều kiện để các nền tảng bắt đầu đánh giá thuật toán.
B. liệu các báo cáo đánh giá có được công bố công khai hay không và ở mức độ nào sau khi các nền tảng đánh giá thuật toán của họ và
C. các nền tảng phải chịu trách nhiệm như thế nào đối với thiệt hại do việc ra quyết định tự động theo thuật toán của họ.
Tôi cho rằng các cơ quan quản lý của Trung Quốc vẫn đang tìm hiểu khả năng ban hành một loạt các quy định cụ thể để tiếp tục thực hiện PIPL.
Photo by Chuyến đi đường bộ với Raj on Unsplash
Đóng góp: Quốc Đông Du 杜国栋
