Vấn đề đạo đức trong thế giới công nghệ lại tiếp tục được đẩy lên một cao trào mới khi mà nhiều dự án khởi nghiệp ở Trung Quốc đang cố gắng xây dựng thuật toán để giúp chính phủ nước này giám sát một cộng đồng Hồi giáo.
Trong những năm qua, Chính phủ Trung Quốc đã nhận không không ít những lời lên án về sự áp bức nhắm vào cộng đồng Hồi giáo định cư ở phía Tây nước này từ cộng đồng quốc tế. Một trong số những hành vi ấy còn có cả việc đưa hàng triệu người vào sinh sống trong những trại biệt lập.
Không dừng lại ở đó, đã có những tài liệu và những nhân chứng tiết lộ việc Trung Quốc đang muốn bí mật sử dụng một hệ thống khổng lồ áp dụng công nghệ nhận diện khuôn mặt để theo dõi và điều khiển nhóm người Duy Ngô Nhĩ, một cộng đồng Hồi giáo thiểu số. Đây chính là một trong những ví dụ rõ ràng về việc chính phủ nước này sẵn sàng sử dụng công nghệ trí tuệ nhân tạo để phân biệt/phân loại chủng tộc.
Theo đó, công nghệ nhận diện khuôn mặt sẽ được tích hợp vào hệ thống mạng lưới camera giám sát đang phát triển như nấm sau mưa ở Trung Quốc để nhằm nhận diện một nhóm người duy nhất: người Ngô Duy Nhĩ. Việc theo dõi nhóm người này được thực hiện dựa trên nhận dạng của họ, các thông tin thu được về việc họ đến hoặc đi đâu sẽ đều được lưu lại để cho mục đích đánh giá và tìm kiếm sau này. Chính cái cách mà Trung Quốc đang tiên phong áp dụng những công nghệ của thế hệ mới để giám sát công dân nước này sẽ có thể là cánh cửa mở ra một kỉ nguyên mới, kỉ nguyên tự động hoá của phân biệt chủng tộc.
May mắn thay, hệ thống được xây dựng để theo dõi 11 triệu người Ngô Duy Nhĩ này đã được đưa ra ánh sáng bởi năm người trực tiếp nắm thông tin về nó. Họ chấp nhận cung cấp thông tin dưới dạng nặc danh vì lo sợ về việc sẽ bị trả thù. Các nhân việc của trang tin The New York Times cũng đã được tiếp cận với cơ sở dữ liệu sử dụng bởi cảnh sát, cùng với đó là những tài liệu về việc mua sắm của chính phủ, những tài liệu quảng cáo phát hành bởi các công ty trí tuệ nhân tạo có liên quan trực tiếp tới việc xây dựng hệ thống này.
Từ trước tới nay, chính quyền Trung Quốc vẫn luôn duy trì một mạng lưới giám sát khổng lồ tại khu vực phía Tây của vùng Tân Cương – ngôi nhà của nhiều người Ngô Duy Nhĩ. Mạng lưới này đảm nhận cả việc giám sát về bộ DNA của nhiều người. Song một hệ thống mới đang âm thầm xuất hiện, phủ tầm kiểm soát của nó không chỉ ở một, mà là nhiều những góc cạnh khác trên lãnh thổ quốc gia này.
Nhìn sang phía Đông của nước này, tại các thành phố bao gồm Hàng Châu, Ôn Châu và dọc theo phần tiếp giáp với biển của tỉnh Phúc Kiến, công nghệ nhận diện khuôn mặt đang được tận dụng bởi cảnh sát để theo dõi những đối tượng là người Ngô Duy Nhĩ. Thậm chí, lực lượng hành pháp ở thành phố Tam Môn Hiệp nằm bên bờ sông Hoàng Hà còn đang sử dụng một hệ thống giúp ghi lại 500.000 khuôn mặt mỗi tháng để xác định xem đâu là người Ngô Duy Nhĩ.
Không những vậy, nhu cầu về công nghệ kiểu này đang dần được mở rộng. Kể từ đầu năm 2018 đã có gần 24 cục cảnh sát tại 16 tỉnh và khu vực khác nhau trên toàn Trung Quốc muốn sở hữu công nghệ này. Ví dụ, cục cảnh sát tại khu vực trung tâm tỉnh Thiểm Tây, Trung Quốc từ năm trước đã tìm kiếm một hệ thống camera thông minh “có hỗ trợ tính năng nhận diện khuôn mặt để xác định những thuộc tính của người Ngô Duy Nhĩ và những người khác“.
Một số cục cảnh sát mà công ty công nghệ cho rằng đây chỉ là công cụ để “định danh dân tộc thiểu số“, song ba trong số năm người tiết lộ thông tin ẩn danh cho biết rằng cụm từ trong ngoặc kép nói trên thực chất chỉ là cách nói khác đi của thứ công cụ tìm và nhận dạng người Duy Ngô Nhĩ. Nhóm người này có hình dáng bên ngoài khá khác biệt so với đại đa số người Hán ở Trung Quốc, họ có phần giống những người thuộc Trung Á hơn. Với những khác biệt về ngoại hình như vậy, họ cũng dễ bị phân biệt bởi phần mềm máy tính hơn.
Trong nhiều thập kì qua, những quốc gia với nền dân chủ đã gần như đạt được thế độc quyền về những công nghệ tiên tiến. Song ngày nay, một làn sóng khởi nghiệp mới đang xuất hiện để đáp ứng cho nhu cầu của giới cầm quyền Trung Quốc, chính những dự án này sẽ khởi động xu hướng lạm dụng công nghệ mới nổi như trí tuệ nhân tạo để tự động áp đặt những thành kiến, định kiến dựa vào thông tin về màu da hay dân tộc.
Clare Garvie, cộng tác viên với Trung tâm về quyền Riêng tư và Công nghệ của Georgetown Law, cho rằng: “Một khi ứng dụng công nghệ nguy hiểm này bị rơi vào tay người khác, thì chắc chắn sẽ có ít nhất một người dùng nó để tự động phân biệt chủng tộc. Nếu có một công nghệ mà bản thân nó có thể phân biệt được sắc tộc của con người thì chắc chắn sẽ có người dùng nó để đàn áp, áp bức dân tộc ấy“.
Từ quan điểm của giới công nghệ, sử dụng thuật toán để “dán nhãn” mỗi người dựa trên chủng tộc hay dân tộc đều chẳng phải là việc khó làm. Nhiều công ty, trong đó có cả IBM, đã quảng cáo về những phần mềm có thể phân loại người vào những nhóm lớn. Nhưng Trung Quốc đã thực hiện một bước tiến mới, phá vỡ cái thông thường ấy bằng cách dùng công nghệ để nhận dạng một nhóm dân tộc thiểu số nhằm phục vụ mục đích liên quan tới pháp luật. Một dự án khởi nghiệp ở Trung Quốc có tên là CloudWalk đã sử dụng nhiều minh hoạ thực tế để quảng cáo cho chính hệ thống giám sát của mình. Công ty này khẳng định rằng công nghệ của họ có thể nhận ra “những nhóm người nhạy cảm“.
Không những vậy, trên trang web của mình, CloudWalk còn cho biết rằng: “Nếu một người gốc Duy Ngô Nhĩ sinh sống trong một khu dân cư, hệ thống này sẽ tự động gửi báo động tới cơ quan hành pháp chỉ trong vòng 20 ngày tính từ thời điểm người đó xuất hiện“.
Nhưng quảng cáo là vậy, trên thực tế, các hệ thống giám sát này không phải là hoàn hảo. Độ chính xác của nó sẽ phụ thuộc vào các tác nhân môi trường như ánh sáng hay vị trí đặt của camera.
Tại Mỹ và châu Âu, nhiều cuộc tranh luận trong cộng đồng trí tuệ nhân tạo đều đang xoay quanh những thành kiến vô thức của những người thuộc khâu thiết kế. Không ít bài đánh giá gần đây đã cho thấy rằng nhiều hệ thống nhận diện khuôn mặt được thiết kế bởi những công ty bao gồm cả IBM hay Amazon đều có độ chính xác thấp hơn khi nhận diện đặc điểm khuôn mặt của những người có tông màu da tối.
Những gì người Trung Quốc đang cố thực hiện cũng chẳng thể thoát được lối mòn tương tự. Dù rằng công nghệ nhận diện khuôn mặt đánh giá hình ảnh trong video hoặc ảnh tĩnh chỉ dựa trên những khía cạnh bao gồm tông màu da hay hình dạng khuôn mặt, song để có thể làm vậy, nó cần con người chỉ cho nó cách để nhóm nhiều người lại dựa trên những định nghĩa về sắc tộc, dân tộc. Mà “con người” ở trong trường hợp này không ai khác chính là những cảnh sát Trung Quốc.
Giám đốc giám sát việc tố tụng tại Quỹ Electronic Frontier, Jennifer Lynch, bày tỏ sự bất ngờ: “Dù rằng Mỹ là nơi mà sự phân biệt chủng tộc dễ dàng len lỏi vào những thuật toán đưa ra quyết định nhất, nhưng mọi thứ đều không công khai đến vậy. Ví dụ như, ở đây, không hề có một hệ thống nào được thiết kế ra nhằm gán mác người Mỹ gốc Phi cho ai đó“.
Các công ty AI Trung Quốc đứng ra nghiên cứu phần mềm cho các hệ thống trên bao gồm Yitu, Megvii, SenseTime và CloudWalk. Mỗi công ty này đều đang được định giá trên 1 tỷ đô la. Ngoài ra còn có Hikvision, công ty này chuyên cung cấp camera và phần mềm giúp xử lí hình ảnh đi kèm với tính năng nhận diện nhóm người dân tộc thiểu số. Nhưng họ mới chỉ bắt đầu dấn chân vào mảng này từ năm 2018.
Một trong những lí do lí giải về giá trị khổng lồ của những công ty kiểu này đó là chính là việc Bộ Công an Trung Quốc đã xây dựng khoản ngân quỹ nhiều tỷ đô la để dành cho hai kế hoạch của chính phủ có tên gọi là Skynet và Sharp Eyes. Hai kế hoạch này sẽ được dùng để vi tính hoá việc giám sát, hoạt động cảnh sát và hoạt động thu thập tình báo.
Với đủ mọi tên gọi cho sản phẩm của mình, từ Fire Eye, Sky Eye cho tới Dragonfly Eye, những dự án khởi nghiệp này hứa hẹn sẽ sử dụng AI để phân tích các thước phim ghi được từ những camera giám sát của Trung Quốc. Song sự trưởng thành của công nghệ lại chưa thể đáp ứng được những hứa hẹn ấy. Một trong những dẫn chứng của thông tin trên chính là Yitu. Năm 2017, dự án mà công ty này quảng bá chỉ đạt độ chính xác là 1/3 trong tổng số những báo động mà cảnh sát nhận được từ ga tàu. Không những vậy, nhiều camera lắp đặt tại Trung Quốc thậm chí còn không đủ mạnh để phần mềm nhận diện khuôn mặt hoạt động hiệu quả.
Đúng là họ có những bước tiến vượt bậc trong cấu trúc quy hoạch xã hội, song để những thuật toán như trên hoạt động được, cảnh sát phải tập hợp cơ sở dữ liệu hình ảnh về những đối tượng đã có tiền án, về thông tin sức khoẻ tâm thần, về bản ghi chép lại lịch sử dùng ma tuý, về cả những cá nhân đã từng gửi các bản khiếu nại lên chính phủ. Người tiết lộ sự việc còn cho biết rằng hệ thống cơ sử dữ liệu tội phạm quốc gia của nước này hiện đang chứa tới 300.000 khuôn mặt, trong đó danh sách những người sử dụng ma tuý của riêng thành phố Ôn Châu đã có tới 8.000 khuôn mặt.
Sau đó, các kĩ sư sẽ cung cấp cho hệ thống trí tuệ nhân tạo một lượng lớn dữ liệu để huấn luyện cho thuật toán khả năng nhận diện những dấu hiệu hay những đặc điểm. Trong trường hợp để huấn luyện khả năng định danh, họ sẽ cung cấp hàng ngàn những hình ảnh đã được phân loại thành hai nhóm: người Ngô Duy Nhĩ và không phải người Ngô Duy Nhĩ. Bước này sẽ giúp thuật toán dần tạo ra tính năng giúp phân biệt nhóm người thiểu số này.
Không chỉ là những ưu ái nhận từ chính phủ Trung Quốc, các dự án khởi nghiệp này còn được cấp vốn bởi các nhà đầu tư có tên tuổi. Fidelity Internatioal và Qualcomm Ventures hợp tác với nhau để cùng đầu tư 620 triệu USD vào SenseTime. Sequoia thì đầu tư vào Yitu. Megvii thì được chống lưng bởi Sinovation Ventures, quỹ đầu tư thuộc quyền sở hữu bởi nhà đầu tư công nghệ Trung Quốc nổi tiếng là Kai-Fu Lee.
Ông Kai-Fu Lee, một cá nhân nhiệt tình ủng hộ trí tuệ nhân tạo của Trung Quốc thì cho rằng quốc gia này có một lợi thế trong việc phát triển công nghệ trên đó là các nhà lãnh đạo của họ không thể bị cản bước bởi những “rắc rối pháp lí” hoặc bởi những “đồng thuận về đạo đức“.
Ông từng viết rằng: “Trong câu chuyện về trí tuệ nhân tạo, chúng tôi không phải là những khán giả thụ động quan sát, mà là chính những người viết lên câu chuyện ấy. Điều đó có nghĩa là những giá trị củng cố cho tầm nhìn của Trung Quốc về một tương lai của trí tuệ nhân tạo sẽ có thể trở thành những lời tiên tri tự ứng nghiệm“. Ông này cũng từ chối bình luận thêm về việc quỹ đầu tư của mình đang hỗ trợ cho Megvii và những ứng dụng thực tế của dự án khởi nghiệp này.
Nhóm người tiết lộ thông tin cho rằng việc định danh cá nhân dân tộc thiểu số ở Trung Quốc chẳng còn là bí mật đối với giới công nghệ nước này. Thậm chí, điều này còn trở nên bình thường tới mức người ta còn ví von nó giống với công nghệ không dây cự ly gần – Bluetooth. Một người khác cũng cho biết: những nhân viên làm việc tại Megvii còn được cảnh báo về tính nhạy cảm của việc bàn tán công khai những gì họ đang làm.
Trung Quốc vẫn đang không ngừng đổ nhiều nguồn lực vào theo dõi những người Duy Ngô Nhĩ, và những hành vi bạo động của các nhóm thiểu số tại Tân Cương và nhiều nơi khác. Họ còn đưa hàng ngàn người Duy Ngô Nhĩ vào những trại cải tạo.
Nhưng với những phần mềm này, không chỉ là ở Tân Cương mà dù ở đâu trên toàn lãnh thổ Trung Quốc, giới cầm quyền cũng có thể nhận dạng những cá nhân là người Duy Ngô Nhĩ. Hai trong số những người tiết lộ cho biết rằng quốc gia này còn có hẳn một cơ sở dữ liệu lưu trữ khuôn mặt của tất cả những người Duy Ngô Nhĩ đã rời khỏi Tân Cương.
Những tài liệu mua bán của chính phủ trong hai năm vừa qua còn cho thấy rằng nhu cầu về công nghệ này đang ngày càng tăng. Tại thành phố Vĩnh Châu ở phía Nam tỉnh Hồ Nam, Trung Quốc, lực lượng hành pháp đang tìm kiếm một phần mềm có thể phân biệt và nhận định liệu ai đó có phải là người Duy Ngô Nhĩ hay không.
Một cơ sở dữ liệu được tạo ra bởi phần mềm của Yitu còn tiết lộ về cách mà cảnh sát thành phố Tam Môn Hiệp sử dụng phần mềm tích hợp trên nhiều camera để cố gắng nhận dạng cư dân thành phố trên 500.000 lần chỉ trong một tháng tính từ giữa tháng Hai.
Đặt trong bộ mã của phần mềm, bên cạnh những thẻ như “rec_gender” (giới tính) và “rec_sunglasses” (kính chống nắng) là thẻ “rec_uygur”, thẻ này sẽ có giá trị là một nếu phần mềm tin rằng nó đã tìm thấy người Duy Ngô Nhĩ và là không nếu ngược lại. Trong số tổng cộng nửa triệu lần nhận dạng mà camera có thể ghi được, phần mềm này đoán rằng nó đã tìm thấy người Duy Ngô Nhĩ 2.834 lần. Ngoài việc kiểm tra bằng phần mềm, dữ liệu hình ảnh lưu trữ cùng với thông tin nhận dạng sẽ giúp cảnh sát có thể xác định lại bằng phương pháp thủ công.
Không chỉ bùng nổ trong nước, Yitu và đối thủ của công ty này còn muốn mở rộng ra nhiều quốc gia khác. Anh Jonathan Frankle, nghiên cứu viên về trí tuệ nhân tạo tại MIT cho rằng chính nỗ lực trên của các công ty Trung Quốc sẽ dễ dàng đẩy những công cụ định dạng dân tộc này rơi vào tay chính phủ của những quốc gia khác.
Anh cho rằng: “Tôi tin rằng chẳng quá khi chúng ta coi đây là một mối đe doạ trực tiếp tới nền dân chủ. Một khi quốc gia nào đó ứng dụng công nghệ này vào những hình mẫu tương tự trong chế độ độc đoán, nó sẽ sử dụng những dữ liệu để áp đặt những tư tưởng, những luật lệ vào sâu trong tâm trí con người còn hơn sự áp đặt của chế độ Xô Viết cũ cách đây 70 năm. Với sự áp đặt như vậy, thì chúng ta đang dần tự vô tình đưa mình vào một cuộc khủng hoảng khẩn cấp“.
Trung ND
Vnreview.vn
