Chính phủ Anh Đang Phát Triển Công Cụ Dự Đoán ‘Giết Người’ AI Gây Tran Trở

Chính phủ Anh đang tiến hành một dự án gây tranh cãi, sử dụng trí thông minh nhân tạo để dự đoán ai có thể phạm tội giết người trong tương lai.

Sự tồn tại của chương trình đã được phơi bày thông qua các yêu cầu tự do thông tin do nhóm giám sát Statewatch thu thập được.

Những phát hiện của họ cho thấy rằng dữ liệu cá nhân nhạy cảm đang được sử dụng. Điều này bao gồm hồ sơ sức khỏe, thông tin về sức khỏe tâm thần, lịch sử nghiện và dữ liệu về những người chưa bị kết tội về bất kỳ tội phạm nào.

Statewatch báo cáo rằng Bộ Tư pháp (MoJ) đang dẫn đầu kế hoạch này, kiểm tra các hồ sơ quyền hạn hiện có của người dân để ngăn chặn những tội ác nghiêm trọng xảy ra.

Ban đầu được đặt tên là “dự án dự đoán vụ giết người”, nay được gọi là “chia sẻ dữ liệu để cải thiện đánh giá rủi ro”. Dự án hiện đang trong giai đoạn nghiên cứu, nhưng các nhà vận động và những người bảo vệ quyền riêng tư đã đưa ra những lo ngại, như Statewatch đã báo cáo.

Tuy nhiên, các quan chức phủ nhận điều này. The Guardian đưa tin rằng một người phát ngôn của Bộ Tư pháp cho biết: “Dự án này chỉ được thực hiện với mục đích nghiên cứu. Nó đã được thiết kế dựa trên dữ liệu hiện có do Dịch vụ Tù và Giám sát của HM và lực lượng cảnh sát về những kẻ phạm tội đã bị kết án để giúp chúng tôi hiểu rõ hơn về rủi ro của những người đang trong thời gian quản chế có thể tiếp tục phạm tội bạo lực nghiêm trọng. Một báo cáo sẽ được công bố trong thời gian tới.”

Theo Statewatch, cảnh sát ở Greater Manchester đã chia sẻ dữ liệu về lên đến nửa triệu người. Điều này bao gồm nạn nhân, nghi phạm và những người trong tình huống dễ bị tổn thương.

Sofia Lyall, một nhà nghiên cứu tại Statewatch, đã chỉ trích mạnh mẽ dự án này, nói: “Việc Bộ Tư pháp cố gắng xây dựng hệ thống dự đoán giết người này là ví dụ mới nhất và đáng sợ về ý định của chính phủ phát triển các hệ thống ‘dự đoán’ tội phạm được gọi là.”

Cô ta cảnh báo rằng hệ thống này sẽ làm sâu sắc hóa sự phân biệt chủng tộc và giai cấp: “Mô hình mới nhất này, sử dụng dữ liệu từ cảnh sát có tiếng phân biệt chủng tộc của tổ chức chúng ta và Home Office, sẽ củng cố và phóng đại sự phân biệt dựa trên cấu trúc đang tiềm ẩn trong hệ thống pháp lý hình sự.”

“Việc sử dụng những dữ liệu nhạy cảm như về sức khỏe tâm thần, nghiện ngập và khuyết tật là vô cùng xâm phạm và đáng báo động,” cô ta thêm vào.

Chính phủ cho rằng những công cụ như thế này có thể nâng cao cách dịch vụ quản chế đánh giá rủi ro và ngăn chặn tội phạm bạo lực. Nhưng các nhà phê bình cho rằng hệ thống này có thể dẫn đến việc một số người bị gán mác không công bằng là kẻ sát nhân tiềm năng do dữ liệu sai lầm và thiên vị.

Chính phủ cho rằng những công cụ này sẽ cải thiện khả năng của dịch vụ quản chế trong việc đánh giá rủi ro và ngăn chặn các tội phạm bạo lực. Tuy nhiên, các nhà phê bình cảnh báo rằng hệ thống này có nguy cơ gán nhãn cho người dùng là kẻ sát nhân tiềm năng thông qua dữ liệu xấu và thiên vị.

Trong khi vẫn đang được phát triển, Statewatch cho biết các tài liệu đã đề cập đến việc “đưa vào hoạt động trong tương lai” của hệ thống này, gây ra lo ngại rằng nó có thể sớm được sử dụng trong các quyết định của công tác cảnh sát thực tế.