Nhà lập pháp Hoa Kỳ này muốn xem xét kỹ lưỡng hơn các thuật toán được sử dụng trong các phiên tòa hình sự

Đại diện Mark Takano (D CA) cho biết, Rights Quyền sở hữu trí tuệ không thể bị xử lý theo thủ tục tố tụng.

Ảnh AP / J. Scott Applewhite

Nhà lập pháp Hoa Kỳ này muốn xem xét kỹ lưỡng hơn các thuật toán được sử dụng trong các phiên tòa hình sự

Tác giả Catherine MatacicSep. 23, 2019, 4:10 chiều

Kể từ khi được giới thiệu vào những năm 1980, bằng chứng DNA đã trở thành một tiêu chuẩn gold của các phòng xử án ở Hoa Kỳ, dẫn đến các bản án kết tội và ngoại trừ hàng ngàn tội phạm bị buộc tội. Nhưng các chuyên gia đấu tranh để phân tích các mẫu bị xuống cấp hoặc bị ô nhiễm, và nhiều người đã bắt đầu sử dụng phần mềm xác định kiểu gen tinh vi để ước tính khả năng DNA của nghi phạm phù hợp với DNA tại hiện trường vụ án. Cái gọi là thuật toán pháp y như vậy là rất hiếm: Ngày càng, chúng được sử dụng để ước tính các trận đấu cho mọi thứ, từ dấu vân tay đến nòng súng đến khuôn mặt trong các cảnh quay camera an ninh.

Luật sư bào chữa hiếm khi có quyền truy cập vào mã nguồn hoặc thông tin khác sẽ giải thích cách thức phần mềm như vậy thường là độc quyền. Đó là bởi vì các công ty sợ cung cấp nó sẽ tiết lộ bí mật thương mại hoặc các loại tài sản trí tuệ khác. Nhưng sự mờ đục đã làm dấy lên mối lo ngại về sự công bằng và minh bạch.

Tuần trước, Đại diện Mark Takano (D CA) đã đưa ra luật pháp giúp các bị cáo đối mặt với cáo buộc hình sự liên bang dễ dàng tiếp cận các thuật toán pháp y hơn và yêu cầu các nhà sản xuất phần mềm pháp y tính toán phải đáp ứng các tiêu chuẩn tối thiểu do Quốc gia đặt ra Viện Tiêu chuẩn và Công nghệ (NIST).

ScienceInsider bắt gặp Takano để thảo luận về dự luật mới. Cuộc phỏng vấn này đã được chỉnh sửa cho ngắn gọn và rõ ràng.

Q: Dự luật này sẽ giải quyết vấn đề gì?

Trả lời: Điều chúng tôi biết là mọi người thường bị kết án với các mô hình xác suất là bằng chứng duy nhất trong vụ án. Mọi người có thể bị tống vào tù, họ thậm chí có thể mất mạng [chỉ là] dạng bằng chứng hoàn cảnh này. Và những gì chúng ta cũng biết là các công ty đưa ra các công nghệ này không muốn mở mã nguồn hoặc giải thích nhiều về dữ liệu cơ bản và bị quốc phòng đặt câu hỏi. Chúng tôi nghĩ rằng có một vấn đề cơ bản với điều này. Quyền sở hữu trí tuệ sẽ không thể xử lý theo đúng thủ tục.

Q: Những công nghệ pháp y nào mà bạn lo lắng nhất?

Trả lời: Bằng chứng DNA [từ] phần mềm xác định kiểu gen xác suất để phân tích DNA. Nó có vẻ ngoài là sự thật sắt thép, giống như cách mà nhiều thập kỷ trước, một thử nghiệm phát hiện nói dối [đã làm]. Những cái bẫy của khoa học có thể dẫn đến [sự chắc chắn sai lầm] cho các hội thẩm và thẩm phán. Nó hoàn toàn phù hợp, và thực sự cần thiết, cho các hội thẩm và thẩm phán hiểu được giới hạn của công nghệ và cách thức hoạt động của nó.

Q: Dự luật này yêu cầu NIST kiểm tra phần mềm pháp y. Nó sẽ được thử nghiệm cái gì?

Trả lời: Rõ ràng, họ sẽ yêu cầu các nhà phân tích của họ nhìn vào công nghệ để đánh giá những hạn chế là gì, khả năng là gì và [họ sẽ] xem khoa học ngoài kia nói gì về dữ liệu và cách các thuật toán này hoạt động. Chúng tôi sẽ khuyến khích họ [hỏi các công ty]: aveBạn đã kiểm tra những thứ này chưa, và bạn có thể cho chúng tôi xem dữ liệu không? Có một tỷ lệ lỗi cho thấy tác động không tương xứng đối với các nhóm thiểu số, ví dụ, với các nhóm thiểu số được xác định sai lệch? Chúng tôi nghĩ rằng mọi góc độ đều phải được xem xét về cách các hệ thống này có thể thất bại.

Q: Điều gì đã truyền cảm hứng cho dự luật này?

Trả lời: Tôi nói rất nhiều về việc gia đình tôi bị giam giữ trong Thế chiến II và thực tập sinh người Mỹ gốc Nhật. Có gì kết nối ở đó? Nó phải làm với quyền riêng tư, nó phải làm với quá trình do. Đồng thời, điều này giúp giữ cho chính phủ hiện tại với công nghệ và giúp Quốc hội hiểu về công nghệ mới nhất. Điều nguy hiểm là, dù đó là những hệ thống bầu cử trông có vẻ sáng sủa và sáng bóng hay những hộp đen nhỏ xinh xắn phun ra kết quả của các công dân và hội thẩm, các thẩm phán và công tố viên và luật sư bào chữa [không] hiểu cách các hệ thống này hoạt động.

Q: Dự luật này phải đối mặt với những thách thức nào?

Trả lời: Tôi nghĩ đó là vấn đề chung của việc cố gắng thu hút sự chú ý của các thành viên, sự chú ý của đồng nghiệp và khiến các thành viên tiểu ban chủ chốt chọn và hiểu vấn đề tiềm ẩn. Tôi nghĩ rằng đây là tất cả những thứ rất có thể đạt được. Rào cản khác là ủy ban tư pháp [Hạ viện] có rất nhiều trên đĩa của nó ngay bây giờ. [Takano đã đề cập đến các cuộc điều tra luận tội chống lại Tổng thống Donald Trump.] Đó là những chủ đề gây chú ý lớn hơn có thể là trở ngại của tôi vào thời điểm này. Nhưng tôi nghĩ rằng đây là một trường hợp mà người dân Mỹ hiểu [sự cần thiết], vì vậy [nỗ lực] có thể theo cách thức lưỡng đảng.