Tác động có hại của công nghệ số – các chuyên gia cho rằng khoa học trong lĩnh vực này cần được điều chỉnh

Các nghiên cứu khoa học về tác hại của công nghệ số đang mắc kẹt trong một "chu trình thất bại" vốn đang vận hành quá chậm, khiến chính phủ và xã hội không thể buộc các công ty công nghệ phải chịu trách nhiệm — theo cảnh báo của hai nhà nghiên cứu hàng đầu trong một báo cáo mới công bố trên tạp chí Science.

TS. Amy Orben (Đại học Cambridge) và TS. J. Nathan Matias (Đại học Cornell) cho rằng tốc độ triển khai công nghệ mới đến hàng tỷ người đã tạo ra áp lực quá mức lên hệ thống khoa học vốn đang cố gắng đánh giá tác động của chúng.

Họ lập luận rằng các tập đoàn công nghệ lớn trên thực tế đã "chuyển giao" nhiệm vụ nghiên cứu về mức độ an toàn của sản phẩm cho các nhà khoa học độc lập tại các trường đại học và các tổ chức phi lợi nhuận — những người này chỉ hoạt động với một phần nhỏ nguồn lực so với các công ty, trong khi các công ty lại cản trở quyền tiếp cận dữ liệu và thông tin thiết yếu. Điều này hoàn toàn trái ngược với các ngành công nghiệp khác, nơi việc kiểm định an toàn thường được thực hiện nội bộ.

Orben và Matias kêu gọi cải tổ toàn diện quy trình “sản xuất bằng chứng” để đánh giá tác động của công nghệ đối với các lĩnh vực như sức khỏe tâm thần hay phân biệt đối xử. Các khuyến nghị của họ bao gồm việc đẩy nhanh tiến trình nghiên cứu, sao cho các chính sách can thiệp và thiết kế an toàn có thể được thử nghiệm song song với giai đoạn thu thập bằng chứng ban đầu, cũng như thiết lập các cơ sở dữ liệu về tác hại công nghệ, có sự đóng góp thông tin từ công chúng.

Orben (Đơn vị Khoa học nhận thức và não bộ MRC, Đại học Cambridge) nhận định rằng các công ty công nghệ lớn ngày càng hành động như thể họ đứng ngoài vòng pháp luật, trong khi niềm tin của công chúng vào việc họ quan tâm đến an toàn xã hội đang sụt giảm. Các nhà hoạch định chính sách và công chúng đang tìm đến các nhà khoa học độc lập như những người phân xử độ an toàn của công nghệ.

Các nhà khoa học cam kết phục vụ lợi ích công, nhưng lại được giao phó nhiệm vụ giám sát một ngành công nghiệp trị giá hàng tỷ đô mà không có sự hỗ trợ tương xứng hay các công cụ cơ bản để sản xuất bằng chứng chất lượng trong thời gian ngắn. Orben nhấn mạnh rằng chúng ta cần khẩn trương sửa chữa hệ sinh thái khoa học và chính sách hiện tại để có thể hiểu và quản lý tốt hơn các rủi ro tiềm ẩn từ xã hội số đang phát triển

---

“Quy trình phản hồi tiêu cực”

Trong bài viết mới công bố trên Science, hai nhà nghiên cứu chỉ ra rằng các công ty công nghệ thường áp dụng chính sách “triển khai trước, xử lý sau” — phát hành sản phẩm nhanh chóng rồi mới khắc phục các tác hại tiềm tàng. Ví dụ điển hình là việc phát hành các công cụ AI tạo sinh đến hàng triệu người dùng mà chưa hoàn tất các bài kiểm tra an toàn cơ bản.

Khi đối mặt với nhiệm vụ đánh giá các tác hại của công nghệ mới, các nhà nghiên cứu thường phải dựa vào “khoa học thông lệ” — phương pháp đã từng dẫn dắt tiến bộ xã hội trong nhiều thập kỷ, nhưng nay lại tụt hậu so với tốc độ phát triển công nghệ đến mức nhiều khi trở nên “không thể sử dụng”.

Trước áp lực từ người dân yêu cầu hành động nhằm đảm bảo an toàn số, Orben và Matias cho rằng các công ty công nghệ đã lợi dụng sự chậm trễ của khoa học và việc thiếu bằng chứng chắc chắn để phản kháng các chính sách can thiệp và "giảm nhẹ trách nhiệm của chính họ".

Ngay cả khi nghiên cứu được đầu tư đúng mức, các nhà khoa học cũng phải đối diện với một thách thức: hiểu được các sản phẩm thay đổi liên tục với tốc độ chưa từng có.

Matias (Phòng thí nghiệm Công dân và Công nghệ (CAT Lab), Đại học Cornell) cho biết các sản phẩm công nghệ thay đổi hàng ngày hoặc hàng tuần và được tùy biến theo từng cá nhân. Ngay cả nhân viên công ty đôi khi cũng không hiểu đầy đủ sản phẩm, và nghiên cứu khoa học có thể đã lỗi thời ngay khi vừa hoàn tất, chưa tính đến việc công bố. Đồng thời, việc cho rằng khoa học chưa đầy đủ cũng có thể trở thành cái cớ để trì hoãn các biện pháp an toàn, nhất là khi khoa học được xem như rào chắn của chính sách.

Giống như cách các ngành công nghiệp dầu mỏ và hóa chất từng lợi dụng tốc độ chậm của khoa học để né tránh trách nhiệm, các giám đốc điều hành ngành công nghệ cũng đi theo mô hình tương tự. Một số người thậm chí bị cáo buộc từ chối đầu tư đáng kể cho nghiên cứu an toàn nếu không có bằng chứng nhân quả cụ thể — vốn là loại bằng chứng mà chính họ cũng không tài trợ.

Hai nhà nghiên cứu đã mô tả một “chu trình phản hồi tiêu cực” như sau: Các công ty công nghệ không tài trợ đúng mức cho nghiên cứu an toàn, đẩy gánh nặng sang cho các nhà khoa học độc lập vốn thiếu dữ liệu và tài chính. Kết quả là bằng chứng nhân quả chất lượng cao không được sản xuất kịp thời, khiến chính phủ yếu thế trong việc quản lý — từ đó càng làm giảm động lực đầu tư cho nghiên cứu an toàn, khi các công ty được miễn trách nhiệm.

Orben và Matias cho rằng chu trình này cần được tái thiết kế, và họ đã đưa ra những phương án cụ thể để thực hiện điều đó.

---

Báo cáo tác hại công nghệ số

Để đẩy nhanh việc nhận diện các tác hại do công nghệ số gây ra, các nhà hoạch định chính sách hoặc tổ chức xã hội dân sự có thể thiết lập hệ thống đăng ký báo cáo sự cố, và khuyến khích người dân cung cấp bằng chứng khi gặp phải tác hại. Phương pháp tương tự đã được áp dụng trong các lĩnh vực như độc học môi trường - nơi người dân báo cáo tình trạng ô nhiễm nguồn nước, hoặc các chương trình báo cáo tai nạn xe hơi nhằm cải thiện an toàn giao thông.

Matias khẳng định rằng chúng ta không được gì khi nói với mọi người rằng kinh nghiệm sống của họ không đáng tin chỉ vì thiếu bằng chứng — nhất là khi các bằng chứng đó chưa bao giờ được hệ thống hóa. Các cơ sở dữ liệu hiện có, từ hồ sơ tử vong đến các hệ thống ghi nhận bạo lực gia đình, cũng có thể được mở rộng để bổ sung thông tin liên quan đến công nghệ số như AI.

Các tác giả bài viết còn đề xuất một hệ thống “bằng chứng tối thiểu khả thi”, trong đó các nhà hoạch định chính sách và giới nghiên cứu có thể điều chỉnh “ngưỡng bằng chứng” cần thiết để chứng minh tác hại công nghệ trước khi thử nghiệm can thiệp. Ngưỡng này có thể được xác lập bởi hội đồng gồm các cộng đồng bị ảnh hưởng, đại diện công chúng, hoặc các “toà án khoa học” — nhóm chuyên gia đưa ra các đánh giá nhanh về những tác động của công nghệ số.

Theo Orben, bằng chứng nhân quả về tác hại công nghệ thường được yêu cầu trước khi các nhà thiết kế và nhà khoa học được phép thử nghiệm biện pháp can thiệp nhằm xây dựng một xã hội số an toàn hơn. Tuy nhiên, việc thử nghiệm can thiệp cũng có thể giúp khám phá cách hỗ trợ cá nhân và xã hội, đồng thời xác định chính xác tác hại tiềm tàng. Chúng ta cần chuyển từ hệ thống tuần tự sang hệ thống linh hoạt, đồng thời.

Trong hệ thống bằng chứng tối thiểu khả thi, nếu một công ty cản trở hoặc không hỗ trợ nghiên cứu độc lập, và không minh bạch về các kiểm định an toàn nội bộ, thì mức bằng chứng cần thiết để bắt đầu can thiệp sẽ được giảm bớt. Orben và Matias cũng gợi ý học hỏi từ mô hình thành công của “Hóa học Xanh”, trong đó một tổ chức độc lập giữ danh sách các sản phẩm hóa học được xếp hạng theo mức độ nguy hại, giúp thị trường định hướng phát triển các lựa chọn an toàn hơn.

Orben cho răng phương pháp và nguồn lực khoa học hiện có để tạo lập bằng chứng hoàn toàn không đủ để theo kịp tốc độ phát triển của công nghệ số. Giới khoa học và các nhà hoạch định chính sách cần thừa nhận những thất bại của hệ thống hiện tại và chung tay kiến tạo một hệ thống tốt hơn, trước khi kỷ nguyên AI khiến xã hội ngày càng dễ tổn thương bởi sự thay đổi công nghệ không được kiểm soát.

Matias bổ sung: Khi khoa học về tác động của công nghệ mới vận hành quá chậm, tất cả chúng ta đều là người thua cuộc.