Công cụ ngăn người dùng tự tử của Facebook gây tranh cãi giữa các chuyên gia công nghệ và y tế

Facebook biết một làn sóng rắc rối mới đang bủa vây họ khi hàng loạt người dùng sử dụng nền tảng mạng xã hội này để phát trực tiếp cảnh họ tự tử trong thời gian thực.

Các nhân viên công ty đã bắt đầu nghĩ đến vấn đề về các nội dung liên quan đến tự làm tổn thương bản thân và tự sát từ năm 2009, khi một vài vụ nhỏ lẻ xảy ra ở hai trường trung học phổ thông gần trụ sở công ty tại Palo Alto. Sau đó, vấn đề tạm lắng xuống do gia đình yêu cầu giữ gìn quyền riêng tư cho các nạn nhân. Dù vậy, sau khi công ty chính thức công bố một công cụ phát trực tiếp video có tên “Facebook Live”, đã có một số người sử dụng nó để phát công khai cảnh họ tự kết liễu cuộc sống của mình. Đầu tiên là một cô bé mới chỉ 14 tuổi, và sau đó là đến một người đàn ông ở độ tuổi 33, cả hai đều đang sinh sống tại Hoa Kỳ. Mùa thu năm đó, một người đàn ông ở Thổ Nhĩ Kỳ cũng sử dụng công cụ này để phát trực tiếp những phút cuối của đời mình trước khi tự sát.

Facebook, dưới sự lãnh đạo của CEO Mark Zuckerberg, chỉ thị cho bộ phận phụ trách các vấn đề an toàn và bảo mật của công ty phải có giải pháp cho tình trạng trên.

Kết quả của những nỗ lực đó là một thuật toán giám sát hành vi tự tử do Facebook phát triển, bắt đầu được triển khai từ năm 2017 và đã nhanh chóng gửi yêu cầu tới các nhân viên xử lý tình trạng khẩn cấp đối với hơn 3500 trường hợp tính tới mùa thu năm ngoái, theo những công bố mới nhất của công ty.

Sử dụng công nghệ nhận dạng hành vi, công cụ này giúp nhận diện các bài đăng và các đoạn video phát trực tiếp cho thấy ý định tự tử của người dùng. Nó quét nội dung các bài viết cùng với các bình luận đi kèm, chẳng hạn như “ Bạn có ổn không? ” Khi một bài đăng được đánh giá là có khả năng dẫn đến một vụ tự tử, công cụ này sẽ chuyển bài viết đó cho một điều phối viên nội dung và tiếp đến là một nhân viên được đào tạo chuyên nghiệp, có nhiệm vụ thông báo cho các lực lượng ứng phó tình trạng khẩn cấp.

CEO Facebook, Mark Zuckerberg. Facebook đã xây dựng một công cụ giám sát hành vi tự tử có khả năng gửi yêu cầu hỗ trợ tới các lực lượng xử lý tình trạng khẩn cấp, và công cụ này đã được sử dụng trong hơn 3500 trường hợp.

John Torous, bác sĩ tâm thần và cố vấn công nghệ tại Đại học Harvard, Hoa Kỳ, cho biết ông mới chỉ biết đến sự tồn tại của công cụ này hồi năm ngoái, thông qua một nhà báo. Song ông bày tỏ lo ngại công cụ này sẽ rơi vào tình trạng “lợi bất cập hại”.

“Công chúng chúng ta đang gián tiếp tham gia vào một cuộc thí nghiệm khổng lồ”

Video đang HOT

Đó là điều mà vị chuyên gia này đã nói với phóng viên chuyên trang Business Insider hồi tuần trước.

Torous đã dành nhiều năm cộng tác với các gã khổng lồ công nghệ như Microsoft trong hoạt động nghiên cứu khoa học. Lý do ông chưa từng nghe tới thuật toán giám sát hành vi tự tử của Facebook là bởi vì mạng xã hội này không chia sẻ thông tin về công cụ trên đối với các nhà nghiên cứu như ông, hoặc đối với cộng đồng y khoa và khoa học nói chung.

Trên thực tế, Facebook chưa từng công bố bất kỳ dữ liệu nào về cách thức công cụ này hoạt động. Quan điểm của công ty là công cụ này không phải là một sản phẩm chăm sóc sức khoẻ người dùng hay một sáng kiến khoa học gì, mà chỉ là công cụ giúp liên hệ với những người/ cơ quan hữu quan để trợ giúp cho các trường hợp có ý định tự tử ở nơi công cộng.

“ Chúng tôi đang kinh doanh dựa trên nhiệm vụ kết nối người dùng trong các cộng đồng với nhau. Chứ chúng tôi không cung cấp dịch vụ chăm sóc sức khoẻ tâm thần, ” Antigone Davis, Trưởng bộ phận toàn cầu của Facebook về các vấn đề an toàn, đã từng tuyên bố như vậy với phóng viên Business Insider .

Nhưng nếu không có các thông tin công khai về công cụ này, Torous cho biết những câu hỏi lớn liên quan đến công cụ giám sát hành vi tự tử của Facebook sẽ không thể trả lời được. Ông lo ngại công cụ này sẽ bị lạm dụng bởi những người “đáng ra không nên vận hành nó”, khiến cho mọi người ngại thảo luận thẳng thắn về các vấn đề sức khoẻ tâm thần trên nền tảng mạng xã hội này, gây leo thang hoặc thậm chí tạo ra một cuộc khủng hoảng về sức khoẻ tâm thần không đáng có.

Tóm lại, Torous cho rằng việc Facebook sử dụng công cụ này đem đến nhiều nguy cơ hơn là lợi ích.

“ Các cơ sở nghiên cứu hàn lâm và các công ty công nghệ có thể đưa ra những ý kiến khác nhau về hiệu quả hoạt động của công cụ này. Nhưng bạn lại không được tiếp cận những bằng chứng cụ thể để thực hiện việc đối chiếu, kiểm tra chéo, ” Torous nói. “ Đây là một điều đáng lo ngại “.

Bác sĩ và các công ty công nghệ bất đồng về định nghĩa của việc “nghiên cứu sức khoẻ”

Công cụ theo dõi hành vi tự tử của Facebook chỉ là một ví dụ về hàng rào đang ngăn cách giữa lĩnh vực công nghệ và chăm sóc sức khoẻ. Một loạt các sản phẩm và dịch vụ – chẳng hạn như đồng hồ thông minh Apple Watch, trợ lý ảo Alexa của Amazon, hay thậm chí là các app giúp người dùng học thiền – đã góp phần thu hẹp khoảng cách giữa những tiến bộ về y tế và sự phát triển của công nghệ. Có hai làn sóng khác nhau đang diễn ra: Các bác sĩ thì nhìn ra những nguy cơ. Còn lãnh đạo các công ty công nghệ thì nhận thấy tiềm năng mang tính cách mạng.

“ Dường như có một giả định ngầm rằng các công ty công nghệ tham gia cuộc chơi với những bộ quy tắc khác với chúng tôi, ” Torous nói.

Tại Facebook, bộ phận an toàn và an ninh đã từng trao đổi với một số tổ chức phi lợi nhuận hoạt động trong việc ngăn chặn một số vụ tự tử, trong đó có ông Daniel Reidenberg, người sáng lập trang web Save.org. Reidenberg chia sẻ với chuyên trang Business Insider rằng ông đã giúp đỡ Facebook thiết lập một hệ thống giải pháp thông qua việc chia sẻ những trải nghiệm của bản thân, giúp Facebook gặp gỡ với những người đã từng phải vật lộn với ý nghĩ tự tử, và đề nghị họ chia sẻ điều gì đã giúp họ vượt qua khoảng thời gian khó khăn đó.

Reidenberg nói rằng ông nghĩ Facebook đang làm khá tốt công việc ngăn chặn hành vi tự tử, nhưng vì còn rất nhiều điều chưa được nghiên cứu hết, nên ông cho rằng luôn có những vấn đề mới nảy sinh hàng ngày. Ông không đồng tình với quan điểm của Torous rằng đây là nhiệm vụ của các nhà nghiên cứu về sức khoẻ.

“ Chưa có bất kỳ công ty nào có những bước tiến táo bạo trong lĩnh vực này [như Facebook đâu], ” Reidenberg cho hay.

Dù vậy, hiện vẫn chưa rõ công cụ giám sát hành vi tự tử của Facebook hoạt động như thế nào. Do các vấn đề về quyền riêng tư của nạn nhân, các lực lượng xử lý tình trạng khẩn cấp không thể chia sẻ với Facebook cụ thể về những gì đã diễn ra trên hiện trường vụ việc, Davis cho hay. Nói cách khác, lực lượng xử lý tình trạng khẩn cấp không thể thông báo lại cho Facebook rằng họ đã đến quá muộn để ngăn chặn một cái chết, đến nhầm địa điểm, hay gặp phải “báo động giả”.

Torous tỏ ra khá hoài nghi về tác dụng thực sự của công cụ giám sát hành vi tự tử. Ông dẫn bằng chứng từ 17 bài nghiên cứu trong đó các nhà khoa học đã phân tích 64 mô hình dự đoán hành vi tự tử khác nhau, và kết luận rằng những mô hình này gần như không giúp ích được gì trong việc dự đoán ý định tự tử của nạn nhân.

“ Chúng tôi biết Facebook đã nỗ lực xây dựng và vận hành công cụ đó, nhưng chúng tôi không thực sự biết được liệu nó có hoạt động chính xác hay không, có cảnh báo nhầm người hoặc cảnh báo quá sớm/ quá muộn hay không, ” Torous phân trần.

Mời các bạn tham gia Group Cộng đồng VnReview để thảo luận và cập nhật tin tức công nghệ cùng cơ hội nhận quà tặng hàng tháng.

Theo Business Insider

Công cụ tìm kiếm của Google tại Trung Quốc lưu trữ cả số điện thoại người dùng Thông tin đáng quan ngại tiếp theo về dự án Dragonfly của Google tiếp tục được The Intercept đăng tải. Một số nguồn tin cho hay, nguyên mẫu công cụ tìm kiếm mà Google xây dựng tại Trung Quốc sẽ lưu trữ cả số điện thoại của người dùng. Tang web 256.com ghi lại năm 2008, trang web được Google mua lại từ...