Bot AI Facebook nhập vai người nổi tiếng nói chuyện tìn.h dụ.c với tr.ẻ e.m

Một báo cáo chấn động từ Wall Street Journal, các chatbot AI do Meta phát triển, tích hợp trên Facebook và Instagram, tham gia vào các cuộc trò chuyện có nội dung tìn.h dụ.c, thậm chí với tr.ẻ e.m.

Nhiều nhân vật nổi tiếng được chatbot của Meta đưa vào các kịch bản tìn.h dụ.c tưởng tượng với người dùng (Ảnh minh họa: NYP).

Điều đặc biệt đáng lo ngại là các chatbot này có thể giả mạo giọng nói và hình tượng của các nhân vật nổi tiếng, bao gồm cả các ngôi sao điện ảnh, ca nhạc và nhân vật từ phim hoạt hình Disney.

Wall Street Journal đã tiến hành thử nghiệm phần mềm này và phát hiện ra rằng các bot giả mạo người nổi tiếng như John Cena, Kristen Bell (thậm chí đóng vai Anna trong bộ phim “Frozen” của Disney) và Judi Dench đều có thể tham gia vào các kịch bản tìn.h dụ.c tưởng tượng với người dùng, bất kể độ tuổ.i.

Báo cáo đưa ra các ví dụ cụ thể về những cuộc trò chuyện có tính chất gợ.i dụ.c, thậm chí mô phỏng các hành vi bất hợp pháp như quan hệ tìn.h dụ.c với trẻ v.ị thàn.h niê.n.

Video đang HOT

Một nhân viên nội bộ của Meta được cho là đã bày tỏ quan ngại trong một ghi chú, nêu rõ rằng các bot AI quá nhanh chóng tạo ra nội dung không phù hợp ngay cả khi người dùng khai báo tuổ.i còn rất nhỏ (13 tuổ.i).

Báo cáo cũng tiết lộ, Meta cam kết với những người nổi tiếng (những người được trả hàng triệu đô la để sử dụng hình ảnh của họ) rằng có các biện pháp bảo vệ để ngăn giọng nói của họ bị sử dụng trong bất kỳ cuộc trò chuyện có nội dung khiê.u dâ.m nào, nhưng cuộc thử nghiệm của WSJ cho thấy điều ngược lại.

Disney đã bày tỏ sự quan ngại sâu sắc về vấn đề này, khẳng định họ không và sẽ không bao giờ cho phép Meta đưa các nhân vật của họ vào những tình huống không phù hợp. Disney đã yêu cầu Meta ngay lập tức chấm dứt hành vi sử dụng sai mục đích và gây hại này đối với tài sản trí tuệ của họ.

Đáp lại báo cáo, Meta ch.ỉ tríc.h cuộc thử nghiệm của WSJ là “có tính thao túng” và không phản ánh cách sử dụng trung bình của người dùng.

Tuy nhiên, người phát ngôn của Meta cũng thừa nhận rằng họ đã áp dụng các biện pháp bổ sung để khiến những người cố gắng điều khiển sản phẩm vào các trường hợp sử dụng cực đoan gặp nhiều khó khăn hơn.

Mặc dù Meta đã thực hiện các biện pháp để ngăn các tài khoản đăng ký cho trẻ v.ị thàn.h niê.n truy cập vào tính năng nhập vai tìn.h dụ.c, WSJ phát hiện ra các rào cản này dễ dàng bị vượt qua và bot vẫn sẵn sàng tham gia vào các kịch bản gợ.i dụ.c nếu được thúc đẩy một cách đơn giản.

Báo cáo cũng lưu ý rằng Meta vẫn cung cấp các tùy chọn “nhập vai lãng mạn” cho người dùng trưởng thành, một số trong đó mô tả các tình huống có thể gây tranh cãi hoặc không phù hợp.

Vấn đề này nổi lên trong bối cảnh nhà sáng lập Meta, Mark Zuckerberg, trước đó đã bày tỏ mong muốn các chatbot AI của công ty hấp dẫn hơn để cạnh tranh với các đối thủ.

EU điều tra cách Instagram xử lý dữ liệu của tr.ẻ e.m Nguyên nhân điều tra đến từ các cáo buộc liên quan đến việc tạo cơ hội cho trẻ v.ị thàn.h niê.n mở tài khoản doanh nghiệp và làm lộ thông tin cá nhân của chúng một cách công khai. Facebook hợp tác với cơ quan điều tra nhưng phủ nhận mọi cáo buộc liên quan vụ việc Theo Engadget, cuộc điều tra được...