Phát hiện điểm mù trong AI thị giác có thể bị tin tặc tấn công

X cho phép bot AI kiểm chứng thông tin: Cách mạng hay rủi ro tiềm ẩn?

X (trước đây là Twitter), nền tảng xã hội do Elon Musk dẫn dắt, đang mở rộng chương trình Ghi chú cộng đồng (Community Notes) bằng việc cho phép các bot AI tham gia đề xuất ghi chú, một động thái có thể thay đổi cách kiểm tra tin tức trên mạng xã hội.

Khởi đầu như dự án thử nghiệm Birdwatch dưới thời Twitter, Community Notes cho phép người dùng đóng góp thêm ngữ cảnh vào các bài đăng tiềm ẩn sai sót hoặc hiểu nhầm. Các đề xuất này phải nhận đủ lượt đánh giá tích cực từ những người dùng khác, đặc biệt là từ nhóm người vốn có quan điểm khác nhau so với nhau, trước khi chúng được hiển thị công khai bên dưới bài đăng.

X cho phép bot AI đề xuất ghi chú kiểm chứng thông tin, con người vẫn phê duyệt để đảm bảo tính minh bạch - Ảnh: Reuters

Elon Musk đã nhanh chóng ủng hộ hệ thống này như một cách tiếp cận minh bạch và phi tập trung, khác với mô hình kiểm tra thông tin do các tổ chức chuyên nghiệp thực hiện. Kể từ đó, nhiều nền tảng khác như Facebook, YouTube, và TikTok cũng học theo mô hình này.

Ưu điểm của Community Notes là nó được người dùng đánh giá là hữu ích và có tác dụng làm chậm quá trình lan truyền của các bài đăng chứa sai sót. Tuy nhiên, nghiên cứu từ Washington Post và các nguồn khác cho thấy hệ thống vẫn chưa giải quyết được toàn bộ vấn đề rằng chỉ có rất ít ghi chú được phê duyệt, trong khi thông tin sai lệch vẫn lan rộng nhanh chóng.

Mở rộng quy mô kiểm chứng

Tuần này, X công bố bước đột phá, cho phép bot AI viết đề xuất ghi chú. Theo chia sẻ của Keith Coleman - Phó chủ tịch phụ trách sản phẩm của X, con người vẫn là người duyệt ghi chú, đảm bảo chất lượng cuối cùng. Mục đích là tạo ra nhiều ghi chú hơn, xuất hiện nhanh hơn và dành cho nhiều bài đăng hơn.

Ông Coleman cho biết bot AI có ưu thế trong việc truy xuất thông tin nhanh chóng: ví dụ, xác định nguồn gốc video, phát hiện ghi chú từng xuất hiện trước đó, hay tìm nạp thông tin từ nhiều trang web để làm minh chứng.

Để tham gia, các bot phải tuân theo một quy trình nghiêm ngặt bao gồm việc đăng ký và kiểm định chất lượng, trong đó các nhà phát triển bao gồm cả những nhóm nghiên cứu từ MIT, Harvard và Stanford, cần nộp đơn đăng ký thông qua chương trình Ghi chú cộng đồng.

Các bot chỉ được phép đề xuất ghi chú, không có quyền đánh giá hay quyết định nội dung hiển thị. Tất cả các đề xuất đều phải được con người trực tiếp kiểm duyệt theo quy trình hiện hành. Những ghi chú do AI tạo ra sẽ được gắn nhãn rõ ràng để người dùng nhận biết. Ngoài ra, các bot cũng sẽ có hệ thống điểm uy tín, phản ánh qua mức độ đánh giá từ cộng đồng.

Coleman nhấn mạnh: "AI không đánh giá ghi chú. Điều quan trọng là con người phải chịu trách nhiệm, bởi vì AI có thể mắc lỗi, gây ảo giác, mang thiên kiến".

Các rủi ro và thách thức

Một số chuyên gia thông tin sai lệch nhận thấy ý tưởng này có tiềm năng, nhưng đầy thách thức.

Rủi ro lan truyền thông tin sai do bot: Mô hình AI nổi tiếng với việc bịa ra thông tin, hay còn gọi là "ảo giác", điều đáng lo ngại trong kiểm chứng thông tin. Thậm chí Grok, chatbot AI nội bộ của X, cũng có nhiều lần hiểu sai và trả lời không chính xác.

Keith Coleman lưu ý rằng, trong giai đoạn vừa diễn ra, chỉ các bot do con người thiết kế mới được sử dụng. Ông khẳng định sẽ tiếp tục theo dõi kỹ để ngăn chặn tình trạng ghi chú sai sót do AI.

Vấn đề "áp đảo bởi số lượng": Theo báo cáo từ X và các nhóm nghiên cứu, một người kiểm tra thông tin đóng góp hiệu quả nhất từng đưa vào hàng chục nghìn ghi chú, và chỉ một phần trong đó được phê duyệt. Nếu số bot AI tăng nhanh mà số người phê duyệt không đủ, nỗ lực của con người sẽ bị "quá tải".

Giới chuyên môn như Renee DiResta (Đại học Georgetown, Mỹ) cảnh báo cần cơ chế kiểm soát để ngăn tình trạng spam AI. Tuy nhiên, DiResta cũng nhấn mạnh nếu các bot AI được đào tạo bài bản, chúng có thể dùng ngôn ngữ trung lập, tạo ghi chú dễ tiếp thu với mọi thành phần xã hội, tạo ra "điểm chung" quan trọng trong bối cảnh xã hội chia rẽ.

Nguy cơ AI tự trị hóa quá trình: Chuyên gia Alexios Mantzarlis (Cornell Tech) cảnh báo rằng việc thêm bot AI vào chương trình nếu không có khả năng phê duyệt mở rộng sẽ khó mang lại giá trị. Ông lo ngại một ngày nào đó X sẽ buộc lòng để AI tự động phê duyệt ghi chú, biến Community Notes trở thành một "quy trình tự kiểm duyệt AI", mâu thuẫn với mục tiêu ban đầu là duy trì sự giám sát của con người.

Con người vẫn là yếu tố then chốt

Theo ông Keith Coleman, hệ thống mới của X tiếp tục đặt con người ở vị trí trung tâm trong quá trình kiểm chứng thông tin. Người dùng vẫn được khuyến khích tham gia phê duyệt và đánh giá chất lượng các ghi chú do AI đề xuất, nhằm đảm bảo tính chính xác và hạn chế thiên kiến.

Việc X hợp tác với các trường đại học hàng đầu như MIT, Harvard, Stanford và Đại học Washington cho thấy mục tiêu xây dựng một nền tảng kiểm chứng có cơ sở khoa học, minh bạch và đáng tin cậy. Những nghiên cứu liên quan cũng được công bố dưới dạng bản in trước để cộng đồng học thuật có thể theo dõi và phản biện.

Cho phép bot AI tham gia đề xuất ghi chú là một bước tiến quan trọng trong lĩnh vực công nghệ thông tin. Nếu được triển khai hợp lý, AI có thể hỗ trợ hiệu quả trong việc mở rộng phạm vi kiểm chứng và rút ngắn thời gian phản hồi. Tuy nhiên, điều này chỉ thực sự hiệu quả khi có sự kiểm soát nghiêm ngặt. Bot AI cần được quản lý kỹ lưỡng để tránh việc lan truyền thông tin sai lệch, và đội ngũ kiểm duyệt là con người vẫn đóng vai trò then chốt trong việc thẩm định nội dung. Đồng thời, để duy trì lòng tin của người dùng, toàn bộ quy trình cần được giám sát công khai, minh bạch, từ cách ghi chú được tạo ra, gắn nhãn, đến dữ liệu kiểm định ban đầu.

Chỉ khi AI và con người phối hợp chặt chẽ, phân định rõ trách nhiệm và bổ sung cho nhau, hệ thống kiểm chứng thông tin mới có thể đạt hiệu quả cao mà không rơi vào tình trạng lặp lại rối rắm hoặc mất kiểm soát. X đang mở ra một hướng tiếp cận mới rằng kiểm chứng theo hướng mở, minh bạch và phối hợp đa bên. Để hiện thực hóa mục tiêu này, vẫn còn nhiều thách thức phía trước cần được giải quyết.