Xu hướng đáng lo ngại: Dùng ChatGPT đoán địa điểm trong ảnh

Mọi người đang sử dụng các mô hình lý luận mới nhất trên ChatGPT để tìm ra các địa điểm xuất hiện trong ảnh, gây lo ngại về xâm phạm quyền riêng tư.

Tuần này, OpenAI công bố các mô hình AI mới nhất – o3 và o4-mini. Cả hai đều có trang bị khả năng suy luận từ ảnh độc nhất vô nhị. Chúng có thể cắt cúp, xoay, phóng to – dù ảnh mờ hay méo – để phân tích ảnh.

Năng lực này kết hợp với năng lực tìm kiếm web biến chúng thành công cụ tra cứu địa điểm mạnh mẽ. Người dùng nhanh chóng phát hiện o3 khá giỏi trong việc tìm ra các thành phố, địa danh, nhà hàng, quán bar từ các manh mối trực quan.

Khả năng suy luận địa điểm của ChatGPT gây lo ngại. Ảnh: X

Video đang HOT

Trong nhiều trường hợp, các mô hình dường như không dựa vào những cuộc trò chuyện trước đây với ChatGPT hoặc dữ liệu EXIF (siêu dữ liệu gắn với ảnh cung cấp các thông tin như vị trí).

Người dùng đăng nhiều ví dụ minh họa trên X. Trong đó, họ yêu cầu ChatGPT tưởng tượng đang chơi GeoGuesser – tựa game đoán vị trí từ các hình ảnh Google Street View.

Theo trang tin TechCrunch, đây rõ ràng là một vấn đề bảo mật đáng lo ngại. Một người hoàn toàn có thể chụp ảnh lại màn hình bài viết của người khác rồi dùng ChatGPT để tìm ra thông tin như địa chỉ nhà, nơi làm việc. Trong các thử nghiệm của mình, TechCrunch cho biết kết quả có đúng và sai, hoặc không có kết quả. Tuy nhiên, xu hướng cũng thể hiện những rủi ro mới nổi từ các mô hình AI suy luận, trong khi chưa có nhiều hàng rào bảo vệ công cụ trước nguy cơ lạm dụng.

Phản hồi TechCrunch, OpenAI nói khả năng suy luận trực quan của o3 và o4-mini sẽ giúp ích trong các lĩnh vực như nghiên cứu hay xác định địa điểm trong tình huống khẩn cấp. Công ty đã đào tạo mô hình để từ chối những yêu cầu liên quan đến thông tin cá nhân, nhạy cảm, cấm mô hình xác định cá nhân trong ảnh, cũng như chủ động theo dõi, hành động chống lại việc lạm dụng.

Mô hình AI của OpenAI tự động nhận dạng giọng nói và dịch sang tiếng Anh Ngày 21/9, OpenAI phát hành một mô hình AI mã nguồn mở mới có tên là Whisper có thể nhận dạng và dịch âm thanh ở cấp độ tiếp cận với khả năng nhận dạng con người qua giọng nói. Sóng âm thanh. Ảnh minh họa Ars Technica. Theo nhóm phóng viên của Ars Technica, phần mềm mã nguồn mở Whisper có thể...