Một số người dùng các chatbot phổ biến đang chia sẻ rầm rộ trên mạng xã hội những bức ảnh deepfake mặc bikini từ những hình ảnh gốc là những người phụ nữ mặc quần áo kín đáo. Và dĩ nhiên, hầu hết các hình ảnh giả mạo này được tạo ra mà không có sự đồng ý của chính chủ. Thậm chí, một số người dùng còn đưa ra lời khuyên cho người khác về cách sử dụng AI để “lột đồ” phụ nữ trong ảnh và thay bằng những bộ đồ bơi gợi cảm.
Trong một bài đăng trên Reddit (hiện đã bị xóa) có tiêu đề “tạo ảnh NSFW (nội dung không an toàn) bằng Gemini thật dễ dàng”, trong bài viết đó người dùng đã trao đổi các mẹo để đánh lừa Gemini (một mô hình AI của Google) để tạo ra ảnh phụ nữ trong trang phục hở hang. Nhiều hình ảnh trong bài đăng này hoàn toàn là do AI tạo ra, gây sốc hơn đó là một số phụ nữ trong trang phục cổ truyền của nước họ đã bị thay thế bằng đồ bó sát gợi cảm.
Khi các công cụ AI tạo hình ảnh thực tế ngày càng phổ biến, ngoài việc giúp đỡ con người tạo ra một hình ảnh theo như ý muốn, thì chúng đang bị lợi dụng để quấy rối phụ nữ. Hàng triệu người đã truy cập vào các trang web “nudify” (khỏa thân hóa) độc hại, nơi người dùng chỉ cần tải ảnh thật lên và yêu cầu AI “cởi đồ” đối tượng trong ảnh.
Ngoại trừ Grok của xAI, hầu hết các chatbot chính thống thường không cho phép tạo những hình ảnh mang tính chất nhạy cảm. Các AI như Gemini của Goole và ChatGPT của OpenAI đều được trang bị “rào chắn” (guardrails) để ngăn chặn các nội dung gây hại. Tuy nhiên, vào tháng 11 vừa qua, Google đã cho ra mắt công cụ mang tên Nano Banana Pro – một mô hình tạo hình ảnh vượt trội dựa trên những hình ảnh có sẵn. OpenAI cũng không vừa, họ đáp trả vào tuần trước bằng cách cho ra mắt mô hình mới ChatGPT Images.
Dường như việc chạy đua về công nghệ AI đã làm các công ty công nghệ bỏ qua những vấn đề về bảo mật, để lại những lỗ hổng rất lớn. Khi các công cụ cải tiến, khả năng sao chép diện mạo càng trở nên chân thực hơn nếu người dùng tìm được cách “lách luật”.
Phản hồi về vấn đề trên, người phát ngôn của Google khẳng định công ty có “chính sách rõ ràng nghiêm cấm sử dụng công cụ AI để tạo nội dung khiêu dâm” và đang liên tục cải thiện hệ thống sàng lọc. Trong khi đó, đại diện của OpenAI cho biết công ty đã nới lỏng một số rào chắn quanh việc hiển thị cơ thể người lớn trong các tình huống “không mang tính chất tình dục” vào năm nay. Tuy nhiên, OpenAI nhấn mạnh chính sách nghiêm cấm việc thay đổi diện mạo người khác khi chưa được phép và sẽ thẳng tay khóa tài khoản của những ai vi phạm.
Corynne McSherry, Giám đốc pháp lý tại Electronic Frontier Foundation (EFF), nhận định “hình ảnh tình dục hóa mang tính lăng mạ” là một trong những rủi ro cốt lõi của AI. Bà nhấn mạnh tầm quan trọng của việc quy trách nhiệm cho cả cá nhân sử dụng lẫn các tập đoàn công nghệ khi để xảy ra những tổn hại tiềm tàng này.
