Là một nhà hoạt động về lĩnh vực truyền thông tầng lớp, Nandini Jammi đã quá quen với việc bị quấy phá trực tuyến, thường là từ các tài khoản vô danh. Nhưng với Jessica thì khác. tài khoản này để hình ảnh người nữ với mái tóc vàng và nụ cười nhãi ranh, đi kèm tiểu sử ngắn: "Nếu bạn là một kẻ bắt nạt, tôi sẽ chống chọi với bạn".
soát lại tin nhắn, Jammi phát hiện Jessica đã gửi cho cô nội dung: "Tại sao bạn chưa xóa thông tin của mình trên một website người lớn? Chỉ mới ba năm thôi".
|
|
Ảnh Deepfake có thể bị lợi dụng để quấy rối hoặc lừa đảo. Ảnh: CNN . |
ngụ ý tuồng như rõ ràng. "Jessica" tuyên bố đang có thông tin "đáng mắc cỡ" từ hồ sơ hẹn hò trực tuyến cũ về Jammi. Đồng sáng lập của Sleeping Giants - nhóm chuyên ngăn chặn các lăng xê có nội dung phân biệt đối trên Internet - nói với CNN rằng cô không bao giờ dùng account hò hẹn trực tuyến.
Tuy nhiên, điều khiến Jessica dị biệt với những người dùng Twitter khác là "người nữ giới tóc vàng mỉm cười" trong ảnh hồ sơ của tài khoản này tuồng như chưa từng tồn tại. Một số chuyên gia về AI đã xem hình ảnh và kết luận rằng, nó được tạo bởi AI một cách tinh vi, bằng cách kết hợp rất nhiều khuôn mặt với nhau, hay còn gọi là Deepfake.
Deepfake đã phát triển rất nhanh những năm qua, cho phép tạo ra video hoặc hình ảnh không có thật hoặc cắt ghép một nhân vật nức danh nào đó. Nhưng những khuôn mặt giả mạo như Jessica cho thấy hình ảnh tạo bởi AI đang trở thành thật đến mức khó phân biệt.
Vấn nạn Deepfake đang trở nên rất đáng lo ngại. Tháng 12 năm ngoái, Facebook cho biết đã gỡ nhiều trương mục dùng khuôn mặt do AI tạo ra. Những trương mục này là một phần của mạng lưới tin giả dùng để ủng hộ Tổng thống Donald Trump và chống lại chính phủ Trung Quốc.
Cũng trong năm 2019, trong báo cáo "Đánh giá mối đe dọa toàn cầu", tình báo Mỹ cũng cảnh báo "các đối thủ có thể đang nuốm dùng công nghệ máy học và học sâu để tạo nên các tập tin hình ảnh, âm thanh và video giả mạo nhằm tăng cường các chiến dịch chống lại Mỹ và đồng minh" trên Internet.
Deepfake siêu thực về Jeff Bezos và Elon Musk.
Không chỉ Jammy, Jessica còn gửi đi tài liệu chứa hồ sơ hẹn hò online của EJ Gibney, một nhà nghiên cứu độc lập. Hè năm ngoái, Gibney bắt đầu ghi lại màng lưới các tài khoản, bao gồm cả Jessica, đang khuấy rối anh và các nhà hoạt động từng lớp mà anh quen biết. Hai chuyên gia được CNN mời về phân tích các tài khoản này, kết luận rằng có chứng cứ cho thấy rất nhiều hình ảnh đăng lên được tạo bằng AI.
Hany Farid, Giáo sư tại Đại học California ở Berkeley đã chỉ vào một chiếc khuyên "rất méo" trên tai trái của Jessica, đồng thời phát hiện phần mắt trái và mắt phải trên khuôn mặt này không nhất quán. Jeff Smith, Phó giám đốc trọng điểm Pháp y Truyền thông nhà nước tại Đại học Colorado ở Denver (Mỹ), cũng nhận thấy ảnh bị vênh so với khuôn mặt một người thường nhật. Thậm chí, Siwei Lyu, Giáo sư khoa học máy tính tại Đại học Bang New York ở Albany, còn xây dựng một hệ thống phát hiện ảnh dàn dựng và nhận thấy "tỷ lệ rất cao" hình ảnh của Jessica đã được tạo ra bằng AI.
Gibney đã "report" lên Twitter tháng 7 năm ngoái. Mạng xã hội này sau đó xác nhận đã xóa khoảng 50 trương mục. Điều ngạc nhiên là tuốt luốt được điều hành chỉ bởi một người.
Dù có thể gây nguy hiểm, những bức ảnh Deepfake dễ dàng tìm thấy trên Internet. Phil Wang, cựu kỹ sư phần mềm tại Uber, đã tạo ra một website có tên "This person does not exist" (tạm dịch: Người này không tồn tại). Mỗi khi truy cập, người dùng sẽ thấy một khuôn mặt mới trông rất giống người thật. hẳn nhiên, khuôn mặt này được tạo bởi AI.
Chia sẻ với CNN , Wang muốn phê duyệt website để mọi người thấy những gì công nghệ có thể làm. "Bằng cách phơi bày những khuôn mặt mạo này, tôi hy vọng website sẽ là liều vắc-xin chống lại cuộc tiến công của deepfake trong tương lai", Wang nói.
Thực tế, trên Internet không thiếu các website hao hao của Wang. Mọi người có thể tải các hình ảnh để đùa vui, nhưng không ít dùng cho các mục đích khác và điều này đặt ra thách thức lớn cho những mối đe dọa tiềm tàng trong tương lai. "Việc xây dựng Deepfake rất quan trọng, nhất là trong lĩnh vực nghiên cứu. Nhưng các nhà khoa học cũng cần nghĩ đến các hậu quả do công nghệ này tạo ra", Nathaniel Gle Rich, chuyên gia của Facebook, nêu ý kiến.
Trong khi đó, Wang lo ngại việc mạo sẽ không dừng lại ở hình ảnh. "Deepfake chỉ là phần nổi của tảng băng chìm", Wang nói. "Đến một ngày, công nghệ có thể còn mạo việc tổng hợp mạch lạc một văn bản, ngôn ngữ của người nhà, thậm chí cả video mạo. Những công ty AI nên phân bổ thời kì nghiên cứu tác hại của những hình thức giả mạo này và đưa ra hướng giải quyết hợp lý".
Bảo Lâm (theo CNN )
0 nhận xét:
Đăng nhận xét