Công cụ phát hiện deepfake có thể giúp, nhưng không cho câu trả lời chắc chắn. Kết quả của chúng là một ước đoán dạng xác suất, có thể báo nhầm ảnh thật là giả và bỏ sót ảnh giả, nhất là với ảnh, video đã bị nén, cắt, chụp lại màn hình như hầu hết nội dung lan trên mạng. Vì vậy hãy coi kết quả công cụ là một dấu hiệu trong nhiều dấu hiệu, không bao giờ là bằng chứng duy nhất để kết luận hay buộc tội ai.
Bài này giải thích ở mức người dùng phổ thông các công cụ này làm việc thế nào, vì sao chúng sai, và cách dùng kết quả cho có ích. Bài không giới thiệu hay xếp hạng công cụ cụ thể nào, vì danh sách thay đổi nhanh và nhiều công cụ đánh giá chưa được kiểm chứng độc lập.
Các công cụ phát hiện hoạt động thế nào
Phần lớn công cụ phát hiện là những mô hình trí tuệ nhân tạo được huấn luyện để phân biệt nội dung thật và nội dung do máy tạo. Người làm công cụ đưa cho mô hình rất nhiều ví dụ hai loại, mô hình học ra những đặc điểm thống kê khác nhau: cách các điểm ảnh sắp xếp, nhiễu ảnh, chuyển động khuôn mặt, đặc trưng tần số của âm thanh. Khi gặp nội dung mới, mô hình so với những gì đã học và đưa ra một con số, kiểu "khả năng do AI tạo: 80 phần trăm".
Một nhóm khác không đoán, mà đọc dấu: một số công cụ tạo nội dung nhúng thông tin nhận diện vào tệp, có thể là siêu dữ liệu ghi rõ nguồn gốc theo các chuẩn chung về nguồn gốc nội dung số, hoặc thuỷ vân ẩn không nhìn thấy bằng mắt. Công cụ đọc dấu cho kết quả chắc chắn hơn khi tìm thấy dấu, nhưng không tìm thấy dấu thì không nói lên được gì, vì nội dung có thể được tạo bởi công cụ không gắn dấu, hoặc dấu đã bị xoá.
Ngoài hai nhóm trên còn có những công cụ phân tích thủ công dành cho người làm nghề, như xem mức độ nén khác nhau giữa các vùng trong ảnh, phân tích bóng đổ và ánh sáng, xem từng khung hình của video. Những phương pháp này đòi hỏi kinh nghiệm để đọc kết quả, và người không chuyên rất dễ thấy "bất thường" ở những chỗ hoàn toàn bình thường. Người dùng phổ thông không nên tự dùng chúng để kết luận.
Hiểu hai nhóm này giúp đọc đúng kết quả. Công cụ đoán cho xác suất, có thể sai. Công cụ đọc dấu cho câu trả lời có hoặc không, nhưng chỉ đúng trong phạm vi những nội dung được gắn dấu.
Vì sao công cụ phát hiện hay sai
Nội dung bị nén và biến đổi. Ảnh, video trên mạng xã hội đã bị nén nhiều lần, bị cắt, thêm chữ, chụp lại màn hình. Những dấu vết thống kê mà công cụ dựa vào bị xoá hoặc làm nhiễu. Một ảnh AI qua ba lần chuyển tiếp có thể bị chấm là thật.
Công cụ tạo mới đi trước công cụ phát hiện. Mô hình phát hiện học từ nội dung của các công cụ tạo đã có. Khi công cụ tạo mới ra đời, đặc điểm của nó chưa có trong dữ liệu huấn luyện, nên bị bỏ sót. Đây là cuộc đua mà bên phát hiện luôn chậm hơn một bước.
Ảnh thật bị chấm là giả. Ảnh chụp bằng điện thoại đời mới đã qua nhiều lớp xử lý tự động như làm mịn da, tăng nét, chế độ chụp đêm ghép nhiều khung. Những ảnh này có thể bị công cụ đánh giá là "có dấu hiệu AI". Ảnh chỉnh sửa nhẹ, ảnh có bộ lọc cũng vậy.
Kết quả thay đổi giữa các công cụ. Cùng một bức ảnh, công cụ này nói 90 phần trăm giả, công cụ khác nói 20 phần trăm. Không có công cụ nào là chuẩn để so.
Con số trông chính xác hơn thực tế. Kết quả "87 phần trăm" tạo cảm giác khoa học, nhưng con số đó chỉ là mức tự tin của mô hình với dữ liệu nó từng thấy, không phải xác suất thật sự rằng nội dung là giả.
Âm thanh qua điện thoại càng khó. Giọng nói qua cuộc gọi bị nén mạnh, có tiếng ồn, nên công cụ phát hiện giọng tổng hợp hoạt động kém hơn nhiều so với khi thử trên tệp ghi âm chất lượng cao.
Đọc kết quả công cụ cho đúng
Bảng sau gợi ý cách hiểu từng loại kết quả, giả sử bạn đang kiểm một bức ảnh lan truyền về một sự việc. Con số trong bảng chỉ là ví dụ giả định để minh hoạ.
| Kết quả công cụ | Không nên hiểu là | Nên hiểu là |
|---|---|---|
| Khả năng AI cao, ví dụ 90 phần trăm | Chắc chắn là ảnh giả, có thể buộc tội người đăng | Đáng nghi, cần tìm nguồn gốc và đối chiếu thêm |
| Khả năng AI thấp, ví dụ 10 phần trăm | Chắc chắn là ảnh thật, có thể chia sẻ | Công cụ không thấy dấu hiệu; ảnh vẫn có thể là thật bị gán sai hoặc giả tinh vi |
| Khoảng giữa, ví dụ 50 phần trăm | Một nửa thật, một nửa giả | Công cụ không biết; bỏ qua kết quả này |
| Tìm thấy dấu nguồn gốc ghi do AI tạo | Nội dung sai sự thật | Nội dung được tạo bằng AI; còn cần xem nó được dùng để nói điều gì |
| Không tìm thấy dấu nguồn gốc | Nội dung thật | Không có thông tin; phần lớn nội dung trên mạng đều không có dấu |
Điểm chung: kết quả công cụ chỉ thay đổi mức độ nghi ngờ, không thay thế được việc hỏi "ai đăng, đăng lần đầu ở đâu, có nguồn nào khác xác nhận không". Đó là các câu hỏi mà mọi người làm kiểm chứng chuyên nghiệp đều đặt trước khi dùng tới công cụ.
Cách dùng công cụ phát hiện như một bước trong quy trình
Nếu bạn muốn dùng công cụ, hãy đặt nó đúng chỗ trong quy trình kiểm chứng. Các bước dưới đây áp dụng cho ảnh và video lan truyền.
- Kiểm nguồn trước: ai đăng, khi nào, có ghi là ảnh minh hoạ hay ảnh AI không.
- Tìm bản gốc tốt nhất có thể bằng tìm kiếm hình ảnh: bản có độ phân giải cao nhất, xuất hiện sớm nhất. Công cụ phát hiện cho kết quả có ý nghĩa hơn với bản gốc so với ảnh chụp màn hình.
- Nếu dùng công cụ, thử với hai hoặc ba công cụ khác nhau và ghi lại kết quả của từng công cụ, không chọn kết quả mình thích.
- Đối chiếu kết quả với các dấu hiệu khác: chi tiết bất thường trong ảnh, sự kiện có được nguồn chính thức nhắc tới không, có ảnh khác góc không.
- Kết luận theo tổng thể. Khi trình bày với người khác, nói rõ mức độ chắc chắn: "nhiều dấu hiệu cho thấy", "chưa xác định được", thay vì "công cụ nói là giả".
- Không dùng kết quả công cụ để công kích một người cụ thể. Nếu nghi ai đó tung ảnh giả gây hại, hãy báo cáo với nền tảng hoặc cơ quan chức năng.
Với người dùng phổ thông, phần lớn trường hợp không cần đến công cụ: chỉ cần bước kiểm nguồn và đối chiếu kênh chính thức là đủ để quyết định có chia sẻ hay không.
Những hướng đi khác ngoài "phát hiện"
Vì phát hiện sau khi nội dung đã được tạo luôn khó, nhiều tổ chức công nghệ và báo chí chuyển sang hướng ngược lại: chứng minh nội dung thật thay vì bắt nội dung giả. Ý tưởng là máy ảnh, điện thoại, phần mềm biên tập ghi lại thông tin nguồn gốc ngay từ lúc chụp và qua mỗi lần chỉnh sửa, theo một chuẩn chung mà nhiều bên cùng đọc được. Người xem có thể kiểm nội dung đến từ đâu, đã bị sửa những gì.
Hướng này có ích nhưng chưa phổ biến. Phần lớn điện thoại và nền tảng mạng xã hội chưa ghi hoặc chưa hiển thị đầy đủ thông tin nguồn gốc, và thông tin có thể mất khi nội dung bị chụp lại màn hình. Trong vài năm tới, người dùng vẫn sẽ phải dựa nhiều vào thói quen kiểm nguồn hơn là vào công nghệ.
Một hướng khác là gắn nhãn: các nền tảng yêu cầu người đăng khai báo nội dung do AI tạo, hoặc tự động gắn nhãn khi đọc được dấu. Nhãn giúp người xem, nhưng không đầy đủ, vì người có ý lừa sẽ không tự khai. Cách đọc nhãn cho đúng là một chủ đề riêng.
Đừng để công cụ thay cho câu hỏi đầu tiên
Một thói quen dễ hình thành khi công cụ phát hiện phổ biến là: thấy ảnh lạ, tải lên công cụ, đọc con số, rồi quyết định. Thói quen này bỏ qua câu hỏi quan trọng nhất là nội dung này đến từ đâu. Một bức ảnh do chính cơ quan khí tượng đăng trên trang chính thức không cần qua công cụ nào. Một bức ảnh không rõ nguồn, đi kèm lời kêu gọi chuyển tiền, cũng không cần công cụ để quyết định là không làm theo.
Công cụ chỉ thật sự có ích ở vùng xám: nguồn không rõ ràng, sự kiện có thật nhưng một bức ảnh cụ thể bị nghi là dựng thêm, hoặc bạn cần thêm một dấu hiệu để quyết định có đính chính công khai hay không. Ngoài vùng đó, thời gian dành cho công cụ nên được dùng để tìm nguồn.
Khi nào cần đến chuyên gia
Phần lớn nội dung người phổ thông gặp không cần chuyên gia; kiểm nguồn là đủ. Nhưng có những trường hợp kết quả kiểm chứng có hậu quả lớn: một đoạn ghi âm được dùng làm chứng cứ trong tranh chấp, một video gây tổn hại danh dự của bạn hoặc doanh nghiệp, một tài liệu được đưa ra trong vụ việc pháp lý.
Trong các trường hợp này, đừng tự kết luận bằng công cụ trực tuyến miễn phí. Kết quả của chúng không có giá trị chứng minh và có thể bị phản bác dễ dàng. Hãy giữ nguyên bản gốc của tệp, không chỉnh sửa, ghi lại nơi và thời điểm nhận được, rồi hỏi luật sư hoặc cơ quan có thẩm quyền về việc trưng cầu giám định. Việc giám định kỹ thuật số do tổ chức có chức năng thực hiện theo quy trình riêng.
Với báo chí và tổ chức kiểm chứng, công cụ phát hiện là một phần trong bộ đồ nghề, luôn đi kèm phỏng vấn nguồn, đối chiếu tài liệu và kiểm tra hiện trường. Người dùng phổ thông có thể học theo tinh thần đó: không để một con số từ máy thay cho phán đoán của mình.
Câu hỏi thường gặp
Công cụ báo ảnh của mình là AI dù mình tự chụp thì phải làm sao?
Điều này khá thường gặp với ảnh chụp bằng điện thoại có nhiều xử lý tự động hoặc ảnh đã chỉnh sửa. Nếu cần chứng minh, hãy giữ tệp gốc trong điện thoại, các ảnh chụp liên tiếp cùng lúc, thông tin thời gian và địa điểm trong tệp. Những thứ này thuyết phục hơn kết quả của bất kỳ công cụ nào.
Có công cụ nào phát hiện được giọng giả trong cuộc gọi đang diễn ra không?
Một số hãng đã thử nghiệm tính năng cảnh báo cuộc gọi nghi giả giọng, nhưng chưa phổ biến và chưa chính xác tuyệt đối. Với cuộc gọi xin tiền hoặc thông tin, thói quen cúp máy và gọi lại số đã lưu vẫn đáng tin hơn mọi công cụ.
Kết quả công cụ có dùng làm bằng chứng tố cáo được không?
Kết quả từ công cụ trực tuyến thường chỉ có giá trị tham khảo. Khi cần chứng cứ cho vụ việc, hãy giữ nguyên tệp gốc và đề nghị cơ quan có thẩm quyền trưng cầu giám định. Việc công kích người khác dựa trên kết quả công cụ có thể gây rắc rối pháp lý cho chính bạn.
Thuỷ vân AI có xoá được không?
Tuỳ loại. Siêu dữ liệu ghi nguồn gốc rất dễ mất khi chụp lại màn hình hoặc gửi qua ứng dụng nén ảnh. Thuỷ vân ẩn được thiết kế để bền hơn, nhưng cũng có thể bị làm yếu khi ảnh bị chỉnh sửa mạnh. Vì vậy không thấy dấu không có nghĩa là nội dung thật.
Trẻ em và học sinh có nên tập dùng công cụ phát hiện không?
Có thể dùng để thảo luận trong lớp về giới hạn của công nghệ: cho học sinh thử cùng một ảnh trên vài công cụ và so kết quả khác nhau. Bài học quan trọng không phải là cách dùng công cụ, mà là hiểu vì sao không nên tin tuyệt đối vào một con số.
Sau này công cụ có chính xác hoàn toàn không?
Khó có khả năng đó, vì công cụ tạo và công cụ phát hiện liên tục cải tiến để vượt nhau. Hướng ghi nguồn gốc nội dung từ lúc tạo có thể giúp nhiều hơn về lâu dài, nhưng vẫn cần thói quen kiểm nguồn của người dùng.