Liệu công cụ kiểm tra nội dung AI có đáng tin không, đây là ví dụ

Công cụ AI tạo sinh ra đời kéo theo đó là việc hình thành các công cụ dùng để kiểm tra lại xem những nội dung đang có, liệu có phải là do ai đó dùng công nghệ AI để tạo ra hay không. Cho dù bạn là một nhà văn chuyên nghiệp hay một sinh viên thường xuyên viết luận, có lẽ bạn đã chán việc chạy tác phẩm của mình qua các công cụ kiểm tra nội dung AI, sau đó nhận được kết quả bài viết 100% do AI tạo ra. Trên thực tế, công cụ kiểm tra nội dung AI không phải lúc nào cũng đáng tin cậy và các ví dụ sau đây sẽ chứng minh lý do tại sao.

1. Đoạn văn vừa yêu cầu AI viết

Nếu công cụ kiểm tra nội dung AI chính xác 100%, thì nội dung do ChatGPT tạo ra phải được gắn cờ là 100% do AI tạo ra, đúng không?

Theo thử nghiệm, nội dung của ChatGPT được phát hiện là 70% đến 100% do AI tạo ra. Tuy nhiên, sau một vài lần thử, văn bản do ChatGPT tạo ra cho kết quả là 100% do con người viết.

Ví dụ, tác giả đã yêu cầu ChatGPT viết một đoạn hội thoại về camera của iPhone 15 Pro. Phản hồi được chạy qua ZeroGPT, công cụ phát hiện nội dung ChatGPT, GPT4, AI tiên tiến và đáng tin cậy nhất.

Quả nhiên, ZeroGPT báo cáo rằng văn bản này do con người viết 100%.

Chạy một đoạn văn về camera của iPhone 15 Pro qua ZeroGPT

Vậy nếu nội dung do AI tạo ra có thể được đánh dấu là do con người viết, thì có thể tin tưởng vào kết quả trong tình huống ngược lại không?

2. Moby Dick

Moby-Dick, do Herman Melville viết về những trải nghiệm của ông trên biển, được xuất bản lần đầu tiên vào năm 1851 - rất lâu trước khi AI ra đời. Tác giả đã chạy một đoạn trích nổi tiếng từ chương đầu tiên qua ZeroGPT và nó cho kết quả là 88,24% do AI viết.

Chạy một đoạn trích từ Moby Dick qua một trình phát hiện AI

Mặc dù không thực sự ngạc nhiên về kết quả này, vì các mô hình AI chịu ảnh hưởng của các tác phẩm văn học cổ điển như thế này, nhưng việc văn bản nổi tiếng bị phân loại nhầm là do AI tạo vẫn làm nổi bật một vấn đề quan trọng và cho thấy những công cụ phát hiện nội dung không đáng tin cậy như thế nào.

3. Thông cáo báo chí đầu tiên về iPhone của Apple

Chắc chắn, các mô hình AI được đào tạo trên nhiều loại văn bản, bao gồm cả những tác phẩm văn học cổ điển như Shakespeare và Moby Dick. Mặc dù điều này có thể giải thích tại sao Moby Dick có thể bị xác định nhầm là do AI tạo khi bạn chạy nó qua một công cụ kiểm tra nội dung, nhưng việc một thông cáo báo chí của Apple sẽ được sử dụng để đào tạo một mô hình AI nghe có vẻ vô lý.

Thay vì chạy một thông cáo báo chí mới của Apple qua một công cụ kiểm tra, tác giả đã tìm kiếm trong kho lưu trữ tin tức của Apple và tìm thấy thông cáo báo chí đầu tiên của Apple về iPhone. Tác giả đã dán toàn bộ bản thông cáo báo chí vào ZeroGPT và nó phát hiện tới 89,77% nội dung là do AI tạo ra.

Chạy bản thông cáo báo chí iPhone đầu tiên của Apple qua một công cụ phát hiện AI

Ngoài các tiêu đề và một hoặc hai đoạn văn, phần còn lại của văn bản được cho là do AI tạo.

Nhìn chung, có rất nhiều công cụ phát hiện AI mà bạn có thể thử chạy thử nghiệm. Tuy nhiên, điểm mấu chốt là công cụ phát hiện dò nội dung AI không có tác dụng. Mặc dù điều này có nghĩa là việc phát hiện văn bản do AI tạo ra thậm chí còn khó khăn hơn, nhưng văn bản hoàn toàn do AI viết vẫn có thể được nhận dạng chỉ bằng cách đọc kỹ.