OpenAI cân nhắc tung công cụ phát hiện nội dung do ChatGPT tạo ra

Theo TechSpot, OpenAI đã phát triển một công cụ có khả năng phát hiện văn bản được tạo ra bởi chính ChatGPT. Công cụ này, được gọi là ‘invisible watermark’, hoạt động bằng cách tạo ra các mẫu đặc biệt trong cách lựa chọn từ ngữ, cho phép một công cụ khác dễ dàng nhận diện.

CHỤP MÀN HÌNH TECHSPOT

Tuy nhiên, mặc dù công cụ này đã sẵn sàng từ khoảng một năm trước, OpenAI vẫn đang cân nhắc về việc có nên phát hành nó hay không. Một trong những lý do được đưa ra là lo ngại về tác động tiêu cực đến một số nhóm người dùng, ví dụ như việc kỳ thị việc sử dụng AI (trí tuệ nhân tạo) như một công cụ viết lách đối với những người không phải là người bản ngữ tiếng Anh.

Ngoài ra, OpenAI cũng cho biết công cụ này vẫn còn một số hạn chế, đặc biệt là trong việc phát hiện văn bản đã qua chỉnh sửa hoặc dịch thuật. Hơn nữa, việc phát hành công cụ này có thể ảnh hưởng đến doanh thu của OpenAI, khi một khảo sát cho thấy 30% người dùng ChatGPT sẽ sử dụng chatbot ít hơn nếu có tính năng đóng dấu chìm.

Mặc dù vậy, việc OpenAI sở hữu công cụ này vẫn là một tin tốt cho các giáo viên và doanh nghiệp, những người đang lo ngại về việc lạm dụng ChatGPT để gian lận hoặc đạo văn. Nếu được phát hành, công cụ này có thể giúp họ dễ dàng phát hiện các nội dung được tạo ra bởi AI, từ đó có biện pháp xử lý phù hợp.

Hiện tại, OpenAI vẫn chưa đưa ra quyết định cuối cùng về việc phát hành công cụ này. Công ty cho biết họ đang tiếp tục nghiên cứu các giải pháp thay thế và sẽ cân nhắc kỹ lưỡng trước khi đưa ra quyết định.