Cha đẻ ChatGPT cũng không nhận biết được đoạn văn do AI viết ra

01/02/2023 (16:01:52)

OpenAI mới công bố phần mềm “khắc tinh” ChatGPT, giúp phát hiện văn bản từ siêu AI. Tuy nhiên, số lần công cụ này mắc sai lầm chiếm đến 74%, cho thấy độ tin cậy rất thấp.

Hiện công cụ mới vẫn cần cải tiến và cập nhật thêm. Ảnh: Bloomberg.

Hôm 31/1, OpenAI, công ty đứng sau siêu AI ChatGPT, phát hành công cụ giúp phát hiện văn bản được tạo lập tự động bởi chatbot. Động thái này giúp xoa dịu những tranh cãi xoay quanh việc ChatGPT bị lợi dụng để gian lận, spam và các hành vi trái pháp luật khác.

Xác suất đúng chỉ chiếm 26%

Tuy nhiên, công ty phần mềm cho biết độ chính xác của ứng dụng nhận dạng văn bản AI này không cao. Công cụ này chỉ xác định chính xác 26% văn bản được viết bởi trí tuệ nhân tạo.

Trong khi đó, số lần nhận diện sai, đánh giá nhầm văn bản do người thật viết thành văn của AI chiếm khoảng 9%. “Công cụ này chưa đáng tin cậy và vẫn cần phải cải tiến thêm”, công ty phần mềm cho biết.

Dù vẫn chưa hoàn thiện, phần mềm nhận biết văn bản AI có thể sẽ trở thành một công cụ hữu dụng giúp các nhà giáo dục, tuyển dụng tìm được nguồn của bài viết, đánh giá chính xác khả năng tác giả.

“Tuy không thể nhận toàn bộ đoạn văn do AI viết, chúng tôi tin rằng nó vẫn có thể giúp phân loại, giảm số lượng những văn bản bị đánh lừa là do người viết”, OpenAI khẳng định.

Công cụ "khắc tinh" của ChatGPT có thể phân loại văn bản do AI viết và do người viết một cách tương đối. Ảnh: Ben Tossell.

Theo Wall Street Journal, ChatGPT là một chủ đề được quan tâm gần đây bởi khả năng viết luận, lập trình, sáng tác thơ, viết nhạc… như người thật chỉ trong vài giây. Vào ngày 23/1, Microsoft đã công bố khoản đầu tư nhiều năm vào OpenAI. Theo một người giấu tên trong cuộc, giá trị của khoản đầu tư này được ước tính vào khoảng 10 tỷ USD.

Ngay khi được công bố, ChatGPT đã gây ra tranh cãi vì có thể bị lợi dụng cho những mục đích xấu như lan truyền thông tin sai lệch, spam… Các trường học và chuyên gia giáo dục cũng nhiều lần cảnh báo học sinh có thể dùng chatbot AI này để viết luận hay làm bài tập giúp mình.

Theo Wall Street Journal, với sự xuất hiện của siêu AI, nhiều trường đã cấm học sinh truy cập ChatGPT trong khi một số trường khác tìm cách tích hợp công cụ này vào giáo trình học.

Những hạn chế của phần mềm nhận diện siêu AI

Công ty OpenAI cho biết họ đã cân nhắc đến những ảnh hưởng đến giáo dục khi phát triển một ứng dụng “khắc tinh” của ChatGPT, xác định văn bản là tác giả bởi trí tuệ nhân tạo. “Chúng tôi nhận ra việc nhận biết văn bản do AI viết là một chủ đề quan trọng được các nhà giáo dục quan tâm. Đồng thời, những hạn chế và ảnh hưởng của công cụ này nếu được sử dụng trong lớp học cũng cần được cân nhắc”, đại diện công ty nói.

Theo OpenAI, nhà báo, nhà nghiên cứu, chuyên gia các ngành… đều có thể sử dụng công cụ này để phát hiện những nội dung do AI tạo lập.

ChatGPT gây lo ngại vì khả năng trả lời các câu hỏi của người dùng, viết luận, lập trình... một cách dễ dàng. Ảnh: OpenAI.

Đại diện công ty nói rằng công cụ nhận dạng vẫn chưa vẫn chưa đạt đến độ tin cậy cao đối với các đoạn văn ngắn, trong khi văn bản dài cũng thường xuyên bị dán nhãn sai. Phần mềm này sẽ hoạt động kém hơn với những ngôn ngữ không phải tiếng Anh và chưa thể tin dùng để phát hiện đoạn code do AI lập trình.

Một vấn đề khác của công cụ mới là nó không thể xác định chính xác là do AI hay người viết nếu gặp phải một loạt sự thật hiển nhiên như danh sách thành phố ở Việt Nam, bảng xếp hạng thành phố đông dân nhất… Nguyên nhân là dù cho người viết hay AI viết, kết quả đều giống nhau. Người dùng cũng có thể chỉnh sửa văn bản AI để qua mắt ứng dụng chống AI.

Do đó, câu hỏi liệu công cụ này có thể hoạt động hiệu quả hay không vẫn còn là một vấn đề gây tranh cãi. “Công cụ phân loại của chúng tôi sẽ tiếp tục được cập nhật và huấn luyện thêm. Nhưng chúng tôi vẫn không rõ phần mềm nhận dạng này sẽ có tác dụng về lâu dài hay không”, OpenAI cho biết.

Sau khi nhận được phản hồi từ người dùng, cha đẻ ChatGPT cho biết họ cũng hợp tác với các chuyên gia giáo dục để thảo luận về khả năng ứng dụng và hạn chế của chatbot này.

“Đây là những trao đổi quan trọng để chúng tôi phát hành mô hình ngôn ngữ một cách rộng rãi và an toàn, không gây ảnh hưởng đến các cộng đồng, nhóm người liên quan”, công ty phần mềm khẳng định.

Nhân loại sẽ đối đầu với trí tuệ nhân tạo như thế nào

Trong cuốn sách "Framers - Nhân loại đối đầu nhân tạo", các tác giả nhận định con người vẫn có lợi thế trong thời đại công nghệ.

Thúy Liên

Theo: ZINGNEWS.VN