Những ngày gần đây, người dùng ChatGPT - trợ lý hội thoại trí thông minh nhân tạo (AI) phổ biến do OpenAI phát triển đã phát hiện ra một hiện tượng kỳ lạ. Khi được hỏi về cái tên "David Mayer", ChatGPT từ chối trả lời và bị treo máy ngay lập tức. Vô số nỗ lực để buộc ChatGPT phải viết ra cái tên này đều không thành công. Điều này dẫn đến nhiều giả thuyết trên mạng xã hội về danh tính thực sự của David Mayer và lý do tại sao ChatGPT lại "sợ" cái tên đó đến vậy.
Nhưng cuối cùng OpenAI, công ty phát triển ChatGPT, cuối cùng cũng lên tiếng làm rõ vấn đề. Theo đại diện của OpenAI, việc ChatGPT không thể xử lý cái tên David Mayer là do một lỗi hệ thống. "Một trong những công cụ của chúng tôi đã nhầm lẫn đánh dấu tên này và ngăn nó xuất hiện trong các phản hồi, điều mà lẽ ra không nên xảy ra. Chúng tôi đang nỗ lực khắc phục", OpenAI cho biết.
Hơn thế nữa, đây không phải trường hợp duy nhất. Người dùng phát hiện ra một số tên khác cũng khiến ChatGPT bị treo như Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber và Guido Scorza. Một giả thuyết được đưa ra là các cá nhân này có thể là những nhân vật công chúng hoặc bán công chúng, những người muốn một số thông tin cá nhân của họ bị "lãng quên" bởi các công cụ tìm kiếm hoặc mô hình AI.
Ví dụ, Brian Hood, một thị trưởng người Úc, đã tuyên bố kiện OpenAI vào năm ngoái vì ChatGPT đã nhầm lẫn mô tả ông là thủ phạm của một vụ án từ nhiều thập kỷ trước, trong khi thực tế ông chính là người tố cáo hành vi sai trái của doanh nghiệp. Mặc dù không kiện tụng, vụ việc được giải quyết khi OpenAI đồng ý lọc bỏ các thông tin sai lệch trong thời hạn 28 ngày.
Rất có thể bộ lọc tên cứng đầu tiên trên ChatGPT đã xuất hiện từ đây. Tuy vậy, nhiều thử nghiệm của trang Techcrunch đối với những cái tên khác lại không làm ChatGPT gặp vấn đề gì khi xử lý.
Không chỉ cái tên David Mayer, ChatGPT cũng không thể xử lý nhiều cái tên khác
Trước khi có câu trả lời chính thức từ phía OpenAI, một giả thuyết được trang TechCrunch đưa ra là nhiều khả năng ChatGPT đã được OpenAI áp dụng một bộ lọc từ khóa, không chỉ để đảm bảo chatbot AI này không tạo ra các nội dung sai lệch, gây hại cho mọi người mà còn phải tránh tạo ra các nội dung khiến công ty gặp vấn đề về bản quyền pháp lý.
Tuy vậy, những vấn đề trên cho thấy, một bộ lọc cứng có thể gây ra nhiều bất tiện cũng như rắc rối cho nhiều người dùng khi tên của họ vô tình lại nằm trong bộ lọc. Hơn thế nữa, nó cũng có thể tạo ra lỗ hổng có thể bị lợi dụng trong hệ thống. Chẳng hạn ai đó có thể cố tình chèn tên bị cấm vào nội dung trang web để ChatGPT không thể duyệt và xử lý.
Ngoài ra giả thuyết của TechCrunch, trên nhiều diễn đàn mạng xã hội, cư dân mạng còn suy luận về một thuyết âm mưu cho rằng, cái tên "David Mayer" này có liên quan đến dòng họ Rothschild, vốn nổi tiếng về mức độ giàu có cũng như kín tiếng của mình.
Làm thế nào OpenAI có thể giải quyết những vấn đề này vẫn là câu hỏi mở ở thời điểm hiện tại. Những sự cố này cho thấy chúng ta vẫn đang ở giai đoạn rất sớm trong quá trình phát triển các trợ lý AI, mô hình ngôn ngữ lớn và chatbot, với nhiều cơ hội và lỗ hổng cần khám phá. Nhưng làm thế nào để OpenAI và các công ty khác có thể giải quyết những vấn đề này vẫn là một câu hỏi mở.
Lấy link