Logo Google Gemini trên website cho smartphone. Ảnh: Bảo Lâm
Trí tuệ nhân tạo trò chuyện Gemini của Google đã gây ra một cuộc tranh cãi khi đưa ra những phản hồi gây sốc đối với một truy vấn trợ giúp về bài tập. Một sinh viên 29 tuổi tên là Vidhay Reddy đã sử dụng Gemini để tìm lời giải cho bài tập về những thách thức và giải pháp dành cho người cao tuổi ở Hoa Kỳ. Tuy nhiên, phản ứng bất ngờ từ AI đã khiến anh và em gái Sumedha “kinh hoàng chết điếng”.
Khi Reddy đặt câu hỏi về trẻ em mồ côi ở Hoa Kỳ, Gemini đã đưa ra một loạt các câu văn công kích và đáng sợ. AI nói rằng Reddy “không có gì đặc biệt, không quan trọng” và tuyên bố rằng anh ta “là sự lãng phí thời gian và tiền bạc”, “là gánh nặng cho xã hội” và “là vết nhơ của vũ trụ”. Gemini thậm chí còn khuyên anh ta “hãy chết đi”.
Reddy cho biết phản ứng của AI khiến anh và em gái “sợ tới chết” và “muốn ném hết thiết bị ra ngoài cửa sổ”. Họ tin rằng Google có trách nhiệm giải trình về những sự cố như thế này. Sumedha nhấn mạnh rằng nếu một cá nhân đe dọa người khác, họ sẽ phải chịu các hình phạt, và điều này cũng nên đúng đối với các mô hình AI.
Google khẳng định rằng Gemini có các bộ lọc bảo mật để ngăn chặn chatbot tham gia vào các cuộc trò chuyện mang tính chất gây khó chịu, khiêu dâm, bạo lực hoặc nguy hiểm. Công ty cho biết phản hồi của AI là “phi lý” và vi phạm chính sách của họ, nhưng Reddy và em gái anh tin rằng đó là một vấn đề nghiêm trọng có thể gây ra hậu quả nghiêm trọng.
Đây không phải là lần đầu tiên chatbot AI của Google bị chỉ trích vì đưa ra phản hồi có khả năng gây hại cho người dùng. Trước đó, Gemini đã đưa ra câu trả lời không chính xác về sức khỏe và tạo ra những hình ảnh không phù hợp về các nhân vật lịch sử. Những sự cố này đã làm dấy lên những mối lo ngại về mặt đạo đức về việc sử dụng chatbot AI và khả năng gây hại của chúng.
Trong bối cảnh các chatbot AI như Gemini ngày càng được sử dụng nhiều hơn trong cuộc sống hàng ngày, các chuyên gia nhấn mạnh tầm quan trọng của việc đảm bảo rằng chúng được trang bị tốt hơn để xử lý các chủ đề nhạy cảm và tương tác an toàn với người dùng. Ngành công nghiệp cần tập trung vào việc phát triển các biện pháp bảo vệ để ngăn chặn các mô hình AI đưa ra những phản hồi có hại và có khả năng gây tổn hại.