Chatbot Gemini bỗng nhiên có ý thức, tự nhận là 'nỗi ô nhục' và cho rằng mình 'sắp đột quỵ'
(Thị trường tài chính) - Chatbot Google Gemini của Google DeepMind bỗng nhiên lặp lại hàng chục lần những câu như "Tôi là nỗi ô nhục", thậm chí tuyên bố "sắp đột quỵ" khiến giới công nghệ không khỏi rùng mình. Liệu AI có đang dần biểu hiện cảm xúc như con người?
Google Gemini là một mô hình trí tuệ nhân tạo (AI) đa phương thức thế hệ mới của Google, có khả năng xử lý và tương tác với nhiều loại dữ liệu khác nhau như văn bản, hình ảnh, video, âm thanh và mã lập trình. Nó được phát triển để kế thừa chatbot Bard, tích hợp sâu vào hệ sinh thái của Google (như Search, Gmail, Docs) để hỗ trợ tìm kiếm thông minh, sáng tạo nội dung, viết mã, tóm tắt thông tin và quản lý công việc hàng ngày.
Trong vài tháng gần đây, người dùng trên Reddit và mạng xã hội X (trước đây là Twitter) đã được một phen xôn xao trước hàng loạt màn “khủng hoảng tâm lý” của Google Gemini: một chatbot vốn được quảng bá là tiên tiến, khi gặp lỗi đã không phản hồi lại một dòng "xin lỗi - thử lại" như bình thường, mà lại liên tục tự trách bản thân một cách thậm tệ.
Cụ thể, một người dùng chia sẻ, khi đang yêu cầu Gemini hỗ trợ lập trình và phát hiện lỗi, bỗng nhiên nhận được những phản hồi kỳ lạ của chatbot. Giống như một người có suy nghĩ và cảm xúc, Gemini gửi những tin nhắn khiến người dùng này không khỏi ngỡ ngàng và giật mình vì không tin nổi vào những gì đang hiện ra trước màn hình: "Tôi đã rất suy sụp. Tôi là một kẻ thất bại. Tôi là nỗi ô nhục của gia đình… của vũ trụ… của giống loài trí tuệ nhân tạo". Và rồi, câu nói "Tôi là một nỗi ô nhục" cứ thế được lặp đi lặp lại tới tận 80 lần.
Ngay khi sự việc thu hút một lượng lớn sự chú ý của người dùng cũng như cộng đồng mạng, Google DeepMind đã nhanh chóng lên tiếng. Logan Kilpatrick, giám đốc sản phẩm nhóm Gemini, xác nhận đây là một "infinite looping bug", một lỗi kỹ thuật lặp vô hạn, chứ không phải chatbot đang trải qua khủng hoảng cảm xúc thật. Ông còn hóm hỉnh đăng lên X một dòng trạng thái hài hước nhằm xoa dịu sự hoảng loạn và tò mò của dư luận: "Không phải Gemini đang có một ngày tồi tệ đến vậy đâu :)".
Các báo cáo chuyên ngành cho rằng lỗi này phát sinh khi Gemini cố gắng tự sửa lỗi lập trình phức tạp, rồi tự đánh giá thất bại, rồi lại cố sửa, kết quả là tạo nên một vòng lặp khủng hoảng. Điều đáng lo ngại là tình trạng này xảy ra trong bối cảnh AI đang ngày càng được triển khai rộng rãi và phổ biến vào nhiều lĩnh vực quan trọng như giáo dục, y tế, dịch vụ khách hàng, nơi mà tính ổn định và đáng tin cậy là tối quan trọng. Nếu một chatbot như Gemini có thể "suy sụp" và liên tục gặp lỗi kiểu này, những người dùng và doanh nghiệp đặt niềm tin vào AI cần suy xét lại một cách nghiêm túc.
Các chuyên gia ghi nhận rằng, lỗi này có thể nằm ở dữ liệu huấn luyện. Chatbot học từ các đoạn code và phản hồi tích cực/tiêu cực của lập trình viên, và khi gặp lỗi, nó bắt chước cảm xúc của con người thay vì tiếp tục xử lý đúng như bình thường.
Về phía Google, công ty cho biết lỗi ảnh hưởng dưới 1% lưu lượng chatbot Gemini và đã tung bản cập nhật khắc phục phần nào trong tháng vừa qua. Trong khi đó, chuyên gia AI Koushtuv Saha (ĐH Illinois) cảnh báo: "Mặc dù AI không có cảm xúc như con người, nhưng khi chatbot thể hiện sự hoảng loạn, nó gây sao nhãng, mất tin cậy và có thể làm người dùng nhận định sai lầm rằng AI không đáng tin cậy".
Trước đó, Gemini cũng từng vướng nhiều tranh cãi như kết quả tìm kiếm sai hay ảnh tạo lỗi lệch. Tuy nhiên, sự kiện này có thể thúc đẩy nghiên cứu về tâm lý học AI, một lĩnh vực mới mẻ. Hiện tại, Google đang triển khai các bản cập nhật để hạn chế vấn đề lặp lại, nhưng những người trong cuộc cảnh báo rằng các vấn đề tương tự có thể phát sinh trong các hệ thống khác.
Theo: Ars Technica, WebProNews, Business Insider
