Suýt bỏ mạng trên đỉnh núi 4.300m vì "mù quáng" nghe lời AI

Theo VnExpress, hơn hai thập kỷ gắn bó với công tác quản lý tại núi Shasta (bang California, Mỹ), kiểm lâm Nick Meyers từng chứng kiến vô số sai lầm của du khách. Song mùa hè năm nay, ông ghi nhận một hiện tượng đáng báo động: ngày càng nhiều người gặp nạn xuất phát từ việc phó mặc an nguy cho các mô hình AI.

Điển hình là vụ tai nạn cuối tháng 8 tại ngọn núi cao thứ năm bang California. Theo thông tin từ Cục Lâm nghiệp Mỹ, ba thanh niên 20 tuổi xuất phát ngày 29/8 và hạ trại trái phép tại khu vực cấm. Rạng sáng hôm sau, nhóm bắt đầu chặng bứt phá lên đỉnh cùng lượng nhu yếu phẩm chỉ đủ dùng cho lộ trình 8 tiếng như thuật toán đã tính toán trước đó.

Thực tế khắc nghiệt nhanh chóng biến chuyến đi thành thảm kịch. Nhóm mất gấp đôi thời gian dự tính để chạm đỉnh. Khi bóng tối bủa vây ở độ cao hơn 4.300 m, cả ba lạc hướng hoàn toàn; thiết bị di động cạn kiệt pin khiến nỗ lực định vị bất thành. Kiệt quệ lương thảo cùng một thành viên bị thương, họ buộc phải dựng lều tạm cầm cự qua đêm giữa thời tiết khắc nghiệt. Phải tới 9h30 sáng hôm sau, lực lượng chức năng mới tìm thấy và đưa các nạn nhân xuống núi an toàn.

Nhóm phượt thủ thừa nhận đã xây dựng toàn bộ lộ trình qua Google Gemini, video YouTube và ứng dụng AllTrails. "Chúng tôi đã giao phó sự an toàn cho AI mà quên mất tư duy thực tế", một nạn nhân chia sẻ với đội cứu hộ.

Meyers đánh giá AI không phải "hung thần" duy nhất gây ra biến cố. Nhóm đã phạm chuỗi sai lầm nghiêm trọng: thể lực không đảm bảo tốc độ, chuẩn bị thiếu thốn và bất chấp cảnh báo an toàn để tiếp tục tiến lên thay vì sớm quay đầu. Dẫu vậy, những chỉ dẫn sai lệch từ máy học đóng vai trò khởi nguồn cho chuỗi quyết định sai lầm này.

Đây không phải sự cố cá biệt. Trong mùa hè, các kiểm lâm từng giải tán một nữ phượt thủ cắm trại ngay trước biển cấm chỉ vì ChatGPT khẳng định vị trí đó "hợp lệ". Một trường hợp khác mang theo bản đồ địa hình do AI tự vẽ với hàng loạt tọa độ sai lệch nghiêm trọng để hỏi đường.

Cả Google lẫn OpenAI đều liên tục khuyến cáo các mô hình AI có thể đưa ra câu trả lời sai lệch nhưng mang giọng điệu rất thuyết phục, người dùng tuyệt đối không nên coi đây là nguồn dữ liệu chuẩn xác duy nhất.

Trước hiểm họa này, Meyers khuyến cáo du khách nên quay lại với các phương thức truyền thống: tham vấn lực lượng kiểm lâm, trao đổi với cư dân bản địa và kiểm chứng chéo từ nhiều nguồn uy tín thay vì phó mặc tính mạng cho màn hình điện thoại.