Trí tuệ nhân tạo (AI) đang ngày càng chứng minh sự hữu ích trong đời sống, nhưng bài học đắt giá về việc đặt trọn niềm tin một cách tuyệt đối vào công nghệ lại vừa xảy ra tại Trung Quốc. Chỉ vì nghe theo một công thức pha chế thuốc diệt cỏ và sâu bệnh do AI cung cấp, một nông dân lớn tuổi tại thành phố Trừ Châu đã phải chứng kiến toàn bộ diện tích hoa màu của gia đình chết sạch chỉ sau một đêm.

Nạn nhân là ông Wu, 67 tuổi. Ban đầu, ông vốn là người hoài nghi và không hề tin tưởng các ứng dụng thông minh. Tuy nhiên, sau nhiều tháng liền sử dụng và thấy trợ lý ảo này đưa ra những lời khuyên nông nghiệp hữu ích, ông dần mất đi sự cảnh giác.

Sự cố bi hài bắt đầu khi ông Wu nhờ AI tư vấn phương pháp diệt cỏ và sâu bệnh cho cánh đồng mè (vừng) của mình. Ngay lập tức, hệ thống đã vẽ ra một công thức trị liệu chi tiết, yêu cầu ông sử dụng các hoạt chất mạnh như "flupyrimethalin", "flusulfasulfaether" kết hợp với "thiamethoxazine" và "methyl salt". Vốn đã tin tưởng tuyệt đối vào độ chính xác của ứng dụng sau một thời gian dài, ông Wu đã pha chế và phun xịt toàn bộ khu vực theo đúng từng chữ hướng dẫn mà không hề tham vấn ý kiến từ các chuyên gia nông nghiệp hay kiểm chứng lại trên mạng internet.

Hậu quả đến nhanh hơn sự tưởng tượng. Chỉ vỏn vẹn một ngày sau khi phun, toàn bộ cánh đồng rộng tới gần 10 héc-ta không chỉ sạch cỏ mà những luống cây giống vừng cũng chết hàng loạt với tốc độ chóng mặt. Ông Wu bàng hoàng chia sẻ trong một cuộc phỏng vấn rằng khi phun thuốc xuống, cây trồng thậm chí còn chết nhanh hơn cả cỏ dại.

Khi ông quay lại hỏi nguyên nhân, ứng dụng AI ngây ngô thừa nhận chất "flusulfasulfaether" có thể chính là thủ phạm. Các chuyên gia nông nghiệp sau đó chỉ rõ rằng loại hóa chất này vốn chỉ được dùng để diệt cỏ lá rộng trên các cánh đồng đậu nành.

Trong khi đó, theo phân loại của Bộ Nông nghiệp Mỹ, cây vừng cũng thuộc thực phẩm lá rộng, đồng nghĩa với việc chúng sẽ bị loại thuốc này tiêu diệt ngay lập tức. Thêm vào đó, loại hóa chất này chỉ được thiết kế để phun cục bộ vào những khu vực bị ảnh hưởng chứ tuyệt đối không được phun tràn lan trên toàn bộ diện tích.

Dù giao diện của ứng dụng có đính kèm dòng chữ cảnh báo nhỏ rằng thông tin do AI tạo ra có thể không chính xác và cần được xác thực, sự cố này vẫn là một hồi chuông cảnh tỉnh lớn. Sự việc không chỉ dừng lại ở những lỗi vặt trên không gian mạng như việc trợ lý ảo xóa nhầm thư mục hay dọn sạch hộp thư điện tử, mà nay đã gây ra hậu quả vật chất nặng nề nghiêm trọng ngoài đời thực.

Câu chuyện của ông Wu cho thấy một thực tế rằng các mô hình ngôn ngữ lớn (LLM) thực chất chỉ là những cỗ máy dự đoán xác suất dựa trên dữ liệu công khai chưa được lọc sạch hoàn toàn về tính xác thực. Việc quá phụ thuộc vào công nghệ mà bỏ qua các bước kiểm chứng thực tế có thể dẫn đến những cái kết đắng ngắt, biến thành quả lao động dày công bao tháng ngày bay biến chỉ trong chớp mắt.