Sebuah insiden tragis yang menimpa seorang petani di Chuzhou, China, menjadi alarm keras bagi masyarakat global agar tidak menelan bulat-bulat saran dari kecerdasan buatan (Artificial Intelligence/AI), terutama untuk urusan krusial. Niat hati ingin membasmi hama, petani berusia 67 tahun ini justru harus gigit jari setelah lahan pembibitan wijen seluas 10 hektar miliknya mati total.
Mengutip laporan dari media CTWANT, kerugian besar ini bermula ketika sang petani berkonsultasi dengan aplikasi chatbot AI untuk mengendalikan gulma di ladangnya. AI tersebut lantas meracik petunjuk berupa campuran bahan kimia yang terdiri dari high-efficiency flupyrimethalin, flusulfasulfaether, thiamethoxazine, dan methyl salt.
Tanpa memverifikasi ulang tingkat keamanan racikan tersebut kepada ahli pertanian, ia langsung menyemprotkan campuran bahan kimia itu secara merata ke seluruh sudut ladang. Petaka baru disadari keesokan harinya: seluruh bibit wijen miliknya hangus mati terbakar bahan kimia.
“Jawaban Polos” AI Usai Musibah Terjadi
Saat mengonfirmasi ulang penyebab kehancuran ladangnya kepada sang chatbot, AI tersebut dengan santai menjelaskan bahwa pemicu utama kematian tanaman adalah penggunaan flusulfasulfaether.
Secara teknis, flusulfasulfaether merupakan herbisida yang dirancang khusus untuk membasmi gulma berdaun lebar di area perkebunan kedelai. Masalahnya, tanaman wijen secara klasifikasi botani juga tergolong tanaman berdaun lebar. Menyemprotkan zat tersebut sama saja dengan membunuh tanaman utama.
AI itu baru membeberkan bahwa herbisida tersebut seharusnya hanya disemprotkan secara lokal pada area gulma yang spesifik, bukan disebar secara massal.
“Aplikasi AI itu sama sekali tidak memberikan peringatan awal soal risiko fatal tersebut. Awalnya saya sempat ragu, tetapi karena beberapa saran sebelumnya terbukti berhasil, saya jadi percaya penuh,” keluh petani tersebut dengan nada kecewa.
Ancaman Nyata “Halusinasi AI” di Dunia Nyata
Kasus di Chuzhou ini menjadi contoh nyata dari fenomena AI hallucination atau kondisi di mana sistem chatbot merumuskan jawaban yang terkesan meyakinkan, namun secara konteks dunia nyata sangat menyesatkan dan berbahaya.
Tragedi akibat AI bukan kali ini saja terjadi. Pada tahun lalu, seorang pria berusia 60 tahun dilaporkan menderita bromism (keracunan bromida kronis) usai mempraktikkan saran dari ChatGPT. Saat pria tersebut mencari alternatif pengganti garam dapur untuk program dietnya, AI secara fatal merekomendasikan sodium bromide.
Padahal, sodium bromide adalah zat kimia industri untuk proses pembersihan yang sangat beracun jika dikonsumsi manusia. Pria tersebut mengalami keracunan hebat hingga menderita gangguan psikiatris langka yang sejatinya sudah jarang ditemukan sejak abad ke-19.
Dua peristiwa ini menjadi pengingat penting: meskipun AI sangat membantu untuk mencari informasi awal, verifikasi dari tenaga ahli profesional di dunia nyata tetap tidak bisa digantikan oleh algoritma komputer.
