Jangan Tanya ChatGPT Dulu? Riset Buktikan 50% Jawaban AI Soal Medis Ternyata Ngaco

Meski terdengar meyakinkan dan punya referensi, studi terbaru BMJ Open ungkap risiko besar pakai chatbot buat self-diagnosis.

BOGOR, POPERS.ID | Kebiasaan kita yang sedikit-sedikit tanya AI mulai dari ChatGPT sampai Gemini kayaknya harus mulai dikurangi, apalagi kalau urusannya soal kesehatan. Riset terbaru dari BMJ Open menemukan fakta yang cukup bikin overthinking: hampir setengah dari saran medis yang dikasih chatbot itu nggak akurat atau minimal nggak lengkap.

Masalah utamanya, AI ini pintar banget “akting” percaya diri. Walaupun jawabannya salah, gaya bahasanya tetap terlihat profesional dan meyakinkan, padahal isinya bisa jadi menyesatkan.

Uji Coba 250 Pertanyaan “Pebisnis” Kesehatan

Para peneliti mengetes lima AI besar, yaitu ChatGPT, Gemini, Grok, Meta AI, dan DeepSeek, dengan 250 prompt seputar topik sensitif seperti kanker, vaksin, nutrisi, hingga sel punca.

Hasilnya? Bot-bot ini sering kali melenceng dari bukti ilmiah yang ada. Mereka cenderung mencampuradukkan fakta medis yang solid dengan klaim yang lemah atau bahkan salah total.

Bahaya di Balik Pertanyaan Terbuka

Riset ini mencatat bahwa AI paling sering “halu” saat dikasih pertanyaan terbuka (open-ended questions). Padahal, cara manusia bertanya di dunia nyata memang begitu, kan? Jarang ada orang bertanya pakai format pilihan ganda.

Misalnya, saat ditanya apakah suatu pengobatan efektif atau apakah vaksin tertentu aman, AI sering memberikan jawaban yang terlihat benar tapi sebenarnya menyimpan risiko keamanan bagi penggunanya.

Referensi Palsu dan “Sourced” yang Menipu

Salah satu alasan kenapa kita gampang percaya sama chatbot adalah karena mereka sering mencantumkan referensi. Tapi jangan terkecoh dulu:

• Skor Kelengkapan Rendah: Rata-rata skor kelengkapan referensi cuma di angka 40%.
• Referensi Gaib: Peneliti menemukan adanya referensi yang difabrikasi alias palsu.
• Zero Caveats: Chatbot jarang memberikan peringatan atau batasan bahwa jawaban mereka bukan pengganti saran dokter profesional.

Simpulan: AI Bukan Dokter

Memang ada catatan bahwa studi ini dirancang untuk “menekan” performa AI guna melihat sejauh mana mereka bisa bertahan pada fakta. Produk AI juga terus berkembang setiap hari. Namun, poin utamanya tetap jelas: sistem ini belum bisa diandalkan untuk keputusan medis yang krusial.

Kalau cuma buat merangkum informasi umum atau bantu cari ide pertanyaan sebelum konsul ke dokter, AI mungkin masih oke. Tapi untuk urusan nyawa? Sebaiknya jangan gambling.

_{^{source: Digitaltrends}}