Google menarik sebagian fitur AI Overviews terkait informasi kesehatan setelah investigasi media Inggris, The Guardian, menemukan ringkasan berbasis kecerdasan buatan tersebut menyajikan informasi keliru dan berpotensi membahayakan pengguna.
Investigasi mengungkap bahwa AI Overviews menampilkan data tidak akurat soal rentang normal tes darah fungsi hati. Informasi tersebut dinilai “berbahaya” karena bisa membuat pasien dengan penyakit hati serius mengira kondisi mereka normal dan menunda pemeriksaan lanjutan.
Menanggapi temuan itu, Google menghapus AI Overviews untuk beberapa kata kunci, termasuk pencarian tentang rentang normal tes fungsi hati. Namun, variasi pertanyaan lain masih memunculkan ringkasan serupa.
Direktur komunikasi British Liver Trust, Vanessa Hebditch, menyambut baik langkah tersebut, tetapi menilai masalah utamanya belum tuntas. Ia mengingatkan hasil tes fungsi hati bersifat kompleks dan tidak cukup dinilai hanya dari angka, terlebih tanpa konteks usia, jenis kelamin, atau kondisi pasien.
Sejumlah pakar dan organisasi pasien juga menyuarakan kekhawatiran serupa, menilai masih banyak AI Overviews kesehatan lain yang berisi informasi tidak akurat. Google menyatakan pihaknya terus meninjau dan memperbaiki kualitas ringkasan AI, serta menegaskan AI Overviews hanya ditampilkan pada pencarian yang dinilai memiliki tingkat keandalan tinggi.
Kasus ini kembali memicu sorotan global terhadap risiko misinformasi kesehatan dari teknologi AI, terutama ketika hasil pencarian muncul di posisi teratas dan dianggap sebagai rujukan tepercaya oleh masyarakat.
