London, Inggris – Investigasi terbaru oleh The Guardian mengungkapkan bahwa fitur AI Overviews milik Google berisiko membahayakan nyawa pengguna.
Ringkasan otomatis berbasis kecerdasan buatan tersebut ditemukan menyajikan informasi medis yang tidak akurat dan menyesatkan tepat di baris teratas hasil pencarian.
Google sebelumnya mengklaim bahwa AI Overviews memberikan rangkuman informasi yang “membantu” dan “andal”.
Namun, para ahli medis memperingatkan bahwa kesalahan data dalam ringkasan tersebut dapat membuat pasien mengambil keputusan yang salah terkait pengobatan mereka.
Kesalahan Fatal pada Kasus Kanker
Salah satu temuan paling berbahaya berkaitan dengan saran bagi penderita kanker pankreas. AI tersebut menyarankan pasien untuk menghindari makanan berlemak tinggi, sebuah instruksi yang dinilai para ahli sangat fatal.
“Saran itu sepenuhnya salah,” tegas Anna Jewell, Direktur Pancreatic Cancer UK. Ia menjelaskan bahwa penderita kanker pankreas justru membutuhkan asupan kalori yang cukup agar kuat menjalani kemoterapi atau operasi penyelamatan nyawa.
Berikut adalah beberapa poin krusial kegagalan informasi AI yang ditemukan:
- Kanker Pankreas: Menyarankan diet rendah lemak yang berisiko membuat pasien kekurangan nutrisi untuk pengobatan.
- Tes Fungsi Hati: Memberikan rentang angka “normal” yang menyesatkan tanpa mempertimbangkan usia, jenis kelamin, atau etnis.
- Kanker Vagina: Menyebut tes pap smear dapat mendeteksi kanker vagina, padahal tes tersebut hanya untuk kanker serviks.
- Kesehatan Mental: Memberikan saran “sangat berbahaya” terkait psikosis dan gangguan makan yang bisa memicu pasien menghindari bantuan medis.
Pamela Healy dari British Liver Trust menyatakan keprihatinannya terhadap data tes hati yang kacau. Ia khawatir pasien dengan penyakit hati serius akan merasa diri mereka sehat karena angka yang ditampilkan AI tidak sesuai dengan standar medis asli.
Hal serupa disampaikan oleh Athena Lamnisos, CEO badan amal kanker Eve Appeal. Ia menyoroti inkonsistensi AI yang memberikan jawaban berbeda-beda untuk pencarian yang sama, yang menurutnya sangat membahayakan bagi mereka yang sedang mencari kejelasan gejala.
“Orang-orang beralih ke internet di saat cemas dan krisis,” kata Stephanie Parker dari yayasan Marie Curie. “Jika informasi yang mereka terima tidak akurat, itu bisa membahayakan kesehatan mereka secara serius.”jelasnya kepada The Guardian
Tanggapan Pihak Google
Menanggapi laporan tersebut, juru bicara Google menyatakan bahwa sebagian besar AI Overviews bersifat faktual dan terus mengalami peningkatan kualitas.
Mereka berdalih bahwa beberapa contoh yang dilaporkan adalah tangkapan layar yang tidak lengkap.
Google menegaskan bahwa sistem mereka tetap menautkan sumber ke situs web bereputasi. Namun, perusahaan berjanji akan mengambil tindakan jika ditemukan ringkasan yang salah menafsirkan konten web atau kehilangan konteks penting sesuai kebijakan mereka.(YA)
