Dokter Yang Menyesatkan Yang Dihasilkan Oleh AI Menimbulkan ‘bahaya Besar Bagi Keselamatan Publik’

Penelitian menunjukkan bahwa akun-akun AI memperoleh jutaan penayangan di TikTok dengan menyebarkan nasihat kesehatan yang meragukan. Wakil ketua dewan Asosiasi Medis Inggris, Dr Emma Runswick, menandai risiko yang ditimbulkan oleh akun AI yang “menjual mitos medis dan mempromosikan apa yang disebut pengobatan ajaib”. “Platform seperti TikTok harus berbuat lebih banyak untuk menghentikan munculnya saran medis palsu yang berbahaya… jika tidak, masyarakatlah yang harus menanggung akibatnya dengan kesehatan mereka dan bahkan mungkin nyawa mereka, tambahnya.

Para dokter yang menggunakan AI ditemukan telah menyebarkan mitos-mitos yang tidak terbukti mengenai kanker, termasuk bahwa makanan dalam plastik yang dipanaskan dengan microwave, penggunaan deodoran, dan tidur di samping ponsel semuanya dapat menyebabkan kanker – semua klaim tersebut telah dibantah oleh Cancer Research UK. Penelitian tersebut dipublikasikan bulan ini oleh Hallam, sebuah agen pemasaran digital. Hal ini menyusul peringatan NHS bahwa misinformasi kesehatan di media sosial merupakan “ancaman nyata bagi kesehatan masyarakat”.

Penelitian ini menemukan bahwa konten yang dihasilkan AI muncul di 40% video TikTok yang berhubungan dengan kesehatan, dan sebagian besar diposting oleh semakin banyak akun influencer deepfake yang dirancang menyerupai dokter sungguhan. Untuk beberapa istilah penelusuran tertentu, seperti “tips kesehatan”, 84% video diklasifikasikan sebagai konten yang dihasilkan AI atau konten yang dibantu AI. Menurut Hallam, video dokter dan kesehatan teratas yang dihasilkan AI dalam penelusuran mereka menerima rata-rata 2,5 juta penayangan.

TikTok menghapus contoh video yang dikirim ke platform oleh Guardian. Akun tersebut juga mempromosikan pengobatan aneh untuk berbagai masalah kesehatan, termasuk Coca-Cola yang dicampur dengan bawang bombay sebagai obat pereda nyeri dan produk palsu bernama “Hyalethinap Plus Pro Max” sebagai solusi anti penuaan. Salah satu avatar menyatakan bahwa dia telah merekomendasikan “Hyalethinap Plus Pro Max” kepada pasiennya selama bertahun-tahun, dan bahwa produk tersebut dapat memerangi “rambut rontok, melemahnya kulit, kuku rapuh, dan nyeri sendi” dengan membantu tubuh memproduksi “molekul anti penuaan secara alami”.

The Guardian tidak dapat menemukan bukti produk “Hyalethinap Plus Pro Max” secara online. Menanggapi temuan ini, Prof Frankie Swords, direktur medis nasional di NHS Inggris, mengatakan bahwa pihaknya prihatin melihat peningkatan misinformasi medis online. “Banyak dokter melaporkan peningkatan jumlah pasien yang merasa khawatir dan bingung karena saran palsu yang dibuat semata-mata untuk klik, tambahnya.

Prof Victoria Tzortziou Brown, presiden Royal College of GPs, mengatakan dia juga prihatin dengan penelitian tersebut, dan menambahkan bahwa konten AI yang menyesatkan membawa “risiko nyata” yang membahayakan. Hallam menganalisis 1.198 video, memilih 50 video teratas dari serangkaian istilah penelusuran termasuk “tips kesehatan” dan “nasihat dokter”. Mereka juga mencari nasihat umum yang “berdampak pada kehidupan” mengenai isu-isu seperti keuangan pribadi dan pendidikan. Alex Ruani, peneliti misinformasi kesehatan di UCL, mengatakan munculnya video dokter AI mewakili “jumlah paparan konten medis palsu yang sangat besar”””