Waspada Spam AI sudah mulai Merusak Internet

Para penipu menggunakan AI untuk memuntahkan halaman web dan video YouTube yang mempermainkan Google. Beberapa dari situs-situs tersebut menjalankan berita kematian palsu. Situs web media juga dikikis dan disalin oleh AI. Hasil akhirnya: Ketika hasil pencarian sampah membanjiri Google, hal ini akan berdampak buruk bagi pengguna – dan Google.

Lebih dari setahun setelah peluncuran ChatGPT secara publik, kita mulai melihat satu prediksi yang menjadi kenyataan tentang bagaimana hal ini dapat mempengaruhi internet: Spam AI membanjiri web.

Minggu lalu, ada tiga contoh bagaimana hal ini terjadi. Pertama, 404 Media, sebuah blog teknologi baru, menulis bahwa mereka harus memodifikasi situs webnya karena spam kecerdasan buatan.

Baru-baru ini, mereka menyadari bahwa versi yang ditulis oleh AI dari scoop-nya telah muncul di situs spam yang ramah terhadap pengoptimalan mesin pencari – terkadang bahkan muncul di atas artikel 404 Media yang asli pada hasil pencarian Google. Para penipu, tentu saja, menghasilkan uang dengan menjalankan iklan di halaman yang dibuat oleh AI.

Versi artikel yang dihasilkan oleh AI ini merugikan bisnis berita, secara efektif mencuri klik (dan pendapatan) dari outlet yang menghabiskan waktu dan uang untuk melakukan pelaporan.

Kedua, Wired menulis bahwa The Hairpin, sebuah blog indie yang populer dari tahun 2010-an, telah diambil alih oleh petani klik AI yang membiarkan beberapa artikel populer tetapi mengganti nama-nama wanita yang menulisnya dengan nama-nama pria – menyebalkan.

Terakhir, di ujung spektrum spam AI yang paling beracun, ada berita kematian yang dibuat oleh AI, penuh dengan kesalahan, yang menyebabkan rasa sakit yang nyata bagi keluarga yang sedang berduka. Pada tahun 2021, jauh sebelum ChatGPT, Wired melaporkan bahwa “pembajak berita duka” mengikis dan menyalin situs web rumah duka. Sekarang mereka menggunakan AI untuk taktik baru yang menguntungkan dalam membuat video YouTube dan situs web spam dari berita duka, untuk menangkap lalu lintas pencarian orang-orang yang mencari informasi tentang orang yang baru saja meninggal.

New York Times baru-baru ini melaporkan tentang rasa sakit yang ditimbulkan oleh video YouTube yang dibuat oleh AI ini terhadap keluarga yang sedang berduka. Setelah seorang mahasiswa meninggal karena tidak sengaja terjatuh ke rel kereta bawah tanah di New York, video YouTube dan artikel yang dibuat oleh AI dengan cepat muncul.

Obituari ini merupakan respons dari para penipu yang melihat lonjakan minat pencarian di sekitar nama pemuda tersebut dan kata “kereta bawah tanah.” Para penipu dengan cepat memasukkan istilah-istilah kunci tersebut, memberi tahu AI untuk menulis berita kematian dengan nada percakapan, dan kemudian menamparnya di sebuah situs web, demikian yang dilaporkan Times. (Sebagian besar detailnya salah, tetapi itu tidak menghentikan situs tersebut untuk muncul di pencarian Google).

Ketiga contoh tersebut – peniru 404 Media, penghuni liar The Hairpin, dan pembajak berita kematian – memiliki detail yang berbeda. Tetapi mereka memiliki satu kesamaan: Pelaku kejahatan, penipu, dan pengirim spam mencoba menghasilkan uang dengan menggunakan AI untuk memompa konten dalam jumlah besar untuk mencapai bagian atas hasil pencarian Google.

Pada akhirnya, ini bukan hanya masalah bagi para jurnalis yang kontennya dicuri atau keluarga yang sedang berduka yang merasa kecewa dengan perampokan kuburan digital. Ini adalah masalah besar bagi Google. Pada akhirnya Google menyajikan hasil pencarian sampah kepada pengguna, yang semakin memiliki pilihan menarik lainnya – juga berkat AI – untuk pencarian.

Google mengatakan kepada The New York Times bahwa mereka menyadari adanya berita kematian spam ini dan sedang berusaha mengatasinya (dan menghapus beberapa berita kematian karena melanggar kebijakannya).

Namun, para pelaku kejahatan sering kali selangkah lebih maju daripada platform – seperti gambar-gambar cabul Taylor Swift yang dibuat oleh AI yang menyebar di X minggu lalu.

AI akan mengubah internet secara radikal, baik atau buruk. Tergantung pada Google dan perusahaan-perusahaan yang membuat perangkat AI ini untuk meminimalisir bahaya yang sebenarnya.

_{^{sumber berita yahoo.com/tech}}