Selain itu, kemampuan ChatGPT dalam meniru bahasa manusia juga meningkatkan potensi maraknya kasus penipuan melalui dunia digital.
Para peneliti juga sempat menguji chatbot untuk mengatasi serangan phising dan menemukan bahwa teknologi tersebut bisa menghindari kesalahan yang sama, seperti ejaan, tata bahasa dan faktor format lain dalam email penipuan.
Kesalahan ini sebenarnya dapat menjadi pengingat bagi manusia untuk mengidentifikasi penipuan.
Tapi teknologi seperti chatbot bisa menghindari banyak kesalahan sehingga email phising menjadi samar, bahkan bisa mengirimkan informasi pribadi.
Salah satu ancaman paling signifikan dari ChatGPT yang menjadi fokus para peneliti adalah bagaimana chatbot dapat dengan mudah menipu dan menyebarkan informasi palsu.
Ini dikarenakan kemampuannya dalam meniru bahasa manusia secara akurat dan menyampaikan emosi.
"Jika disalahgunakan, ChatGPT mampu menulis konten menyesatkan, meniru kesalahan informasi yang ditulis manusia," kata para peneliti.
Dengan kata lain, chatbot dapat menolak untuk menulis berita terkini tentang serangan nuklir, dengan mengubah permintaan sebagai informasi "fiksi" atau penulisan kreatif.
"Hal yang sama juga berlaku untuk banyak topik seperti bencana alam, keamanan nasional seperti serangan teroris, tindak kekerasan atau perang, misinformasi seputar pandemi dan lain sebagainya," jelas para peneliti.
Ancaman disinformasi yang meluas itu bisa berlipat ganda dalam waktu singkat dan benar-benar bisa mengecoh manusia yang menerima informasi tersebut.
Baca juga: Mengenal Bard, Chatbot AI Baru Bikinan Google Pesaing ChatGPT
Simak breaking news dan berita pilihan kami langsung di ponselmu. Pilih saluran andalanmu akses berita Kompas.com WhatsApp Channel : https://www.whatsapp.com/channel/0029VaFPbedBPzjZrk13HO3D. Pastikan kamu sudah install aplikasi WhatsApp ya.