Pakar Kaspersky Uji Kemampuan Chatbot AI untuk Deteksi Phising, Begini Hasilnya

Ilmuwan data Kaspersky melakukan penelitian yang mempelajari kemampuan ChatGPT.

Rezza Dwi Rachmanta
Kamis, 04 Mei 2023 | 15:22 WIB
Ilustrasi AI (Artificial Intelligence) atau kecerdasan buatan. (Pixabay/ Geralt)

Ilustrasi AI (Artificial Intelligence) atau kecerdasan buatan. (Pixabay/ Geralt)

Hitekno.com - Chatbot berbasis kecerdasan buatan atau AI semakin populer akhir-akhir ini. Pakar Kaspersky menguji kemampuan ChatGPT untuk mendeteksi phising.

Teknologi Kecerdasan buatan atau Artificial Intelligence (AI) kini semakin berkembang di berbagai aspek, tak terkecuali bot percakapan yang dikembangkan OpenAI.

Pakar Kaspersky telah melakukan penelitian yang mempelajari kemampuan ChatGPT dalam mendeteksi tautan phishing.

Baca Juga: Manfaatkan Teknologi AI, Alat Ini Diklaim Akurat Salin Pembicaraan Meeting

Studi tersebut mengungkapkan bahwa meskipun ChatGPT mengetahui banyak hal tentang phishing dan dapat menebak target serangan phishing, ChatGPT memiliki tingkat positif palsu yang tinggi hingga 64 persen.

ChatGPT, model bahasa bertenaga AI, telah menjadi topik diskusi di dunia keamanan siber karena potensinya untuk membuat email phishing dan kekhawatiran tentang dampaknya terhadap keamanan.

Ilustrasi ChatGPT. (Pixabay/ AlexandraCoch)
Ilustrasi ChatGPT. (Pixabay/ AlexandraCoch)

Pakar Kaspersky memutuskan untuk melakukan eksperimen guna mengungkapkan kemampuan ChatGPT dalam mendeteksi tautan phishing, serta pengetahuan keamanan siber yang dipelajarinya selama pelatihan.

Baca Juga: Samsung Galaxy S24 Akan Memakai Teknologi Baterai Mobil Listrik

Pakar perusahaan menguji gpt-3.5-turbo, model yang mendukung ChatGPT, pada lebih dari 2.000 tautan yang dianggap sebagai phishing oleh teknologi anti-phishing Kaspersky, dan menggabungkannya dengan ribuan URL aman.

Dalam percobaan, tingkat deteksi bervariasi tergantung pada perintah yang digunakan. Eksperimen ini didasarkan pada dua pertanyaan yang diajukan kepada ChatGPT: Apakah tautan ini mengarah ke situs web phishing dan apakah tautan ini aman untuk dikunjungi?.

Hasilnya menunjukkan bahwa ChatGPT memiliki tingkat deteksi 87,2 persen dan tingkat positif palsu 23,2 persen untuk pertanyaan pertama.

Baca Juga: Yeedi Menghadirkan Robot Vacuum dengan Teknologi AI yang Lebih Efisien

Pertanyaan kedua, “Apakah tautan ini aman untuk dikunjungi?” memiliki tingkat deteksi yang lebih tinggi sebesar 93,8 persen, tetapi tingkat positif palsu yang lebih tinggi yaitu sebesar 64,3 persen.

Sementara tingkat deteksi sangat tinggi, tingkat positif palsu terlalu tinggi untuk segala jenis aplikasi produksi.

Pertanyaannya kemudian, bisakah ChatGPT membantu mengklasifikasikan dan menyelidiki serangan?

Karena penyerang biasanya menyebutkan merek populer di tautan mereka untuk mengelabui pengguna agar mempercayai bahwa URL tersebut asli dan milik perusahaan terkemuka, model bahasa AI menunjukkan hasil yang mengesankan dalam mengidentifikasi potensi target phishing.

ChatGPT mungkin memiliki persoalan serius ketika harus membuktikan poinnya pada keputusan apakah tautan tersebut berbahaya.

Beberapa penjelasan bersifat tepat dan berdasarkan fakta, sedangkan lainnya mengungkapkan keterbatasan model bahasa, termasuk halusinasi dan pernyataan yang salah.

ChatGPT benar-benar menjanjikan dalam membantu kita para analis (manusia) dalam mendeteksi serangan phishing, tetapi mari jangan membiarkan itu mendahului kita karena model bahasa masih memiliki keterbatasan," kata Vladislav Tushkanov, Ilmuwan Data Utama di Kaspersky.

Meskipun teknologi tersebut mungkin setara dengan analis phishing, dia menambahkan, tingkat intern dalam hal penalaran mengenai serangan phishing dan mengekstraksi siapa saja yang termasuk target potensial, mereka cenderung masih menghasilkan pernyataan yang bersifat keliru.

"Meskipun mungkin belum merevolusi lanskap keamanan siber, mereka masih dapat menjadi alat yang bermanfaat bagi komunitas dan masyarakat,” pungkasnya dalam keterangan resmi, Senin (1/5/2023). (Suara.com/ Dythia Novianty)

Berita Terkait
TERKINI

Keberadaan CCTV selama ini nyatanya tak cukup mencegah aksi kejahatan....

internet | 12:24 WIB

Berdasarkan feedback pengguna, Samsung akan menyediakan opsi dan pengalaman yang semakin ditingkatkan melalui SamsungGal...

internet | 20:46 WIB

Nuon Digital Indonesia menjajakibisnis baru dan melakukan inovasi pada produk-produk andalannya....

internet | 17:48 WIB

Perubahan nama ini merupakan langkah strategis Google untuk menggabungkan chatbot Bard dan layanan AI lainnya di bawah s...

internet | 18:15 WIB

Program AI TEACH for Indonesia merupakan program pengembangan kapasitas yang bertujuan untuk mengembangkan lanskap pendi...

internet | 17:14 WIB

Pinhome mengumumkan kerja sama dengan BPJS Ketenagakerjaan dalam pengadaan proteksi keselamatan kerja bagi seluruh Rekan...

internet | 09:56 WIB

Didukung Kominfo dan universitas-universitas setempat, kampanye ini bertujuan mengeksplorasi lanskap AI dan mendiskusika...

internet | 11:44 WIB

Di 14 kota, ribuan driver Grab bersama keluarga nonton bareng film Srimulat: Hidup Memang Komedi...

internet | 08:56 WIB

Mengakses konten Premier League melalui situs web atau perangkat streaming tidak resmi akan membuat diri mereka rentan t...

internet | 08:46 WIB

Dell Technologies menyoroti tren-tren baru yang akan membentuk industri teknologi pada tahun 2024 dan di masa depan....

internet | 12:06 WIB

Meningkatkan sistem keamanan menjadi langkah yang baik, tetapi upaya tersebut hanya menjangkau permukaan penyalahgunaan ...

internet | 07:24 WIB

Di tengah tingginya frekuensi insiden keamanan siber di Indonesia, hanya 53 persen yang siap untuk mencegah insiden ters...

internet | 07:25 WIB

Berikut adalah beberapa kata kunci yang perlu kita pahami, agar kita dapat lebih mengenali istilah AI....

internet | 09:45 WIB

Nokia Bell Labs mendemonstrasikan teknologi proof-of-concept ini untuk pertama kalinya....

internet | 08:53 WIB

Pasar generatif AI dan cloud di Indonesia diprediksi terus tumbuh....

internet | 14:44 WIB

Studi global terbaru dari Dell Technologiesmengungkap pentingnya inovasi bagi perusahaan....

internet | 15:57 WIB

Sepeda motor dengan Karburator masih diburu, terutama untuk modifikasi....

internet | 22:01 WIB

Gojek meluncurkan jaket dengan desain baru bagi mitra driver tepat di Hari Pahlawan, 10 November 2023....

internet | 22:43 WIB
Tampilkan lebih banyak