chatgpt-dan-lain-lain-apa-maksud-chatbot-ai-untuk-masa-depan-cybersecurity

Dari tugas-tugas yang agak mudah, seperti menggubah emel, hingga tugas yang lebih kompleks, termasuk menulis esei atau mengkompilasi kod, ChatGPT -- alat pemrosesan bahasa semula jadi berasaskan kecerdasan buatan dari OpenAI -- telah menimbulkan minat yang besar sejak dilancarkan.

Ini masih jauh dari sempurna, tentu saja - ia diketahui membuat kesalahan dan kesilapan kerana ia salah mentafsir maklumat yang dipelajari daripadanya, tetapi ramai melihat ia, dan alat AI lain, sebagai masa depan bagaimana kita akan menggunakan internet.

Terma perkhidmatan OpenAI untuk ChatGPT secara khusus melarang penjanaan perisian hasad seperti malware, termasuk ransomware, keyloggers, virus atau "perisian lain yang bertujuan menyebabkan kerosakan". Ia juga melarang percubaan untuk mencipta spam, serta penggunaan yang bertujuan ke arah jenayah siber.

Tetapi seperti teknologi online inovatif lainnya, sudah ada orang-orang yang sedang bereksperimen dengan cara mereka bisa mengeksploitasi ChatGPT untuk tujuan yang lebih gelap.

Selepas dilancarkan, tidak lama kemudian penjenayah siber telah memuat naik benang-benang di forum bawah tanah mengenai bagaimana ChatGPT boleh digunakan untuk memudahkan aktiviti siber jahat, seperti menulis emel pishing atau membantu menyusun malware.

Dan terdapat kebimbangan yang penjenayah akan cuba menggunakan ChatGPT dan alat AI lain, seperti Google Bard, sebagai sebahagian daripada usaha mereka. Walaupun alat AI ini tidak akan merevolusikan serangan siber, mereka masih boleh membantu penjenayah siber - walaupun tidak disedari - untuk menjalankan kempen jahat dengan lebih efisyen.

"Saya tidak berpikir, setidaknya dalam jangka pendek, bahwa ChatGPT akan menciptakan jenis serangan yang benar-benar baru. Fokusnya akan menjadi membuat operasi sehari-hari mereka lebih hemat biaya," kata Sergey Shykevich, manajer grup intelijen ancaman di Check Point, sebuah perusahaan keamanan Siber.

Juga: Apa itu ChatGPT dan mengapa ia penting? Inilah segala yang perlu anda ketahui

Serangan phising adalah komponen yang paling umum dalam penipuan melalui hacking dan pemalsuan. Sama ada pihak penyerang menghantar emel untuk menyebarkan perisian hasad, pautan phising atau digunakan untuk memujuk mangsa untuk memindahkan wang, e-mel adalah alat utama dalam bentuk paksaan asal.

Bergantung kepada e-mel bermakna kumpulan tersebut memerlukan aliran kandungan yang jelas dan berkesan. Dalam banyak kes - terutamanya dalam kes penipuan - objektif penyerang adalah untuk memujuk manusia untuk melakukan sesuatu, seperti memindahkan wang. Nasib baik, banyak cubaan penipuan jenis phishing ini mudah dikenal pasti sebagai spam pada masa ini. Tetapi penulis salinan secara automatik yang cekap boleh menjadikan e-mel-e-mel itu lebih menarik.

Keganasan siber adalah industri global, dengan penjenayah dari pelbagai negara menghantar e-mel phishing kepada sasaran potensial di seluruh dunia. Ini bermakna bahasa boleh menjadi halangan, terutama untuk kempen spear-phishing yang lebih canggih yang bergantung kepada mangsa yang percaya mereka sedang berkomunikasi dengan kenalan yang dipercayai -- dan seseorang tidak mungkin mempercayai mereka sedang berbicara dengan rakan sekerja jika e-mel tersebut penuh dengan kesalahan ejaan dan tatabahasa yang tidak wajar atau tanda baca yang aneh.

Tetapi jika AI digunakan dengan betul, seorang chatbot boleh digunakan untuk menulis teks untuk emel dalam mana-mana bahasa yang diinginkan oleh penyerang.

"Rintangan besar bagi penjenayah siber Rusia adalah bahasa -- Bahasa Inggeris," kata Shykevich. "Mereka sekarang mengupah graduan pengajian Bahasa Inggeris di kolej-kolej Rusia untuk menulis e-mel phishing dan bekerja di pusat panggilan -- dan mereka perlu membayar wang untuk ini."

Beliau meneruskan: "Sesuatu seperti ChatGPT boleh membantu mereka menghemat banyak wang dalam pembuatan pelbagai pesanan phising yang berbeza. Ia boleh meningkatkan kehidupan mereka. Saya rasa itu adalah jalan yang akan mereka cari."

Dalam teori, terdapat perlindungan yang tersedia untuk mencegah penyalahgunaan. Contohnya, ChatGPT memerlukan pengguna untuk mendaftar menggunakan alamat emel dan juga memerlukan nombor telefon untuk pengesahan pendaftaran.

Dan walaupun ChatGPT akan menolak untuk menulis emel phishing, ia memungkinkan untuk memintanya untuk membuat templat emel untuk pesanan lain yang biasanya diambil kesempatan oleh penyerang siber. Usaha itu mungkin termasuk pesanan yang mendakwa yuran bonus tahunan ditawarkan, kemas kini perisian penting perlu dimuat turun dan dipasang, atau dokumen yang dilampirkan perlu diberikan perhatian dengan segera.

"Menulis email untuk meyakinkan seseorang untuk mengklik tautan guna mendapatkan sesuatu seperti undangan konferensi – ini cukup bagus, dan jika Anda bukan penutur bahasa Inggris asli, ini terlihat sangat bagus," kata Adam Meyers, Wakil Presiden Senior Intelijen di Crowdstrike, penyedia keamanan siber dan intelijen ancaman.

"Anda boleh membantu mencipta jemputan dengan tersusun dengan baik dan betul dari segi tatabahasa, yang mana mungkin tidak dapat anda lakukan jika anda bukan penutur asli Bahasa Inggeris."

Tetapi penyalahgunaan alatan-alatan ini tidak terhad hanya kepada e-mel; penjenayah juga boleh menggunakannya untuk membantu menulis skrip untuk mana-mana platform atas talian yang berdasarkan teks. Bagi pengganas yang menjalankan penipuan, atau kumpulan ancaman siber yang mahir mencuba menjalankan kempen pengintipan, ini boleh menjadi alatan yang berguna - terutamanya untuk mencipta profil sosial palsu bagi menarik perhatian orang ramai.

"Jika anda ingin menghasilkan kata-kata bisnes yang tidak masuk akal untuk LinkedIn agar kelihatan seperti seorang ahli perniagaan sebenar yang cuba menjalinkan hubungan, ChatGPT adalah hebat untuk tujuan itu," kata Kelly Shortridge, pakar keselamatan siber dan pakar teknologi produk utama di penyedia pengkomputeran awan Fastly.

Pelbagai kumpulan pencerobohan cuba mengeksploit LinkedIn dan platform media sosial lain sebagai alat untuk menjalankan kempen siber mata-mata. Tetapi mencipta profil palsu yang kelihatan sah tetapi meyakinkan - dan mengisinya dengan pos dan pesanan - adalah satu proses yang memakan masa.

Shortridge berpendapat bahawa penggodam boleh menggunakan alatan AI seperti ChatGPT untuk menulis kandungan yang meyakinkan serta mempunyai kelebihan yang kurang memakan tenaga berbanding melakukan kerja secara manual.

"Banyak daripada kampanye-kampanye pengaturcaraan sosial memerlukan banyak usaha kerana anda perlu menjalankan profil-profil tersebut," katanya, dengan berpendapat bahawa alat-alat AI boleh mengurangkan halangan penyertaan dengan ketara.

"Saya yakin bahawa ChatGPT boleh menulis pos pemikiran kepemimpinan yang sangat meyakinkan," katanya.

Akibat daripada alam inovasi teknologi, setiap kali sesuatu yang baru muncul, akan selalu ada orang-orang yang mencoba untuk mengeksploitasi hal tersebut untuk tujuan jahat. Dan meskipun dengan cara-cara paling inovatif untuk mencegah penyalahgunaan, kecurangan dan kejahatan kaum siber yang licik berarti mereka cenderung untuk menemukan cara-cara mengelabui perlindungan.

"Tiada cara untuk sepenuhnya menghapuskan penyalahgunaan menjadi sifar. Ini tidak pernah berlaku dalam mana-mana sistem," kata Shykevich, yang berharap dengan menyorot isu keselamatan siber potensial akan memberikan ruang untuk lebih banyak perbincangan tentang bagaimana mencegah penggunaan yang salah terhadap AI chatbot."

"Ini adalah teknologi yang hebat - tetapi, seperti biasa dengan teknologi baru, terdapat risiko dan penting untuk membahasnya supaya kita dapat mengetahuinya. Dan saya rasa semakin kita membahas, semakin besar kemungkinan OpenAI dan syarikat serupa akan melabur lebih banyak untuk mengurangkan penyalahgunaan," katanya.

Juga ada kelebihan dalam cybesecurity dengan penggunaan chatbot AI, seperti ChatGPT. Mereka sangat mahir dalam menangani dan memahami kod, jadi ada potensi untuk menggunakannya untuk membantu pembela memahami malware. Selain itu, mereka juga bisa menulis kod, maka adalah mungkin bahwa dengan membantu pembangun dengan projek mereka, peranti-peranti ini dapat membantu mencipta kod yang lebih baik dan lebih selamat dengan lebih cepat, yang baik untuk semua orang.

Seperti yang ditulis oleh analis utama Forrester, Jeff Pollard, baru-baru ini, ChatGPT dapat memberikan pengurangan besar dalam jumlah waktu yang dibutuhkan untuk menghasilkan laporan insiden keamanan.

“Mempercepat pemutaran itu bermakna lebih banyak masa untuk melakukan perkara-perkara lain - ujian, penilaian, penyiasatan, dan memberi respons - yang semuanya membantu pasukan keselamatan meningkatkan skala,” katanya, menambah bahawa sebuah robot boleh mencadangkan tindakan seterusnya berdasarkan data yang tersedia.

"Jika pengaturan orkestrasi, otomatisasi, dan respons keamanan diatur dengan benar untuk mempercepat pengambilan artefak, ini dapat mempercepat deteksi dan respons serta membantu analis [pusat operasi keamanan] membuat keputusan yang lebih baik," katanya.

Jadi, chatbot mungkin membuat hidup lebih sulit bagi beberapa orang di bidang keamanan siber, tetapi mungkin juga ada sisi baiknya.

ZDNET menghubungi OpenAI untuk mendapatkan komen, tetapi tidak menerima respons. Walau bagaimanapun, ZDNET menanyakan ChatGPT tentang peraturan-peraturan yang ada untuk mencegah penyalahgunaan untuk tujuan phising - dan kami mendapat teks berikut.

"Penting untuk diingat bahawa walaupun model bahasa AI seperti ChatGPT boleh menghasilkan teks yang serupa dengan e-mel pemalsuan, mereka tidak dapat melakukan tindakan jahat sendiri dan memerlukan niat dan tindakan pengguna untuk menyebabkan kerosakan. Oleh itu, pengguna perlu berhati-hati dan menggunakan pertimbangan yang baik ketika menggunakan teknologi AI, serta berwaspada dalam melindungi diri daripada pemalsuan dan aktiviti jahat lain."