ChatGPT dan AI baru sedang menimbulkan kekacauan dalam dunia keamanan siber dengan cara yang menarik dan menakutkan

Kecerdasan buatan generatif sedang mengubah landskap keselamatan siber, membantu penyerang dan penjaga. Penjahat siber menggunakan AI untuk melancarkan serangan yang rumit dan baru dalam skala besar. Sementara itu, pihak yang bertugas menjalankan tugas pertahanan menggunakan teknologi yang sama untuk melindungi infrastruktur penting, organisasi kerajaan, dan rangkaian korporat, kata Christopher Ahlberg, CEO platform inteligens ancaman Recorded Fiture.

Generative AI telah membantu pihak yang jahat untuk berinovasi dan mengembangkan strategi serangan baru, memungkinkan mereka tetap selangkah lebih maju dari pertahanan keamanan siber. AI membantu penjahat siber mengotomatisasi serangan, memindai permukaan serangan, dan menghasilkan konten yang resonan dengan berbagai wilayah geografis dan demografi, memungkinkan mereka untuk menargetkan rentang korban potensial yang lebih luas di berbagai negara. Para penjahat siber mengadopsi teknologi ini untuk membuat email phishing yang meyakinkan. Teks yang dihasilkan AI membantu penyerang menghasilkan email dan pesan teks yang sangat pribadi yang lebih mungkin menipu target.

"Saya rasa anda tidak perlu berfikir dengan sangat kreatif untuk menyedari bahawa ini sebenarnya boleh membantu [penjenayah siber] menjadi penulis, yang merupakan satu masalah," kata Ahlberg.

Pertahanan menggunakan Kecerdasan Buatan (AI) untuk menangkis serangan. Organisasi menggunakan teknologi ini untuk mencegah kebocoran dan mencari kerentanan jaringan secara proaktif. AI juga secara dinamis mengotomatisasi tugas-tugas seperti mengatur peringatan untuk kata kunci tertentu dan mendeteksi informasi sensitif secara online. Pemburu ancaman menggunakan AI untuk mengidentifikasi pola-pola yang tidak biasa dan merangkum jumlah data yang besar, menghubungkan titik-titik di berbagai sumber informasi dan pola-pola tersembunyi.

Kerja ini masih memerlukan pakar manusia, tetapi Ahlberg mengatakan teknologi kecerdasan buatan yang generatif seperti yang kita lihat dalam projek seperti ChatGPT dapat membantu.

"Kami ingin mempercepat kitaran analisis untuk membantu kami menganalisis pada kelajuan pemikiran," katanya. "Itu perkara yang sangat sukar dilakukan dan saya rasa kami melihat terobosan di sini, yang cukup menarik."

Ahlberg juga membincangkan ancaman berpotensi yang boleh dihadapi oleh mesin yang sangat pintar. Apabila dunia menjadi semakin digital dan terhubung, kemampuan untuk melengkungkan realiti dan membentuk persepsi boleh dimanfaatkan oleh pihak yang jahat. Ancaman-ancaman ini tidak terhad kepada negara-negara, menjadikan landskap ini lebih kompleks dan tak seimbang.

AI mempunyai potensi untuk membantu melindungi daripada ancaman yang sedang berkembang ini, tetapi ia juga mempersembahkan risiko-risiko tersendiri. Sebagai contoh, mesin dengan kemampuan pemprosesan yang tinggi boleh hack sistem-sistem dengan lebih cepat dan efektif berbanding manusia. Untuk menangkis ancaman-ancaman ini, kita perlu memastikan bahwa AI digunakan secara defensif dan dengan pemahaman yang jelas tentang siapa yang mengawalinya.

Apabila AI semakin terintegrasi dalam masyarakat, adalah penting bagi para pembuat undang-undang, hakim, dan pembuat keputusan lain untuk memahami teknologi ini dan implikasinya. Membangun aliansi yang kuat antara para ahli teknis dan pembuat kebijakan akan menjadi krusial dalam mengarungi masa depan AI dalam penghunting ancaman dan di luar itu.

Peluang, cabaran, dan pertimbangan etika AI dalam keselamatan Siber adalah kompleks dan sedang berkembang. Memastikan model AI yang tidak berat sebelah dan mengekalkan penglibatan manusia dalam pembuatan keputusan akan membantu mengurus cabaran etika. Kewaspadaan, kerjasama, dan pemahaman yang jelas mengenai teknologi akan menjadi penting dalam mengatasi ancaman jangka panjang yang mungkin timbul daripada mesin yang sangat pintar.

Ahlberg juga membangkitkan kekhawatiran tentang China, Rusia, dan lawan ekonomi menggunakan mesin otonom. Negara-negara ini kemungkinan besar tidak akan melambatkan pengembangan AI atau berbagi pertimbangan etis. Meskipun memiliki kemampuan untuk "mematikan" mesin-mesin tersebut adalah tindakan pengamanan yang cerdas, ia menyarankan bahwa integrasi teknologi ke dalam masyarakat dan ekonomi global kemungkinan akan membuatnya sulit untuk dipisahkan. Ahlberg menekankan perlunya merancang produk dan mesin dengan jelas tentang siapa yang mengontrolnya.

"Perkara besar yang dilakukan oleh internet dalam semua ini adalah internet hampir menjadi tempat di mana semua maklumat dunia berpindah," kata Ahlberg. "Model bahasa yang besar ini melakukan perkara-perkara yang sangat ajaib... untuk mempercepat kitaran pemikiran itu."

Beliau menambah, "Dalam 25 tahun akan datang, dunia menjadi satu gambaran dari internet."