OpenAI, Pencipta ChatGPT, Berkomitmen Untuk Mengembangkan Sistem Kecerdasan Buatan yang Aman

OpenAI telah menerbitkan pos blog baru yang berkomitmen untuk mengembangkan kecerdasan buatan (AI) yang aman dan bermanfaat secara luas.

ChatGPT, dikuasakan oleh model terkini OpenAI, GPT-4, dapat meningkatkan produktiviti, meningkatkan kreativiti, dan menyediakan pengalaman pembelajaran yang disesuaikan.

Walau bagaimanapun, OpenAI mengakui bahawa alat AI mempunyai risiko yang melekat dan perlu diselesaikan melalui langkah-langkah keselamatan dan penggunaan yang bertanggungjawab.

Inilah apa yang syarikat sedang lakukan untuk mengurangkan risiko-risiko tersebut.

Memastikan Keselamatan dalam Sistem AI

OpenAI menjalankan ujian menyeluruh, mencari panduan dari pakar luar, dan menyempurnakan model AI dengan maklum balas manusia sebelum mengeluarkan sistem baru.

Pelancaran GPT-4, sebagai contoh, telah mendahului lebih dari enam bulan ujian untuk memastikan keselamatannya dan kesesuaiannya dengan keperluan pengguna.

OpenAI percaya bahawa sistem AI yang mantap sepatutnya tunduk kepada penilaian keselamatan yang ketat dan menyokong keperluan untuk pengaturan.

Belajar Dari Penggunaan Dunia Nyata

Penggunaan dalam dunia nyata adalah komponen penting dalam pembangunan sistem AI yang selamat. Dengan mengeluarkan model-model baru secara berhati-hati kepada pengguna yang semakin meningkat secara beransur-ansur, OpenAI dapat membuat peningkatan yang mengatasi masalah-masalah yang tidak terduga.

Dengan menyediakan model AI melalui API dan laman webnya, OpenAI dapat memantau penggunaannya yang salah, mengambil tindakan yang sesuai, dan mengembangkan polisi yang cermat untuk menyeimbangkan risiko.

Perlindungan Kanak-kanak & Menghormati Privasi

OpenAI memberi keutamaan kepada perlindungan kanak-kanak dengan mengkehendaki pengesahan umur dan melarang penggunaan teknologi mereka untuk menghasilkan kandungan yang berbahaya.

Privasi adalah aspek penting lain dalam kerja OpenAI. Organisasi ini menggunakan data untuk membuat model-modelnya lebih membantu sambil melindungi pengguna.

Selain itu, OpenAI menghapus maklumat peribadi daripada set data latihan dan menyesuaikan model untuk menolak permintaan maklumat peribadi.

OpenAI akan menjawab permintaan untuk menghapus maklumat peribadi daripada sistemnya.

Meningkatkan Keakuratan Fakta

Akurasi fakta adalah fokus penting bagi OpenAI. GPT-4 memiliki kemungkinan 40% lebih tinggi untuk menghasilkan konten yang akurat dibandingkan pendahulunya, GPT-3.5.

Organisasi ini berusaha untuk mendidik pengguna mengenai batasan-batasan alat AI dan kemungkinan ketidaktepatan.

Kajian & Penglibatan Lanjutan

OpenAI percaya dalam memberikan waktu dan sumber kepada penyelidikan teknik-teknik mitigasi dan penyesuaian yang berkesan.

Bagaimanapun, itu bukan sesuatu yang dapat dilakukan secara sendiri. Menangani isu keselamatan memerlukan perdebatan yang luas, percubaan, dan penglibatan di kalangan pihak berkepentingan.

OpenAI terus berkomitmen untuk mendorong kolaborasi dan dialog terbuka untuk menciptakan ekosistem AI yang aman.

Kritikan Terhadap Risiko Kewujudan

Walaupun OpenAI berkomitmen untuk memastikan keselamatan dan manfaat yang luas bagi sistem AI-nya, blog post-nya telah menimbulkan kritikan di media sosial.

Pengguna Twitter telah menyuarakan kekecewaan, menyatakan bahawa OpenAI gagal mengendahkan risiko eksistensi yang berkaitan dengan pembangunan kecerdasan buatan (AI).

Satu pengguna Twitter telah menyuarakan kekecewaan mereka, menuduh OpenAI mengkhianati misi asalannya dan fokus pada komersialisasi yang tidak bertanggungjawab.

Pengguna menggesa bahawa pendekatan OpenAI terhadap keselamatan adalah permukaan dan lebih mengutamakan untuk memuaskan kritikus daripada menangani risiko wujud.

Ini amat mengecewakan, kosong, pemberian wajah PR yang palsu.

Anda tidak menyebut risiko eksistensial dari kecerdasan buatan yang menjadi perhatian utama banyak warga, teknolog, peneliti kecerdasan buatan, dan pemimpin industri kecerdasan buatan, termasuk CEO anda sendiri @sama. @OpenAI sedang mengkhianati…

— Geoffrey Miller (@primalpoly) 5 April 2023

Seorang pengguna lain menyatakan ketidakpuasan terhadap pengumuman tersebut, mengklaim bahwa pengumuman itu mengabaikan masalah-masalah yang nyata dan tetap samar. Pengguna ini juga menekankan bahwa laporan tersebut mengabaikan isu-isu etika kritis dan risiko yang terkait dengan kecerdasan buatan yang memiliki kesadaran diri, menyiratkan bahwa pendekatan OpenAI terhadap masalah keamanan tidak memadai.

Sebagai penggemar GPT-4, saya kecewa dengan artikel anda ini.

Ia mengelakkan masalah sebenar, bersifat kabur, dan mengabaikan isu etika yang penting dan risiko yang berkaitan dengan kesedaran diri AI.

Saya menghargai inovasi ini, tetapi ini bukan cara yang betul untuk menangani isu keselamatan.

— FrankyLabs (@FrankyLabs) April 5, 2023

Kritikan ini menekankan kebimbangan yang lebih luas dan perdebatan berterusan mengenai risiko eksistensi yang ditimbulkan oleh pembangunan AI.

Walaupun pengumuman OpenAI menekankan komitmennya terhadap keselamatan, privasi, dan keakuratan, adalah penting untuk mengakui perlunya perbincangan lanjutan untuk menangani kebimbangan yang lebih besar.