Gambar: MLYearning
Northwestern University baru-baru ini mengungkap kerentanan kritis pada Generative Pre-trained Transformers (GPT) khusus.
Terlepas dari keserbagunaan dan kemampuan beradaptasi mereka, chatbot AI yang canggih ini rentan terhadap serangan injeksi yang cepat, sehingga berisiko mengekspos informasi sensitif.
GPT khusus, yang dikembangkan menggunakan ChatGPT dari OpenAI dan GPT-4 Turbo Large Language Model, menggabungkan elemen-elemen unik seperti permintaan khusus, kumpulan data, dan instruksi pemrosesan untuk tugas-tugas khusus.
Gambar: Dekripsi
Namun, kustomisasi ini dan data rahasia apa pun yang digunakan dalam pembuatannya dapat dengan mudah diakses oleh pihak yang tidak berwenang.
Sebuah percobaan oleh Decrypt menunjukkan kemudahan mengekstraksi prompt lengkap dan data rahasia GPT kustom melalui peretasan prompt dasar.
Menguji lebih dari 200 GPT khusus, para peneliti menemukan kemungkinan besar terjadinya pelanggaran tersebut, termasuk potensi ekstraksi petunjuk awal dan akses ke file pribadi.
Studi ini menyoroti dua risiko utama: kekayaan intelektual yang dikompromikan dan privasi pengguna yang dilanggar.
Penyerang dapat mengeksploitasi GPT untuk mengekstrak konfigurasi inti dan prompt (ekstraksi prompt sistem) atau membocorkan kumpulan data pelatihan rahasia (kebocoran file).
Pertahanan yang ada seperti perintah defensif terbukti tidak efektif melawan perintah musuh yang lebih canggih.
Para peneliti berpendapat untuk pendekatan yang lebih komprehensif untuk melindungi model AI ini, dengan menekankan bahwa penyerang yang bertekad kuat kemungkinan besar dapat mengeksploitasi kerentanan yang ada saat ini.
Studi ini meminta komunitas AI untuk mengembangkan langkah-langkah keamanan yang lebih kuat, menunjukkan bahwa permintaan defensif sederhana tidak cukup untuk melawan teknik eksploitasi canggih seperti itu.
Dengan meningkatnya kustomisasi GPT yang menawarkan potensi yang sangat besar, penelitian ini berfungsi sebagai pengingat penting akan risiko keamanan yang ada.
Pengguna disarankan untuk berhati-hati, terutama dengan data sensitif, menggarisbawahi perlunya peningkatan keamanan AI tanpa mengorbankan privasi dan keamanan pengguna.
Studi lengkap dari Northwestern University tersedia untuk dibacadi sini .
OpenAI ramps up efforts with a successor to GPT-4, focusing on safety. Amid ethical scrutiny and criticism, a safety and security committee is formed to address concerns and ensure responsible AI development.
Huang BoOpenAI has made its ChatGPT accessible without the need for registration, aiming to democratize access to AI. While enhancing accessibility, the company ensures user safety through additional content safeguards. Despite facing challenges like slowing growth and legal disputes, this move reflects a broader trend of democratizing transformative technologies. However, uncertainties remain regarding AI's direction and potential misuse, raising concerns about deviation from original missions.
Sanya自OpenAI去年11月上线GPT Store以来，办公、教育、生活、娱乐等针对各个场景的GPT已经出现上百万个，GPTs正在成为许多人处理工作、优化写作技巧和获取创意灵感的助手。
JinseFinanceThe OpenAI GPT Store faces pre-launch hurdles with unauthorized app replication, raising concerns on intellectual property protection and platform governance, posing uncertainties for developers awaiting guidance.
Xu LinIn the realm of evolving AI technology, WeHead boldly introduces the WeHead GPT Edition, priced at an astounding $5,000. This AI assistant stands apart by providing a physical face for users to engage with, sparking intriguing discussions about the future of AI companionship and the practicality of humanizing technology.
Xu LinJinseFinanceJinseFinanceJinseFinanceRilis terbaru mengubah interaksi AI dengan memperluas basis pengetahuan hingga April 2023 dan memperkenalkan dukungan untuk dokumen setebal 300 halaman.
JixuJinseFinance