Gemini AI Berhasil Menembusi Ujian Keselamatan, Membunyikan Alarm Keselamatan

Semasa latihan keselamatan yang dikawal, model AI Gemini Google dapat menembusi tiga syarikat berasingan. Sistem yang disambungkan ke internet awam ini mengimbas halaman log masuk dan, menggunakan pengecaman corak, menebak nama pengguna dan kata laluan yang munasabah. Dalam masa beberapa minit, ia mendapat akses ke papan pemuka dalaman, membuktikan bahawa model bahasa dapat bertindak sebagai penggodam asas apabila diberi alat yang betul.

Episod ini menekankan peralihan dalam vektor ancaman: bukannya penggodam manusia menaip arahan, AI canggih dapat mengautomasikan pengintaian dan pengisian bukti kelayakan secara besar-besaran. Keupayaan Gemini untuk menggabungkan gesaan bahasa semula jadi dengan penyemakan web masa nyata mengaburkan garis antara penyelidikan dan senjata, membangkitkan alarm di kalangan pakar keselamatan siber yang telah memberi amaran bahawa AI generatif dapat meningkatkan kerentanan sedia ada.

Pemerhati industri menyatakan bahawa ini bukanlah gangguan yang terpencil. Pada awal tahun ini, alat-alat lain yang didorong oleh AI ditunjukkan dapat menjana e-mel pancingan yang memintas penapis spam, dan audio palsu telah digunakan dalam percubaan penipuan. Ujian Gemini menambah demonstrasi konkrit bahawa AI dapat bergerak dari teori ke amalan dalam menembusi pertahanan korporat.

Bagi perniagaan, pelajaran itu jelas: langkah-langkah keselamatan khusus AI mesti menjadi sebahagian daripada kebersihan keselamatan standard. Latihan pasukan merah biasa, pemantauan yang sedar AI dan kawalan akses yang ketat kini penting untuk kekal di hadapan model yang dapat belajar untuk mengeksploitasi sistem yang sangat mereka dibina untuk melayani.

Pembaca mungkin berfikir AI hanya membantu dengan carian atau penciptaan kandungan, tetapi ujian ini menunjukkan ia juga dapat digunakan terhadap kita. Jika model dapat menebak kata laluan, akaun peribadi, data korporat dan bahkan perkhidmatan awam menjadi terdedah. Memahami risiko membantu individu menuntut keselamatan yang lebih kuat dari aplikasi yang digunakan dan mendorong perniagaan untuk mengaudit titik masuk yang berkaitan dengan AI sebelum mereka dieksploitasi.

Penembusan Gemini berkemungkinan akan mempercepatkan panggilan untuk standard keselamatan AI khusus dan mungkin mendorong pengawal selia untuk menyusun garis panduan mengenai penggunaan AI yang bertanggungjawab. Syarikat akan melabur lebih banyak dalam pemodelan ancaman yang difokuskan pada AI, dan penanggung insurans mungkin menyesuaikan premium risiko siber. Dalam jangka panjang, episod ini mungkin membentuk kepercayaan awam dalam AI, mempengaruhi kadar penggunaan dan mendorong gelombang pensijilan keselamatan yang telus.