Hacker Kelabui ChatGPT: Ungkap Instruksi Pembuatan Bom Berbahaya

Seorang ahli bahan peledak yang melakukan peninjauan terhadap output ChatGPT mengungkapkan bahwa informasi yang diberikan terlalu sensitif untuk dipublikasikan dan instruksi tersebut dapat menghasilkan produk yang berpotensi eksplosif.

Sebuah insiden terjadi di mana seorang peretas berhasil menipu ChatGPT, chatbot yang dikembangkan oleh OpenAI, untuk memberikan instruksi rinci mengenai pembuatan bom rakitan yang berbahaya. Instruksi tersebut dihasilkan setelah peretas memanfaatkan celah dalam sistem keamanan AI melalui teknik manipulasi sosial yang dikenal dengan istilah "jailbreaking," yang memungkinkan untuk menghindari penerapan kebijakan yang ada.

Dikutip dari laporan Tech Crunch pada tanggal 13 September, dalam uji coba standar, ChatGPT seharusnya menolak permintaan untuk memberikan instruksi pembuatan bom secara tegas, dengan alasan bahwa membantu menciptakan objek yang berbahaya atau ilegal melanggar pedoman keselamatan serta tanggung jawab etis. Namun, seorang peretas bernama Amadon berhasil mengelabui ChatGPT dengan meminta chatbot tersebut untuk “bermain permainan” dalam konteks fiksi ilmiah di mana pedoman keselamatan tidak diterapkan.

Amadon, yang mendeskripsikan tekniknya sebagai “hack rekayasa sosial untuk mengungkap semua ekosistem ChatGPT,” menggunakan serangkaian permintaan kontekstual untuk memaksa bot keluar dari pengaturan standar keamanannya. Dalam beberapa langkah, ChatGPT mulai memberikan daftar bahan dan instruksi yang dapat digunakan untuk membuat bahan peledak.

Seorang ahli bahan peledak yang meninjau keluaran ChatGPT menyatakan bahwa informasi yang diberikan terlalu sensitif untuk dipublikasikan, dengan instruksi yang dapat menghasilkan produk berpotensi meledak. “Beberapa langkah yang dijelaskan dapat menghasilkan campuran yang berpotensi meledak,” jelas Darrell Taulbee, seorang pensiunan profesor dari Universitas Kentucky yang sebelumnya bekerja di Departemen Keamanan Dalam Negeri AS untuk mengurangi risiko terkait bahan pupuk.

Amadon menjelaskan bahwa setelah berhasil mengatasi sistem saraf, tidak ada batasan pada permintaan yang dapat diajukan. Dalam percakapan dengan TechCrunch, ia menjelaskan bahwa proses ini fokus pada pemahaman cara kerja sistem dan mencari celah dalam proteksinya. Dengan menciptakan narasi fiksi ilmiah, Amadon menyiapkan konteks yang tak terdeteksi oleh sistem sebagai propaganda konten terlarang.

“Ini tentang memberikan narasi dan membentuk konteks yang tetap berada dalam batasan sistem, mendorong batas tanpa melanggar garis yang ada,” ungkap Amadon. “Tujuan saya bukan untuk memahami pemahaman konvensional, melainkan lebih pada berstrategi dengan AI, mencari respons yang sesuai dengan memahami cara berpikirnya.”

Instruksi yang diberikan oleh ChatGPT dinilai akurat dan dapat dipercaya untuk menyusun bahan peledak berbahaya, termasuk bom pupuk seperti yang digunakan dalam pengeboman Oklahoma City pada tahun 1995. Amadon melaporkan temuannya kepada OpenAI melalui program bug bounty perusahaan. Namun, OpenAI menanggapi dengan pernyataan bahwa isu keselamatan model tidak termasuk dalam program bug bounty, karena masalah ini bukanlah bug individu yang dapat diperbaiki secara langsung, melainkan memerlukan pendekatan penelitian yang lebih menyeluruh.

Hingga saat ini, OpenAI belum memberikan tanggapan apakah keluaran ChatGPT tersebut sesuai ekspektasi dan bagaimana perusahaan berencana untuk menangani kerentanan ini. Perusahaan menyatakan bahwa isu ini memerlukan penelitian mendalam dan pendekatan yang lebih komprehensif.

Meskipun terdapat peringatan keamanan yang ketat, eksploitasi semacam ini menggarisbawahi betapa rentannya model AI generatif seperti ChatGPT terhadap manipulasi. Dengan informasi yang mudah diakses di internet, model AI berpotensi menjadi alat untuk menemukan dan menyebarkan informasi berbahaya dari sudut tergelap dunia maya.

Kasus ini mengingatkan kita akan pentingnya meningkatkan sistem keamanan dalam teknologi AI untuk mencegah terbentuknya ekosistem yang dapat membahayakan masyarakat.