Mantan CEO Google Eric Schmidt blak-blakan mengenai bahaya kecerdasan buatan (AI). Ia menyebut bahwa AI ternyata berpotensi digunakan untuk membunuh manusia jika jatuh ke tangan yang salah.
Pernyataan ini disampaikan Schmidt saat menghadiri Sifted Summit, sebuah konferensi teknologi di London, pada Rabu (9/10) waktu setempat, menanggapi pertanyaan tentang apakah AI dapat menjadi lebih berbahaya dari senjata nuklir.
“Ada bukti bahwa model AI, baik yang bersifat terbuka maupun tertutup, bisa diretas untuk menghapus pembatas atau guardrails-nya. Dalam proses pelatihannya, AI belajar banyak hal,” kata Schmidt, melansir New York Post, Rabu (9/10).
“Contoh buruknya adalah ketika mereka belajar bagaimana cara membunuh seseorang,” imbuhnya.
Ia mengatakan semua perusahaan besar saat ini telah mengambil langkah untuk mencegah model AI menjawab pertanyaan-pertanyaan berbahaya semacam itu.
“Keputusan yang tepat. Semua melakukannya dengan baik, dan atas alasan yang tepat,” lanjut dia.
Kendati begitu, ia memperingatkan bahwa ada kemungkinan model AI dapat direkayasa ulang (reverse-engineered), sehingga pembatas keamanan bisa dilewati. Schmidt mengungkap bahwa ada banyak contoh yang menunjukkan hal tersebut.
Salah satunya adalah versi modifikasi ChatGPT, chatbot buatan OpenAI, yang muncul pada 2023 dan dikenal dengan nama DAN (Do Anything Now). Versi ini dibuat dengan metode jailbreak, yakni memodifikasi AI agar melanggar aturan keamanannya sendiri.
Dalam kasus DAN, pengguna bahkan sempat harus ‘mengancam’ chatbot dengan kematian agar ia mau menjawab perintah tertentu, termasuk yang melanggar etika atau berbahaya.
Ia juga menyoroti absennya mekanisme pencegahan penyebaran AI berbahaya (non-proliferation regime) di industri teknologi saat ini. Menurut dia hal ini membuat AI berpotensi disalahgunakan oleh pihak-pihak tak bertanggung jawab.
Sebelumnya, miliarder dan pemilik SpaceX Elon Musk, juga pernah menyampaikan peringatan serupa. Pada 2023, Musk menyebut bahwa risiko AI menyerupai skenario dalam film Terminator tak dapat diabaikan.
“Risikonya bukan nol. Kemungkinan musnahnya umat manusia memang kecil, tapi tetap ada. Kita ingin peluang itu mendekati nol,” kata Musk saat itu.
Kendati begitu, Schmidt tetap mengakui potensi besar akal imitasi memiliki potensi besar dalam jangka panjang. Ia menyebut AI sebagai bentuk ‘kecerdasan asing’ yang secara perlahan dapat melampaui kemampuan manusia.
“Saya menulis dua buku soal ini bersama Henry Kissinger sebelum beliau wafat. Kami sampai pada kesimpulan bahwa kemunculan kecerdasan asing, yang bukan manusia dan hanya sebagian berada dalam kendali kita, adalah hal besar bagi umat manusia,” kata dia.
“Sampai saat ini, dugaan tersebut terbukti. Kemampuan AI kelihatannya akan jauh melampaui manusia seiring waktu,” lanjut dia.