Ketika kecerdasan buatan (AI) menunjukkan kemajuan pesat, muncul kekhawatiran terkait potensi efek negatifnya. Karena itu, lebih 2.600 pemimpin perusahaan dan praktisi teknologi menandatangani surat terbuka yang menyerukan agar pengembang AI menghentikan pekerjaan mereka untuk sementara.

Surat tersebut muncul pasca peluncuran GPT-4 (Generative Pre-trained Transformer) pada 14 Maret. GPT-4 adalah versi terbaru dari chatbot bertenaga AI buatan OpenAI. Versi ini 10 kali lebih maju dan lebih pintar daripada versi asli ChatGPT. Terbukti, itu berhasil lulus beberapa ujian sekolah menengah dan hukum paling ketat di AS dalam persentil ke-90.

Surat terbuka tersebut diterbitkan oleh think tank AS Future of Life Institute (FOLI) pada 22 Maret, dan memperingatkan bahwa AI dapat "menimbulkan risiko besar bagi masyarakat dan kemanusiaan."

Karena itu, mereka meminta semua perusahaan AI untuk segera menghentikan pelatihan sistem AI yang lebih kuat daripada GPT-4 selama setidaknya enam bulan.

"AI tingkat lanjut dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi, dan harus direncanakan dan dikelola dengan perawatan dan sumber daya yang sepadan. Sayangnya, tingkat perencanaan dan pengelolaan seperti ini tidak terjadi,” demikian bunyi surat tersebut.

"Perusahaan AI berlomba-lomba untuk mengembangkan AI yang lebih kuat, yang tidak seorang pun, bahkan penciptanya, dapat memahami, memprediksi, atau mengontrolnya dengan andal."

"Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola," tambahnya.

Surat itu ditandatangani oleh sejumlah nama-nama besar, termasuk CEO Tesla Elon Musk, CEO Stability AI Emad Mostaque, dan peneliti di DeepMind yang dimiliki Alphabet AI Yoshua Bengio dan Stuart Russell.

Namun, tidak semua pakar AI setuju dengan surat tersebut.

"Pernyataan semacam ini dimaksudkan untuk meningkatkan hype. Ini dimaksudkan untuk membuat orang khawatir," kata Johanna Björklund, seorang peneliti AI dan profesor di Universitas Umea. "Kurasa tidak perlu menarik rem tangan."

Sebaliknya, dia menekankan bahwa penelitian AI justru butuh lebih banyak transparansi daripada jeda.