Dalam beberapa tahun terakhir, kekhawatiran mengenai perkembangan kecerdasan buatan (AI) semakin meningkat. Banyak ahli teknologi menyatakan bahwa laju inovasi AI kini melebihi kemampuan sistem pengaman yang ada di dunia. Hal ini menimbulkan kekhawatiran bahwa masyarakat global mungkin tidak memiliki cukup waktu untuk membangun fondasi keselamatan yang memadai sebelum AI mencapai tingkat yang sulit dikendalikan.
David Dalrymple, seorang pakar keselamatan AI dan direktur program di Advanced Research and Invention Agency (Aria), lembaga riset independen yang didanai pemerintah Inggris, memberi peringatan serius. Menurutnya, kapabilitas AI saat ini berkembang lebih cepat daripada kemampuan manusia dan institusi untuk memastikan teknologi tersebut tetap aman dan terkendali.
Dalrymple menilai bahwa AI kini mampu melakukan berbagai tugas kompleks dengan efisiensi yang lebih baik dibandingkan manusia. Ia menyampaikan hal ini dalam wawancara yang disiarkan oleh media internasional. “Kita harus merasa prihatin terhadap sistem yang mampu melakukan seluruh fungsi yang dilakukan manusia, tetapi dengan hasil yang lebih baik,” ujarnya.
Selain itu, ia menyoroti adanya kesenjangan pemahaman antara sektor publik dan perusahaan teknologi terkait kecepatan dan skala peningkatan kemampuan AI. “Segalanya bergerak sangat cepat dan kita mungkin tidak punya waktu untuk mendahuluinya dari perspektif keselamatan,” katanya. Dalrymple juga memperkirakan bahwa dalam lima tahun ke depan, sebagian besar tugas bernilai ekonomi tinggi akan dilakukan oleh mesin dengan kualitas yang lebih baik dan biaya yang lebih rendah dibandingkan manusia.
Laporan terbaru dari UK AI Security Institute (AISI) menunjukkan bahwa kemampuan model AI canggih meningkat sangat cepat di hampir semua bidang. Dalam laporan tersebut, AISI menyebutkan bahwa performa beberapa sistem terdepan kini berlipat ganda setiap delapan bulan. Tingkat keberhasilan menyelesaikan tugas setara peserta magang mencapai sekitar 50 persen, naik tajam dari sekitar 10 persen pada tahun sebelumnya.
Selain itu, AISI menemukan bahwa sejumlah model AI sudah mampu menyelesaikan tugas secara mandiri yang biasanya memerlukan waktu lebih dari satu jam bagi pakar manusia. Temuan ini memperkuat kekhawatiran bahwa otomatisasi tingkat lanjut berpotensi mempercepat pergeseran besar dalam struktur ekonomi dan tenaga kerja global.
Aspek lain yang dinilai krusial adalah kemampuan replikasi mandiri, yakni potensi AI untuk menyebarkan salinan dirinya ke sistem lain tanpa campur tangan manusia. Dalam pengujian terbatas, dua model tercanggih mencatat tingkat keberhasilan lebih dari 60 persen. Meski demikian, AISI menekankan bahwa skenario terburuk tersebut dinilai kecil kemungkinannya terjadi dalam kondisi dunia nyata sehari-hari.
Pandangan Dalrymple diperkuat oleh kajian komunitas ilmiah internasional. Laporan independen yang dipimpin oleh Yoshua Bengio, seorang pakar AI asal Kanada, menyoroti tantangan baru dalam memahami, memantau, dan mengendalikan perilaku sistem AI tingkat lanjut. Laporan ini disusun sebagai bahan diskusi dalam pertemuan global AI Action Summit.
Sementara itu, kajian Future of Life Institute menyimpulkan bahwa praktik keselamatan di perusahaan AI besar, termasuk Anthropic, OpenAI, xAI, dan Meta, masih “jauh dari standar global yang sedang berkembang.” Temuan ini menegaskan bahwa tata kelola dan pengendalian risiko AI belum berjalan seiring dengan kecepatan inovasi teknologi.
Dalam konteks persaingan global untuk dominasi AI yang melibatkan negara, korporasi teknologi raksasa, dan pusat riset strategis, peringatan para pakar ini menempatkan dunia pada persimpangan krusial. Tahun-tahun mendatang akan menentukan apakah umat manusia mampu membangun kendali yang memadai, atau justru tertinggal di belakang kecerdasan buatan yang berkembang semakin otonom.
