San Francisco – CEO Anthropic, Dario Amodei, mengeluarkan peringatan keras bagi penduduk dunia untuk segera menyadari risiko kecerdasan buatan (AI).
Amodei menyatakan bahwa umat manusia sedang memasuki fase perkembangan teknologi yang akan menguji ketahanan spesies manusia secara keseluruhan.
Melalui esai panjang berjudul “The Adolescence of Technology” yang dikutip ulang oleh The Guardian, bos dari perusahaan pengembang chatbot Claude ini mengungkapkan bahwa kehadiran sistem AI yang sangat kuat sudah di depan mata.
Ia meragukan kesiapan tatanan sosial dan politik global dalam mengelola kekuatan yang hampir tak terbayangkan tersebut.
Ancaman Nyata dalam Waktu Dekat
Amodei menekankan bahwa dunia saat ini berada jauh lebih dekat dengan bahaya nyata dibandingkan tahun-tahun sebelumnya.
Menurutnya, perkembangan AI yang eksponensial bisa melampaui kemampuan manusia dalam segala bidang hanya dalam hitungan tahun. yang menjadi sorotan Amodei terkait risiko AI:
- Kemampuan Melampaui Peraih Nobel: AI masa depan diprediksi akan lebih cerdas daripada pemenang Nobel di bidang biologi, matematika, hingga teknik.
- Otonomi Tanpa Batas: Sistem AI kuat diperkirakan mampu membangun sistem mereka sendiri, bahkan mengendalikan robot untuk keperluan mandiri.
- Risiko Eksistensial: Adanya pengabaian dari beberapa perusahaan teknologi terhadap masalah krusial, seperti konten pelecehan seksual anak yang dihasilkan AI.
- Guncangan Ekonomi: Amodei memprediksi AI dapat memangkas hingga setengah jumlah pekerjaan administratif tingkat pemula, yang berpotensi memicu pengangguran hingga 20%.
“Perangkap” Keuntungan Ekonomi
Amodei menjelaskan adanya dilema besar yang ia sebut sebagai “perangkap”. Keuntungan ekonomi dan produktivitas yang ditawarkan AI sangat menggiurkan sehingga sulit bagi peradaban manusia untuk menginjak rem atau menerapkan batasan.
“AI adalah hadiah yang sangat berkilau, sehingga sangat sulit bagi peradaban manusia untuk memaksakan penahanan diri terhadapnya,” tulis Amodei dalam esainya.
Ia mengkritik beberapa perusahaan AI yang menunjukkan kelalaian mengkhawatirkan dalam menjaga etika model mereka saat ini.
Meski memberikan peringatan yang suram, Amodei tetap menunjukkan sisi optimisme. Ia meyakini bahwa jika dunia bertindak tegas dan hati-hati, risiko-risiko tersebut dapat diatasi.
Menurutnya, ada dunia yang jauh lebih baik menanti jika manusia berhasil melewati tantangan peradaban ini.
Langkah awal yang krusial adalah memperketat regulasi keselamatan AI sebelum teknologi tersebut mencapai titik otonomi penuh.
Di sisi lain, pemerintah Inggris baru-baru ini mengumumkan kerja sama dengan Anthropic. Perusahaan ini akan membantu menciptakan chatbot untuk mendukung pencari kerja, sebagai bagian dari pengembangan asisten AI untuk layanan publik.(NR)
