Bill Gates memperingatkan bahwa kecerdasan buatan (AI) dapat memicu rangkaian peristiwa yang menewaskan hingga 1 miliar orang apabila jatuh ke tangan pihak yang berniat buruk. Dalam wawancara dengan NBC News, pendiri Microsoft itu mendesak pemerintah Amerika Serikat memperketat regulasi teknologi AI karena dampak penyalahgunaannya dinilai dapat sangat besar.
Gates mengatakan AI mungkin belum tentu mampu memusnahkan seluruh umat manusia. Namun, ia menilai belum pernah ada senjata dengan kekuatan sebesar perpaduan antara teknologi AI terbaru dan orang-orang yang memiliki niat jahat.
“AI tentu cukup kuat untuk memicu serangkaian peristiwa yang dapat menyebabkan satu miliar kematian. Jadi, meskipun cukup sulit untuk sampai pada kondisi yang memusnahkan 100 persen umat manusia, belum pernah ada senjata sekuat kombinasi antara orang-orang yang berniat buruk dan penggunaan teknologi AI terbaru,” kata Gates.
Kekhawatiran dari Peneliti AI
Peringatan mengenai risiko AI terhadap kelangsungan hidup manusia juga disampaikan Jacob Coxon pada 8 September kepada The Wall Street Journal. Coxon sebelumnya mengundurkan diri dari Anthropic, perusahaan AI yang berbasis di San Francisco, California. Ia menyatakan mundur karena khawatir sistem yang sedang dikembangkan perusahaan itu dapat berkembang di luar kendali dan membahayakan manusia.
Melalui unggahan di platform X, Coxon menulis bahwa orang-orang yang mengembangkan AI benar-benar meyakini teknologi tersebut berpotensi membunuh seluruh manusia pada akhir dekade ini. Unggahan itu kemudian mendapat perhatian besar dan telah dilihat lebih dari 100 juta kali dalam 24 jam.
Evan Hubinger, pemimpin bidang alignment science di Anthropic, turut memperkuat kekhawatiran tersebut. Alignment science merupakan upaya untuk memastikan tindakan model AI tetap sesuai dengan nilai-nilai manusia. Hubinger membagikan ulang unggahan Coxon dan menambahkan perkiraannya bahwa risiko kepunahan manusia berada di atas 10 persen dalam satu dekade mendatang.
Seruan Memperlambat Pengembangan AI
CEO Anthropic Dario Amodei kemudian menerbitkan sebuah esai yang menyerukan agar pengembangan AI diperlambat, bukan dihentikan. Seruan itu muncul di tengah kekhawatiran bahwa kemampuan sistem AI dapat berkembang lebih cepat daripada mekanisme pengawasan dan pengamanannya.
Gagasan Amodei tersebut mendapat dukungan dari pimpinan perusahaan AI pesaing. Sam Altman dari OpenAI yang berbasis di San Francisco serta Elon Musk dari xAI di Palo Alto, California, disebut mendukung perlunya memperlambat pengembangan teknologi tersebut.
Pernyataan Gates menambah rangkaian peringatan dari tokoh teknologi dan peneliti AI mengenai risiko penggunaan teknologi itu. Ia menekankan bahwa ancaman terbesar muncul ketika kemampuan AI yang sangat kuat digunakan oleh pihak dengan tujuan merusak, sehingga pemerintah diminta mengambil langkah regulasi yang lebih ketat.
