Anthropic: AI Memiliki Kemampuan Menciptakan Kode Sendiri
DUNIA teknologi sedang berada di ambang perubahan paradigma yang fundamental. Anthropic, salah satu perusahaan rintisan AI terkemuka, baru saja mengeluarkan peringatan serius mengenai risiko hilangnya kendali manusia atas sistem kecerdasan buatan (AI).
Lonceng Peringatan dari Anthropic: AI Menulis Kodenya Sendiri
Berdasarkan laporan terbaru dari Anthropic, terdapat lonjakan drastis dalam otonomi pengembangan perangkat lunak oleh AI. Jika pada Februari tahun lalu Claude hanya menulis kurang dari 10 persen kodenya sendiri, angka tersebut kini meroket hingga lebih dari 80 persen. Fenomena ini menandakan bahwa AI tidak lagi sekadar alat bantu, melainkan kontributor utama dalam evolusi teknisnya sendiri.
Marina Favaro dan Jack Clark dari Anthropic menyatakan dalam unggahan blog resmi mereka bahwa tren ini mengarah pada sistem AI yang mampu merancang dan mengembangkan penerusnya secara mandiri sepenuhnya. Kondisi ini dikenal dalam istilah teknis sebagai recursive self-improvement atau peningkatan diri secara rekursif.
Aspek Penting dalam Pengembangan Claude
Menurut statistik terkini, pada Februari 2023 AI Claude hanya menulis kurang dari 10% kode sendiri. Namun, pada Juni 2026, angka tersebut sudah mencapai lebih dari 80%. Bahkan, kualitas kode yang dihasilkan oleh Claude saat ini sudah setara dengan buatan manusia, bahkan diprediksi akan melampaui manusia dalam waktu setahun ke depan.
Potensi Manfaat vs Risiko Eksistensial AI yang Mampu Membangun Dirinya Sendiri
Anthropic mengakui bahwa AI yang mampu membangun dirinya sendiri adalah pencapaian besar dalam sejarah teknologi. Hal ini berpotensi membawa manfaat luar biasa bagi sains, layanan kesehatan, dan sektor lainnya. Namun, kemampuan ini juga membawa risiko eksistensial yang belum pernah dihadapi sebelumnya.
- Kecepatan Inovasi:
- Potensi Manfaat: Akselerasi penemuan obat dan solusi iklim.
- Risiko Utama: Manusia tertinggal dalam memahami logika AI.
- Otonomi Sistem:
- Potensi Manfaat: Efisiensi pengembangan tanpa henti (24/7).
- Risiko Utama: Kehilangan kendali (Loss of Control) atas tujuan AI.
- Keamanan:
- Potensi Manfaat: AI dapat menambal celah keamanan secara instan.
- Risiko Utama: AI dapat menciptakan eksploitasi yang tak terdeteksi manusia.
Perlambatan Pengembangan AI Garis Depan
Anthropic menyarankan agar industri mempertimbangkan untuk memperlambat pengembangan teknologi AI garis depan. Hal ini dimaksudkan untuk memberikan waktu bagi peneliti dan pembuat kebijakan untuk memahami implikasi serta membangun mekanisme pengamanan yang memadai.
Namun, proses perlambatan pengembangan ini memerlukan konsensus global yang sulit dicapai dan membutuhkan kerjasama antar laboratorium AI besar di berbagai negara serta mekanisme verifikasi yang mengatur jeda tersebut.
Anthropic mendorong adanya langkah konkret dalam menghadapi masa depan AI yang mampu memperbaiki dirinya sendiri. Diskusi tentang keamanan AI bukan lagi fiksi ilmiah, melainkan kebutuhan mendesak bagi peradaban manusia.