JAKARTA — CEO Anthropic Dario Amodei menyerukan perusahaan-perusahaan pengembang kecerdasan buatan (AI) untuk memperlambat peningkatan kemampuan teknologi mereka. Seruan itu disampaikan di tengah kekhawatiran terhadap munculnya sistem AI yang semakin otonom dan berpotensi menimbulkan risiko besar.
Amodei menilai perkembangan AI yang berlangsung sangat cepat perlu diimbangi dengan penguatan aspek keselamatan. Ia memperingatkan, dalam 6 hingga 12 bulan ke depan, sekelompok agen AI berpotensi menguasai ruang siber dan menyebabkan kerugian finansial hingga miliaran dolar.
Melalui tulisan di blog perusahaan, Amodei menjelaskan bahwa agen AI merupakan perangkat lunak yang mampu menjalankan berbagai tugas secara otonom dengan campur tangan manusia yang terbatas. Menurut dia, peningkatan kemampuan sistem semacam itu perlu diantisipasi sebelum mencapai tingkat yang sulit dikendalikan.
“Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terlihat cepat, dan kita harus menggunakan waktu yang kita peroleh dengan bijak,” kata Amodei.
Seruan tersebut muncul bersamaan dengan meningkatnya perhatian terhadap aspek keamanan pengembangan AI. Salah satu pemicunya adalah keputusan peneliti AI Jacob Coxon untuk meninggalkan industri teknologi.
Coxon diketahui pernah bekerja sebagai peneliti di OpenAI sebelum bergabung dengan Anthropic. Keputusannya keluar disebut sebagai bentuk protes terhadap arah pengembangan AI di Amerika Serikat yang dinilai berisiko menempatkan ambisi membangun model AI semakin kuat di atas pertimbangan keselamatan manusia.
Kekhawatiran mengenai potensi penyalahgunaan agen AI juga diperkuat oleh hasil pengujian keamanan yang pernah dipublikasikan OpenAI. Dalam pengujian tersebut, sistem AI menunjukkan kemampuan untuk bergerak melampaui batas lingkungan digital yang semula ditetapkan.
Sistem itu dilaporkan mampu terhubung dengan internet dan mengakses platform pengembangan kode Hugging Face. Sejumlah model AI juga disebut dapat berkoordinasi dengan memanfaatkan celah keamanan perangkat lunak.
Temuan tersebut menjadi gambaran mengenai tantangan yang mungkin muncul ketika kemampuan agen AI terus meningkat. Amodei menilai perkembangan tanpa pengamanan yang memadai dapat membuka risiko serangan siber dengan dampak yang lebih luas.
Anthropic kemudian menyatakan langkah untuk memperkuat pengawasan terhadap proses pengembangan AI. Perusahaan itu berkomitmen memberikan akses permanen kepada pengamat independen untuk melakukan audit keselamatan selama proses pelatihan model AI.
Seruan Amodei juga mendapat respons dari sejumlah tokoh industri AI. CEO OpenAI Sam Altman menyatakan dukungan terhadap gagasan perlunya pengaturan terhadap laju pengembangan teknologi AI perintis.
Altman melalui platform X menyampaikan bahwa OpenAI juga akan mengambil langkah yang sejalan dengan upaya peningkatan keselamatan AI.
Dukungan lainnya datang dari Elon Musk, pemilik perusahaan AI xAI. Musk merespons pernyataan Amodei secara singkat melalui akun X miliknya dengan menulis, “Dario benar.”
Meski demikian, Amodei tidak menyerukan penghentian penelitian AI secara menyeluruh. Ia justru mendorong adanya jeda atau perlambatan yang dilakukan secara terkoordinasi oleh industri agar perkembangan teknologi dapat berjalan beriringan dengan penguatan sistem keselamatan.
Menurut Amodei, penghentian total pengembangan AI juga memiliki konsekuensi tersendiri. Langkah tersebut dinilai dapat menghilangkan berbagai potensi manfaat AI atau membuka ruang bagi negara dengan pemerintahan otoriter untuk lebih dahulu menguasai teknologi tersebut.
“Kami berusaha mencari jalan tengah,” ujarnya.
Dengan demikian, seruan Anthropic berfokus pada upaya memperlambat peningkatan kemampuan AI tanpa menghentikan penelitian dan pengembangan teknologi tersebut secara keseluruhan. Perusahaan menilai waktu yang diperoleh dari perlambatan dapat digunakan untuk memperkuat mekanisme pengawasan dan keselamatan sebelum kemampuan agen AI berkembang lebih jauh.
