Peneliti Anthropic Ungkap Potensi AI yang Mampu Melakukan Swakelola Pelatihan

Pengembangan kecerdasan buatan atau AI kini memasuki babak baru dengan hadirnya sistem yang mampu meningkatkan kemampuannya sendiri secara mandiri. Langkah ini dipelopori oleh peneliti dalam program fellowship di perusahaan riset AI ternama, Anthropic.

Pada hari Jumat, Anthropic merilis makalah ilmiah berjudul Automated Researchers Can Reliably Mitigate Alignment Failures. Dokumen ini menguraikan bagaimana sistem AI secara konsisten memperbaiki performa model pada berbagai tolok ukur keselarasan atau alignment benchmarks.

Alignment dalam dunia AI merujuk pada upaya memastikan sistem kecerdasan buatan berperilaku sesuai dengan tujuan, preferensi, dan nilai-nilai etika manusia. Jika tidak selaras, AI berisiko memberikan jawaban berbahaya atau bias yang merugikan pengguna.

Sistem ini diuji menggunakan 10 tolok ukur untuk mendeteksi perilaku model yang tidak sesuai. Hasilnya cukup mengejutkan, karena sistem otomatis tersebut berhasil meningkatkan performa pada seluruh kategori tanpa menurunkan kinerja keseluruhan model.

Dipimpin oleh Chen Yueh-Han, metodologi ini meniru pola kerja peneliti manusia dalam skala yang jauh lebih cepat. Sistem akan meninjau literatur yang tersedia, mengajukan metode baru, lalu melatih model selama 30 menit secara berulang.

Metode yang terbukti efektif kemudian dipertahankan, sementara yang gagal segera dibuang oleh sistem. Pendekatan ini memungkinkan riset berjalan dalam skala besar dengan durasi yang efisien.

Hasil penelitian ini memberikan bukti awal bahwa penyelarasan otomatis pasca-pelatihan dapat segera diimplementasikan dalam waktu dekat. Hal ini memicu diskusi mengenai pengembangan swakelola rekursif, yaitu kemampuan AI untuk memperbaiki arsitektur internalnya sendiri tanpa intervensi manusia.

Jika AI mampu mengoptimalkan prosedur pelatihannya sendiri secara luas, peran periset manusia di masa depan akan menghadapi tantangan eksistensial. Peneliti mungkin harus beradaptasi dengan realitas di mana mesin bekerja lebih cepat dan efisien dibandingkan metode konvensional.

Makalah tersebut bahkan membandingkan performa Automated Alignment Researcher atau AAR dengan tenaga ahli manusia. Dalam pengujian, metode AAR terbukti mengungguli usulan peneliti berpengalaman dalam waktu rata-rata enam jam pengerjaan.

Dari sisi efisiensi biaya, perbandingannya cukup kontras. Penggunaan AAR hanya menghabiskan biaya sekitar USD 4 atau setara dengan Rp62.000 per jam untuk inferensi API. Angka ini jauh lebih rendah dibandingkan biaya operasional peneliti manusia yang mencapai USD 150 atau sekitar Rp2,3 juta per jam.

Meskipun demikian, para penulis makalah tetap menekankan beberapa batasan yang masih ada. Sistem otomatis ini hanya bekerja efektif selama tolok ukur yang digunakan mampu mencerminkan tujuan keselarasan yang diinginkan secara akurat.

Masih ada pekerjaan rumah besar untuk membangun serta memelihara tolok ukur tersebut agar tetap relevan dengan perkembangan teknologi. Selain itu, ketergantungan pada literatur riset yang ada tetap menuntut pembaruan data secara terus-menerus agar sistem tetap cerdas dan relevan.