OpenAI Kenalkan Proteksi Privasi Pelanggan Baru, Bersaing Ketat dengan Anthropic

Pendekatan ini jelas kontras dengan kebijakan retensi data yang baru-baru ini diumumkan oleh Anthropic. Kebijakan tersebut, yang menimbulkan kekhawatiran bagi sebagian pelanggan, memungkinkan laboratorium AI itu untuk menyimpan data pengguna—termasuk semua sesi dan percakapan di dalamnya—selama 30 hari untuk "model-model tertentu."

Model-model yang dimaksud mencakup semua model kelas Mythos dan "model-model masa depan dengan kapabilitas serupa," demikian penjelasan dari Anthropic. Kebijakan yang diumumkan pada Juli itu dirancang untuk tujuan keamanan, memungkinkan laboratorium menganalisis potensi penyalahgunaan data.

Namun, kebijakan ini sangat mengkhawatirkan beberapa perusahaan yang menangani volume data sensitif yang besar.

Mereka tidak ingin datanya disimpan atau diperiksa oleh laboratorium AI tersebut.

OpenAI, seperti kebanyakan perusahaan AI lainnya, sudah menawarkan tingkat privasi yang relatif kepada pelanggan dengan mematuhi kebijakan yang dikenal sebagai Zero Data Retention (ZDR). ZDR menggunakan agen-agen dalam OpenAI API untuk memantau penyalahgunaan berdasarkan setiap sesi.

Dengan cara ini, data pelanggan tidak disimpan oleh perusahaan, tetapi perusahaan tetap dapat memindai aktivitas buruk tanpa memerlukan intervensi manusia. Anthropic juga secara umum mematuhi ZDR, kecuali untuk "model-model tertentu" seperti Fable.

OpenAI menyatakan bahwa Private Safety Processing adalah teknologi baru yang memperluas cakupan ZDR.

Sistem ini digambarkan sebagai bentuk pemantauan keamanan jangka panjang yang menilai masukan dan keluaran dari beberapa percakapan, bukan hanya satu sesi.

Pemantauan ini dilakukan oleh sebuah agen, yang jika terpicu, akan menangkap interaksi dan menganalisisnya di berbagai sesi untuk mencari tanda-tanda potensi penyalahgunaan. Teknologi baru ini membantu OpenAI mendeteksi penggunaan AI berbahaya yang terjadi selama beberapa sesi, kata seorang juru bicara kepada TechCrunch.

Seorang aktor jahat, misalnya seseorang yang mencoba merekayasa malware untuk serangan siber, mungkin menyebarkan permintaannya untuk menghindari deteksi. Private Safety Processing dapat menganalisis berbagai percakapan tersebut untuk mencari tanda-tanda penyalahgunaan tanpa tinjauan manusia terhadap percakapan pengguna.

Jika sistem terpicu, ia dapat mengirimkan "sinyal yang didefinisikan secara sempit" kepada OpenAI yang memperingatkan jenis aktivitas tertentu.

Berdasarkan sinyal tersebut, OpenAI kemudian dapat memutuskan apakah "penegakan hukum diperlukan."

Jika ya, OpenAI akan menghubungi pelanggan untuk konteks lebih lanjut atau bekerja sama dengan mereka menangani masalah tersebut, dan pelanggan dapat memilih untuk membagikan data dengan OpenAI sesuai kebijaksanaan mereka, kata juru bicara itu. Sebaliknya, Anthropic mencatat bahwa tinjauan manusia terhadap data pelanggan dapat terjadi.

Proses tinjauan itu hanya dilakukan "melalui jalur akses terkontrol" yang melibatkan "sekelompok kecil peninjau yang disetujui." Setiap sesi tinjauan tersebut "dicatat dalam log yang tidak dapat dirusak atau dimodifikasi oleh peninjau," kata perusahaan itu.

Persaingan korporat antara OpenAI dan Anthropic saat ini sangat ketat. Kedua perusahaan mencari setiap kesempatan untuk mendapatkan keunggulan satu sama lain.

Sebuah laporan baru-baru ini menunjukkan bahwa pertumbuhan kuartal kedua OpenAI lebih lambat dari Anthropic.

Laju pendapatan tahunan (annualized revenue run rate) Anthropic kini dilaporkan mencapai USD 65 miliar (sekitar Rp1.053 triliun). Investor Anthropic menyebut bahwa perusahaan tersebut dapat melantai di bursa dengan valuasi USD 2 triliun (sekitar Rp32.400 triliun), sementara OpenAI juga tengah mempersiapkan penawaran umum perdana (IPO) mereka.