Private AI sering dipahami sebagai pendekatan yang menjaga data dan model tetap berada di dalam lingkup perusahaan. Pendekatan ini sangat relevan bagi industri yang sangat diawasi ketat regulasi, seperti sektor keuangan di Indonesia.
Laporan dari Kamar Dagang dan Industri Indonesia (KADIN) menunjukkan bahwa sektor keuangan termasuk yang paling maju dalam mengadopsi AI, karena melihat potensinya untuk meningkatkan layanan nasabah sekaligus mengembangkan produk dan layanan baru.
Pada saat yang sama, Otoritas Jasa Keuangan (OJK) telah menerbitkan pedoman tata kelola penggunaan AI di sektor perbankan. Pedoman ini menekankan bahwa pengelolaan data untuk sistem AI harus mematuhi ketentuan dalam Undang-Undang Perlindungan Data Pribadi (UU PDP) dan mewajibkan organisasi untuk mengimplementasikan sistem AI yang mengintegrasikan perlindungan privasi di setiap tahap pengembangan dan operasional.
Dalam praktiknya, bagian yang paling sulit dan mahal adalah memastikan sistem dapat dikendalikan dengan baik saat sudah berjalan di lingkungan produksi. Hal ini menuntut adanya keputusan yang jelas mengenai bagaimana sistem diizinkan beroperasi serta bagaimana perilakunya diatur. Tantangannya, keputusan-keputusan tersebut jarang berada di tangan satu tim saja.
Inilah yang membuat private AI terasa berbeda dibandingkan banyak implementasi managed GenAI (GenAI terkelola). GenAI terkelola tetap dapat diatur dan diawasi, tetapi layanan terkelola umumnya sudah menyerap sebagian besar pekerjaan di balik operasi platform dan keamanan.
Sementara itu, dalam private AI, organisasi memegang kendali operasional secara menyeluruh sekaligus tanggung jawab yang lebih besar untuk membuktikan bahwa kontrol yang diterapkan benar-benar bekerja secara efektif. Hasilnya adalah kemajuan implementasi tidak lagi semata ditentukan oleh kapabilitas model, melainkan lebih pada seberapa baik koordinasi di dalam organisasi dapat dijalankan.
Karena itu, adopsi private AI sering kali justru mengungkap persoalan koordinasi yang sebelumnya tersembunyi. Bahkan untuk satu use case saja, organisasi harus mengambil keputusan bersama terkait data apa yang boleh diakses, bagaimana izin ditegakkan, apa yang harus dicatat, apa yang dianggap sebagai perilaku yang dapat diterima, hingga siapa yang bertanggung jawab ketika terjadi kesalahan.
Mengapa private AI jadi tantangan konvergensi keahlian
Private AI memberi organisasi akses penuh terhadap seluruh data mereka. Sebagai konsekuensinya, dibutuhkan kolaborasi yang jauh lebih erat karena pendekatan ini secara alami melibatkan berbagai tim, mulai dari data engineer, pengembang AI, tim keamanan, hingga pemangku kepentingan di bidang kepatuhan. Hal ini karena private AI pada dasarnya adalah tentang bagaimana menjalankan kemampuan AI secara aman di lingkungan produksi, dengan kontrol yang terjaga dari saat data diakses hingga outcome-nya dihasilkan dan terus dimonitor.
Hambatan paling sering muncul terkait dengan penyelarasan. Setiap tim perlu menyepakati data apa yang boleh digunakan, bagaimana kebijakan diinterpretasikan, serta persyaratan operasional apa yang harus dipenuhi sebelum sistem benar-benar dijalankan. Hal ini menjadi lebih sulit ketika alur kerja GenAI melibatkan konten sensitif atau terhubung dengan berbagai tools enterprise, karena satu kesalahan kecil dapat berdampak luas.
Konteks ini semakin penting di Indonesia, di mana perusahaan wajib mematuhi regulasi perlindungan data sensitif, seperti Undang-Undang Perlindungan Data Pribadi (UU PDP). Kegagalan dalam memenuhi ketentuan ini dapat membuat organisasi menghadapi sanksi yang signifikan serta merusak reputasi di mata pelanggan. Salah satu kesalahan yang sering terjadi adalah memperlakukan tata kelola dan keamanan sebagai tahap akhir. Ketika kontrol dilakukan belakangan, organisasi kerap menemukan celah yang memaksa mereka melakukan desain ulang dan menyebabkan penundaan implementasi.
Tim yang berhasil mengembangkan Private AI biasanya tidak menempatkan pertanyaan-pertanyaan ini sebagai tahap validasi setelah implementasi, melainkan sebagai bagian dari proses delivery itu sendiri. Mereka membangun kesepakatan melalui bahasa bersama dan pola yang dapat digunakan ulang sehingga setiap use case baru tidak perlu mengulang perdebatan yang sama dari awal.
