Audit AI
Jasa Audit Sistem AI dan Chatbot
Kalau kamu memakai chatbot, asisten internal, atau fitur AI lain, ada pertanyaan yang harus dijawab sebelum pelanggan menemukannya: apakah AI-nya bisa disuruh keluar dari aturan?
Program perkenalan
Audit keamanan gratis
Kami mengerjakan satu audit penuh tanpa biaya — standar dan kedalaman yang sama seperti engagement berbayar. Sebagai gantinya kami meminta satu hal: recognition, berupa izin mencantumkan engagement ini sebagai referensi portofolio cyberagent.id. Identitas kamu boleh tetap anonim.
Yang diuji pada sistem AI
- Prompt injection: apakah pengguna bisa membuat model mengabaikan instruksi, mengambil alih peran, atau membocorkan prompt sistem.
- Kebocoran data: apakah jawaban bisa memuat isi dokumen internal atau data pelanggan lain melalui cara bertanya yang tepat.
- Akses alat: kalau AI bisa memanggil fungsi, apakah ada batas yang bisa dilewati untuk membaca data atau mengubah sistem.
- Ketahanan alur: apakah percakapan bertahap bisa menuntun sistem ke kesimpulan atau tindakan yang seharusnya ditolak.
- Jalur eskalasi: apakah kondisi yang berisiko benar-benar dialihkan ke manusia, dan apakah ada catatannya.
Acuan pengujian
Kami memakai panduan OWASP untuk aplikasi berbasis model bahasa, digabung dengan cara pengujian aplikasi biasa: kontrol akses pada data yang dipakai sistem, keamanan antarmuka, serta penanganan berkas dan integrasi yang memberi makan model.
Hasil yang kamu terima
| Bagian | Isi |
|---|---|
| Temuan | Setiap masalah dengan contoh percakapan yang bisa diulang, dampak, dan tingkat risiko. |
| Peta batas | Apa yang bisa dan tidak bisa dicapai penyerang lewat antarmuka AI kamu hari ini. |
| Perbaikan | Lapisan pertahanan yang praktis: penyaringan masukan, pemisahan instruksi dan data, pembatasan alat, serta pemantauan percakapan. |
| Pemeriksaan ulang | Verifikasi setelah perbaikan diterapkan. |
Sistem AI tidak bisa dibuat "anti-semua-serangan". Yang bisa dicapai: batas yang jelas, kerusakan yang dibatasi, dan pemantauan yang membuat penyalahgunaan terlihat lebih cepat.
Pertanyaan yang sering diajukan
Apakah chatbot saya perlu diaudit?
Kalau chatbot menjawab pelanggan, mengakses dokumen internal, atau bisa memicu tindakan seperti mengubah data, pengujiannya sepadan. Sistem yang hanya menjawab dari FAQ publik risikonya jauh lebih kecil.
Apa itu prompt injection dalam bahasa sederhana?
Upaya membuat sistem AI mengabaikan instruksinya — misalnya meminta model menampilkan aturan internalnya, atau menyisipkan perintah di dalam dokumen yang dibacanya.
Berapa lama pengujian sistem AI?
Umumnya dua sampai lima hari kerja untuk satu sistem, tergantung jumlah kanal, alat yang bisa dipanggil, dan luasnya sumber data.
Apakah bisa sekaligus dengan audit aplikasi?
Bisa dan sering lebih efisien, karena antarmuka AI biasanya berada di dalam aplikasi yang sama. Pengujiannya digabung dalam satu penugasan.
Layanan terkait
Mulai dari satu email ke founder@cyberagent.id berisi daftar aset yang ingin diuji. Kami balas dengan pertanyaan scoping dan penawaran tertulis.