Pemanfaatan AI yang Meningkat, Pentingnya Tata Kelola dan Pengawasan oleh Komite Audit

1 4 minutes read

Jakarta – Adopsi teknologi kecerdasan buatan (AI) yang semakin cepat di sektor korporasi membawa dampak signifikan, baik dalam hal efisiensi operasional maupun tantangan terkait pengawasan. Dengan meningkatnya penggunaan AI, muncul beragam risiko, termasuk potensi kebocoran data, disinformasi, dan dampak negatif bagi reputasi perusahaan. Untuk menangani isu-isu ini, BDO Indonesia bekerja sama dengan Ikatan Komite Audit Indonesia (IKAI) mengadakan forum bertajuk AI Governance: Practical Oversight Strategies for Audit Committee di Flavor Junction, Prudential Tower, Jakarta pada 15 Oktober 2026. Acara ini dihadiri oleh para pemimpin dan pengawas dari berbagai entitas bisnis, termasuk Dewan Komisaris, Komite Audit, Komite Pemantau Risiko, dan Direksi dari BUMN, perusahaan terbuka, sektor swasta, serta lembaga negara. Forum ini berfungsi sebagai platform strategis untuk memperluas jejaring dan memperdalam pemahaman tentang fungsi pengawasan di tengah kemajuan teknologi yang pesat.

Urgensi Pengawasan dan Kolaborasi Komunitas

Dalam sambutannya, Ketua Dewan Pengurus IKAI, Maliki Heru Santosa, menekankan pentingnya pertukaran pengalaman di antara anggota sebagai upaya untuk memperkuat pelaksanaan fungsi komite audit. Menurutnya, kolaborasi dan pembaruan pengetahuan secara berkelanjutan menjadi kunci bagi komite audit untuk tetap relevan menghadapi dinamika tantangan industri yang terus berubah. Pandangan ini sejalan dengan yang disampaikan oleh Humbul Kristiawan, Chief Strategy Officer BDO Indonesia dan Anggota Dewan Pengurus IKAI, yang menggarisbawahi perlunya sinergi antara praktisi dan komunitas audit untuk meningkatkan kesiapan organisasi dalam melaksanakan pengawasan yang lebih efektif.

Thano Tanubrata, CEO BDO Indonesia, juga menyoroti ancaman kebocoran data yang dapat merusak kepercayaan pelanggan dan mengganggu kelangsungan bisnis. Ia menekankan bahwa adopsi AI yang cepat harus diimbangi dengan kebijakan yang jelas, pengendalian yang ketat, dan tata kelola yang memadai untuk memitigasi risiko finansial dan reputasi. “Kebocoran data dapat menyebabkan kerugian finansial yang besar dan merusak reputasi. Komite audit perlu memastikan bahwa organisasi memiliki tata kelola yang baik agar implementasi AI tetap menjaga kepercayaan pelanggan serta keberlangsungan bisnis,” tegas Thano.

Identifikasi dan Mitigasi Risiko

Reza Aminy, Associate Director IT & Digital BDO Indonesia, berbagi wawasan mengenai berbagai potensi risiko yang terkait dengan penggunaan AI. Beberapa di antaranya mencakup penyalahgunaan teknologi deepfake untuk menyamar sebagai pimpinan dalam rapat daring, kemungkinan kesalahan pada jawaban sistem chatbot, serta penggunaan data internal yang sensitif oleh penyedia layanan AI. Menurut Reza, penting untuk menyiapkan tata kelola yang matang sebelum implementasi AI di perusahaan.

Penerapan AI yang bertanggung jawab harus didasarkan pada kejelasan tujuan penggunaan, penunjukan penanggung jawab yang jelas, serta pengembangan skema pengendalian risiko yang terperinci. Semakin tinggi risiko yang dihadapi, terutama dalam interaksi langsung dengan pelanggan atau pengolahan data sensitif, semakin ketat pengawasan yang diperlukan. Selain itu, keterlibatan manusia dalam proses pengawasan (human-in-the-loop) menjadi elemen krusial untuk memastikan bahwa setiap keputusan berbasis AI dapat dipertanggungjawabkan.

Peningkatan Kapasitas dan Evaluasi Berkala

Upaya pengawasan juga harus didukung oleh evaluasi berkala serta peningkatan kompetensi bagi auditor internal. Auditor perlu dilengkapi dengan pengetahuan terbaru mengenai AI dan tata kelola yang baik untuk dapat melaksanakan fungsi pengawasan secara efektif. Pelatihan dan workshop yang berfokus pada AI Governance dapat menjadi langkah strategis untuk mempersiapkan auditor menghadapi tantangan yang muncul akibat perkembangan teknologi ini.

Di samping itu, penting bagi organisasi untuk membangun budaya kesadaran akan risiko yang terkait dengan penggunaan AI. Semua karyawan, terutama yang terlibat langsung dengan teknologi ini, harus memahami potensi bahaya serta cara mitigasinya. Dengan demikian, tata kelola AI tidak hanya menjadi tanggung jawab komite audit, tetapi juga melibatkan seluruh elemen organisasi.

Implementasi Tata Kelola AI yang Efektif

Dalam konteks implementasi tata kelola AI yang efektif, perusahaan perlu merumuskan kebijakan yang jelas terkait penggunaan teknologi ini. Kebijakan tersebut harus mencakup berbagai aspek, mulai dari keamanan data hingga etika penggunaan AI. Selain itu, perusahaan harus menetapkan kerangka kerja yang mengatur bagaimana keputusan yang diambil oleh sistem AI dapat dipertanggungjawabkan.

Beberapa langkah yang dapat diambil untuk memastikan tata kelola AI yang baik antara lain:

Menyusun pedoman etika untuk penggunaan AI di dalam organisasi.
Membangun sistem pengawasan yang transparan untuk memantau keputusan yang diambil oleh AI.
Menetapkan kriteria yang jelas untuk penunjukan penanggung jawab dalam proyek AI.
Melakukan audit berkala terhadap sistem AI untuk memastikan kepatuhan terhadap kebijakan yang telah ditetapkan.
Mengadakan sesi pelatihan bagi karyawan untuk meningkatkan pemahaman mereka mengenai tata kelola AI.

Peran Komite Audit dalam Tata Kelola AI

Komite audit memiliki peran penting dalam memastikan bahwa tata kelola AI dilaksanakan dengan baik. Mereka harus melakukan evaluasi terhadap kebijakan dan praktik yang ada, serta memberikan rekomendasi untuk perbaikan yang diperlukan. Selain itu, komite audit juga perlu berkolaborasi dengan departemen lain, seperti IT dan manajemen risiko, untuk menciptakan pendekatan yang holistik dalam pengawasan AI.

Dalam menjalankan fungsinya, komite audit perlu fokus pada beberapa aspek kunci:

Menilai efektivitas kebijakan tata kelola AI yang ada.
Mengidentifikasi potensi risiko yang mungkin muncul dari penggunaan AI.
Memastikan adanya mekanisme pengendalian yang memadai untuk mitigasi risiko.
Melakukan komunikasi yang efektif dengan pemangku kepentingan lainnya mengenai status dan tantangan yang dihadapi dalam pengawasan AI.
Menjaga agar tata kelola AI tetap sejalan dengan regulasi dan standar industri yang berlaku.

Kesimpulan dan Harapan ke Depan

Dengan pesatnya perkembangan teknologi kecerdasan buatan, penting bagi organisasi untuk menyiapkan tata kelola yang baik serta pengawasan yang efektif. Komite audit berperan sentral dalam memastikan bahwa penggunaan AI dilakukan secara bertanggung jawab dan tidak mengorbankan integritas organisasi. Melalui kolaborasi yang kuat antara berbagai pemangku kepentingan, serta peningkatan kapasitas dan pemahaman tentang risiko, kita dapat menciptakan lingkungan yang aman dan berkelanjutan bagi penerapan AI di dunia bisnis.

Ke depan, diharapkan bahwa penerapan AI di organisasi tidak hanya membawa manfaat dalam hal efisiensi dan inovasi, tetapi juga berjalan seiring dengan prinsip-prinsip tata kelola yang baik. Dengan demikian, kepercayaan pelanggan dan keberlangsungan bisnis dapat terjaga, sehingga menciptakan ekosistem bisnis yang lebih kuat dan berkelanjutan.