Kolaborasi Standar dan Kerangka Kerja Tata Kelola AI Global dalam Usaha Mengendalikan Penggunaan AI

Pesatnya perkembangan kecerdasan buatan (AI) membawa potensi inovasi yang luar biasa, namun di sisi lain menyimpan risiko etis dan teknis yang kompleks. AI mampu meningkatkan efisiensi, mempercepat proses pengambilan keputusan, dan menciptakan inovasi baru yang sebelumnya sulit diwujudkan. Namun, di balik manfaat tersebut, AI juga menghadirkan berbagai risiko seperti pelanggaran privasi, diskriminasi algoritma, penyebaran informasi palsu, penyalahgunaan data, hingga ancaman terhadap keamanan siber.

Kondisi tersebut mendorong berbagai organisasi internasional dan pemerintah dunia untuk mengembangkan standard dan framework tata kelola AI agar penggunaan teknologi ini tetap aman, transparan, bertanggung jawab, dan berorientasi pada manusia. Beberapa kerangka kerja yang saat ini banyak digunakan adalah NIST AI RMF, EU AI Act, ISO/IEC 42001, dan OECD AI Principles. Masing-masing framework memiliki fokus yang berbeda namun saling melengkapi. Oleh karena itu, kolaborasi antara standard dan framework tersebut dapat menjadi fondasi yang kuat dalam membangun tata kelola AI global yang efektif.

Artikel ini akan mengulas bagaimana integrasi antara empat pilar tata kelola AI global—NIST AI RMF, EU AI Act, ISO 42001, dan OECD AI Principles—dapat menciptakan ekosistem kendali yang komprehensif bagi organisasi.

Sebelum melangkah pada kolaborasi, kita perlu memahami karakteristik unik dari masing-masing instrumen berikut:

• OECD AI Principles: Merupakan komitmen antarnegara yang menetapkan standar internasional untuk AI yang dapat dipercaya. Fokus utamanya adalah pada nilai-nilai kemanusiaan, transparansi, dan akuntabilitas.
• NIST AI Risk Management Framework (RMF): Kerangka kerja dari Amerika Serikat yang bersifat sukarela namun sangat teknis. NIST menyediakan panduan mendalam tentang bagaimana mengelola risiko AI di sepanjang siklus hidupnya agar sistem menjadi lebih tangguh dan aman.
• EU AI Act: Peraturan komprehensif pertama di dunia dari Uni Eropa yang bersifat mengikat secara hukum. Pendekatannya berbasis risiko (risk-based approach), yang mengklasifikasikan sistem AI berdasarkan potensi bahaya yang ditimbulkannya.
• ISO/IEC 42001: Standar internasional pertama untuk Sistem Manajemen Kecerdasan Buatan (AIMS). Standar ini memberikan sertifikasi bagi organisasi dalam mengelola proses AI secara sistematis, mirip dengan ISO 27001 untuk keamanan informasi.

Menerapkan satu standar saja seringkali tidak cukup. Kolaborasi antar komponen dari keempat instrumen ini menciptakan sebuah blueprint tatakelola yang jauh lebih kuat. Kolaborasi antar framework memungkinkan organisasi memperoleh keseimbangan antara aspek etika, manajemen risiko, kepatuhan regulasi, dan kontrol operasional. Kolaborasi tersebut dapat dibuat dengan mengadopsi komponen komponen dari masing-masing standard atau framework tersebut. Bagian-bagian yang dapat dikolaborasikan adalah sebagai berikut:

• Pondasi Etika (OECD AI Principles): Organisasi mengadopsi prinsip human-centered sebagai filosofi dasar. Ini memastikan bahwa setiap inovasi AI yang dibuat bertujuan untuk kemasukan manusia, menghormati hak asasi, dan menjaga keberagaman. Pendekatan human-centered memastikan bahwa:

o   AI tidak merugikan manusia

o   Hak privasi tetap terlindungi

o   Tidak terjadi diskriminasi algoritma

o   Keputusan AI tetap dapat diawasi manusia

o    AI digunakan untuk kesejahteraan masyarakat

Dengan menjadikan OECD AI Principles sebagai landasan etika, organisasi dapat membangun budaya penggunaan AI yang bertanggung jawab.

• Klasifikasi Risiko (EU AI Act): Sebelum mengimplementasikan kontrol, organisasi menggunakan logika EU AI Act untuk mengelompokkan sistem AI berdasarkan tingkat risiko (Unacceptable, High, Limited, atau Minimal Risk). Hal ini membantu organisasi memprioritaskan sumber daya pada sistem yang paling berdampak kritis. Dengan pendekatan risk classification, organisasi dapat menentukan:

o   Sistem AI mana yang memerlukan pengawasan ketat

o   Tingkat dokumentasi yang diperlukan

o   Kebutuhan audit dan validasi

o   Tingkat kontrol keamanan

o   Tingkat transparansi kepada pengguna

Sebagai contoh:

o   Sistem AI pada sektor kesehatan dapat dikategorikan sebagai high-risk sehingga memerlukan pengujian dan kontrol ketat.

o   Chatbot layanan pelanggan mungkin hanya termasuk limited-risk dengan kebutuhan transparansi sederhana.

Pendekatan ini membantu organisasi memprioritaskan sumber daya pengendalian AI secara lebih efektif

• Siklus Tatakelola (NIST AI RMF Core): NIST menyediakan fungsi Core—Govern, Map, Measure, Manage—yang digunakan sebagai pedoman operasional harian. Ini memberikan struktur tentang bagaimana risiko diidentifikasi dan dikelola secara berkelanjutan. Struktur fungsi core tersebut juga dapat digunakan sebagai siklus hidup dalam implementasi tatakelola AI untuk sebuah organisasi. Pendekatan ini mendukung proses continuous improvement sehingga tata kelola AI dapat terus berkembang mengikuti perubahan teknologi dan ancaman baru.
• Langkah Kontrol Teknis (ISO 42001): Sebagai langkah eksekusi, Control Objectives dari ISO 42001 digunakan sebagai daftar periksa (checklist) teknis. Ini mencakup kontrol terhadap data, algoritma, hingga pengawasan manusia, memastikan kepatuhan dapat diukur dan diaudit. Dengan adanya kontrol yang terstruktur, organisasi dapat memastikan sistem AI tetap sesuai dengan regulasi, etika, dan kebutuhan bisnis.

Kolaborasi antara OECD AI Principles, NIST AI RMF, EU AI Act, dan ISO 42001 memberikan banyak manfaat bagi organisasi dalam mengendalikan penggunaan AI. Mengintegrasikan berbagai standar global ini bukan sekadar upaya pemenuhan regulasi, melainkan strategi bisnis yang cerdas. Dampak positif yang diharapkan dari kolaborasi tersebut diantaranya adalah:

• Tata Kelola AI yang Lebih Komprehensif
• Kepatuhan Global yang Adaptif
• Peningkatan Kepercayaan Stakeholder
• Mengurangi Risiko Penyalahgunaan AI
• Mendukung Keberlanjutan Inovasi AI

Perkembangan AI yang semakin pesat menuntut organisasi untuk memiliki tata kelola yang kuat, terstruktur, dan bertanggung jawab. NIST AI RMF, EU AI Act, ISO/IEC 42001, dan OECD AI Principles merupakan framework penting yang memiliki peran masing-masing dalam pengendalian penggunaan AI. Melalui pendekatan kolaboratif ini, organisasi dapat membangun penggunaan AI yang aman, etis, transparan, dan berkelanjutan. Tata kelola AI yang baik bukan hanya menjadi kebutuhan teknis, tetapi juga menjadi fondasi penting dalam menjaga kepercayaan masyarakat dan memastikan bahwa perkembangan AI tetap memberikan manfaat positif bagi manusia.