Isu seputar tata kelola dan etika pemanfaatan teknologi digital

Strengthening Health Data Governance: Leadership and Action

Teknologi AI membawa serangkaian risiko dan tantangan yang unik, seperti pengumpulan data yang tidak etis, ancaman keamanan siber, dan memperkuat bias, yang harus ditangani. Tanpa sistem peraturan dan penegakan hukum yang efektif dan kuat, solusi kesehatan AI dapat memiliki akses ke informasi pribadi yang sensitif, membahayakan privasi, keamanan kesehatan, dan merusak kolaborasi. Hal ini mengakibatkan bias, ketidakpercayaan, ketidakakuratan, dan ketidakefektifan dalam sistem kesehatan. Kurangnya mekanisme tata kelola juga berkontribusi pada lambatnya adopsi solusi AI dalam sistem kesehatan. Pemerintah ragu-ragu untuk menyetujui teknologi tanpa bukti keamanan dan efektivitas; pengembang teknologi tidak memiliki jalur yang jelas menuju sertifikasi atau kesesuaian dengan peraturan; dan perusahaan sektor swasta dibiarkan mengembangkan kerangka etika tanpa mandat pemerintah untuk melindungi kebaikan publik.

Oleh karena itu, kerangka kerja, tata kelola dan mekanisme regulasi yang kuat serta responsif diperlukan untuk menetapkan keamanan dan efektivitas sistem AI dengan menerapkan standar AI yang bertanggung jawab ke dalam praktik aktual. Penggunaan kotak pasir regulasi  (regulatory sandbox) untuk inovasi yang aman, promosi model AI terbuka, dan penggunaan AI dalam teknologi kepatuhan (compliance) menghadirkan opsi menarik untuk dijelajahi saat membangun ekosistem regulasi untuk AI dalam kesehatan.

Ekosistem yang kuat akan membantu mengurangi risiko, memastikan pondasi AI tetap berakar kuat pada prinsip-prinsip etika dan penghormatan terhadap hak asasi manusia, serta membangun kepercayaan untuk penerimaan jangka panjang dan keberhasilan kemajuan yang didukung AI di sektor kesehatan.

Data is Power! Confronting Data Colonialism, Ownership Issues and Hidden Biases

Di era AI saat ini, data memiliki signifikansi yang belum pernah terjadi sebelumnya di berbagai sektor, terutama dalam perawatan kesehatan. Tanpa data yang memadai, pengembangan dan fungsionalitas AI akan sangat terhambat. Oleh karena itu, terbukti bahwa data berfungsi sebagai landasan dasar untuk kemajuan AI dalam perawatan kesehatan.

Data adalah sumber daya penting, dan sama pentingnya untuk kesehatan serta pembangunan seperti yang lain, termasuk energi, mineral, dan bahan baku. Di sektor kesehatan, data sangat penting untuk analisis dan kemajuan dari semua jenis. Data semakin penting karena semakin banyak teknologi dan layanan, dan inovasi yang dibangun di atasnya. Segala sesuatu mulai dari AI generative, uji coba farmasi hingga regulasi yang efektif berpusat pada data. Dengan demikian, kontrol data semakin diperebutkan, baik karena kepentingan komersial, barang publik, atau sebagai fondasi masyarakat demokratis. Kontestasi yang berkembang di semua bidang, termasuk dalam kesehatan populasi dan perawatan kesehatan menciptakan banyak tantangan.  termasuk kesetaraan dan kontroversi etika seperti (1) kolonialisme data, (2) kepemilikan data, dan (3) bias dari ketidaksetaraan dalam pengumpulan, pengelolaan, penggunaan, dan penerapan data.

Kolonialitas digital mengacu pada pelaksanaan kekuasaan yang tidak adil dan tidak setara atas data dan manfaatnya, dimana data dapat dilihat mirip dengan industri ekstraktif lainnya. Seperti halnya emas dan komoditas berharga lainnya, data ditambang di negara-negara berkembang dan dikirim ke negara-negara kaya, dimana data disempurnakan menjadi bentuk kredit dan digunakan untuk kemajuan karir, dieksploitasi secara ekonomi, dan dikendalikan dengan langkah-langkah hukum dan teknis. Secara umum, ini berarti bahwa penggunaan data menguntungkan konglomerat teknologi dan organisasi lain yang berlokasi di utara dunia, dengan sedikit jika ada manfaat yang diperoleh orang-orang yang tubuh, kehidupan, dan pengalamannya terdiri dari sumber daya asli.

Selain itu, dengan mitra pembangunan dan organisasi internasional menjadi pengguna yang paling sering dengan tingkat permintaan yang tinggi dan pemodal utama sistem informasi, muncul kekhawatiran bahwa hal ini dapat menghalangi kebutuhan dan pemanfaatan domestik oleh dan untuk negara-negara ini. Klaim kepemilikan lokal meningkat sebagai masalah, terutama dalam akses dan penerapan data untuk manfaat kesehatan. Di sisi lain, kapasitas lokal dalam pengumpulan, pengelolaan, dan analisis data tetap menjadi ujian untuk masalah kepemilikan lokal.   

Isu penting lainnya adalah pemahaman konteks lokal dalam kasus ahli ilmu data yang secara geografis atau sosio-demografis jauh dari subjek data. Bias yang tidak disengaja (dan terkadang disengaja) terhadap populasi yang rentan dan bias representasi dapat muncul dari situasi seperti itu. Selain itu, pengembangan infrastruktur data canggih seperti pembelajaran mesin dan kecerdasan buatan dapat lebih fokus pada data yang dapat dibaca mesin sambil mengabaikan bentuk lokal dan data di atas kertas, yang masih digunakan di banyak negara berpenghasilan rendah dan menengah.

Untuk mengatasi masalah yang meluas ini, diperlukan strategi yang mempertimbangkan kebutuhan kesehatan domestik dan mengatasi masalah representasi dan kepemilikan untuk meningkatkan ketersediaan, aksesibilitas, dan kegunaan kapasitas lokal data dalam pengumpulan dan penggunaan data untuk memastikan penerapan data berkualitas yang adil dan etis untuk kesehatan. Kualitas dan keseimbangan kumpulan data, inklusi dimensi gender dan aspek sosial-budaya, serta kebijakan publik khusus perlu dipertimbangkan untuk mengatasi bias, terutama terhadap populasi yang rentan.

Meskipun demikian, kompleksitas dan kelimpahan data kesehatan per individu, ditambah dengan dimensi multifaset dari data tersebut, menghadirkan tantangan yang berat. Selain itu, memastikan keamanan kumpulan data yang sangat sensitif ini tetap menjadi perhatian penting.

Kemudian untuk memanfaatkan potensi data kesehatan untuk kepentingan publik dan hasil kesehatan yang lebih baik, sekaligus mengelola risiko, melindungi hak-hak individu, dan memastikan data masyarakat terlindungi dari penyalahgunaan, penting untuk memperkuat tata kelola data kesehatan melalui undang-undang dan peraturan yang lebih kuat, efektif, dan adil.

Sementara beberapa negara mengambil langkah-langkah untuk mengatasi hal ini, pendekatannya bervariasi. Salah satunya bersatu dengan negara lain dan pemangku kepentingan lainnya, hal ini memberikan kesempatan untuk membangun pengalaman dan praktik yang baik, dan membangun tingkat konsensus seputar elemen-elemen penting yang harus ditangani melalui undang-undang dan regulasi nasional.

Untuk mendukung hal ini, Transform Health dan mitra-mitranya, termasuk AeHIN, HELINA, RECAINSA, OECD dan CDC Afrika, telah mendukung pengembangan rancangan model law tentang tata kelola data kesehatan, mengartikulasikan elemen inti, panduan legislatif, dan teks hukum sebagai referensi.

Model law ini didukung oleh kesetaraan dan prinsip-prinsip berbasis hak (didukung oleh lebih dari 150 organisasi dan pemerintah), dan mengambil inspirasi dari tinjauan lanskap legislatif dan peraturan nasional di lebih dari 30 negara, Rekomendasi OECD tentang Tata Kelola Data Kesehatan (dipatuhi oleh 38 negara anggota OECD), serta berbagai instrumen, komitmen, dan praktik terbaik nasional, regional, dan internasional lainnya. Model ini telah dikembangkan melalui proses konsultatif dari bawah ke atas, melibatkan hampir 1000 pemangku kepentingan dari seluruh dunia. Hal ini termasuk tujuh konsultasi multi-pemangku kepentingan regional (diselenggarakan oleh AeHIN, HELINA dan RECAINSA) yang melibatkan 500+ pemangku kepentingan dari 65+ negara untuk menginformasikan draft awal dan periode konsultasi publik tentang draft tersebut, yang mencakup 16 konsultasi nasional, regional dan pemuda, survei yang disebarluaskan secara luas dan wawancara ahli untuk mengumpulkan umpan balik.

Model law ini berfungsi sebagai titik awal untuk membangun konsensus seputar bidang-bidang inti yang harus ditangani melalui kerangka kerja nasional, sambil menyediakan cetak biru dan sumber daya untuk kerangka kerja global dan perjanjian berbagi data yang sangat dibutuhkan.

Pesan terakhir dari PMAC adalah walaupun AI adalah bagian dari masa depan yang tidak terelakkan,
namun masa depan AI ditentukan oleh manusia, oleh karena itu AI harus diarahkan oleh prinsip-prinsip etika. 

(Reporter: Shita Dewi - PKMK FKKMK UGM)

Link Terkait:

1. Isu seputar pemanfaatan teknologi digital untuk pembiayaan kesehatan yang lebih efisien dan efektif
2. Isu seputar pengembangan kapasitas tenaga kesehatan di era teknologi digital
3. Pemanfaatan teknologi digital untuk pelayanan Kesehatan di isu-isu prioritas global
4. Isu seputar tata kelola dan etika pemanfaatan teknologi digital