BRASIL, [KUPAS7.ID] — Rebeca Cardoso Tenente Molina tidak pernah membayangkan kunjungannya ke rumah sakit karena dugaan batu empedu akan berakhir dengan kematian. Psikolog berusia 32 tahun asal Minas Gerais, Brasil, itu sempat dirawat selama beberapa hari sambil menunggu tempat tidur di ruang perawatan intensif (ICU) yang dinilai sangat dibutuhkannya. Namun, tempat tidur itu tak kunjung datang. Keluarga Molina kini menuding sistem baru berbasis kecerdasan buatan (AI) yang digunakan pemerintah negara bagian telah ikut berperan dalam keterlambatan penanganan yang berujung pada kematiannya.
Menurut keluarga, kondisi Molina terus memburuk dari hari ke hari. Dokter yang menanganinya menilai ia membutuhkan perawatan intensif secepat mungkin. Akan tetapi, platform digital Core-MG yang digunakan untuk mengatur distribusi tempat tidur rumah sakit disebut tidak mengategorikan kasus Molina sebagai prioritas tertinggi.
Akibatnya, ia harus menunggu berhari-hari di tengah kondisi kesehatan yang terus menurun. Baru sekitar lima hari kemudian tersedia tempat tidur ICU di rumah sakit lain yang berjarak sekitar 300 kilometer dari lokasi perawatannya. Molina diterbangkan menggunakan pesawat pribadi menuju rumah sakit tersebut. Namun harapan itu datang terlambat. Beberapa jam setelah tiba, ia meninggal dunia.
Sertifikat kematiannya mencatat syok septik sebagai penyebab kematian. Hingga kini dokter masih berupaya memastikan penyebab pasti yang memicu kemunduran kesehatannya secara cepat. Kasus ini memicu perdebatan luas di Brasil setelah saudara kembar Molina, Samela Cardoso Tenente Furtado, mengungkap bahwa sistem AI memberi skor tingkat keparahan 6,8 terhadap kondisi adiknya. Menurut keluarga, angka tersebut jauh dari kondisi nyata yang dialami Molina.
“Saudari saya bukan angka. Dia bukan sekadar data sistem AI,” kata Furtado, sebagaimana diberitakan Russia Today pada Selasa (16/6/2026).
Ia mengaku khawatir keputusan yang sebelumnya berada di tangan dokter kini perlahan bergeser ke tangan algoritma yang bekerja berdasarkan perhitungan statistik.
“Para dokter kehilangan otonomi untuk memutuskan apakah seorang pasien sakit parah atau tidak,” ujarnya.
Core-MG sendiri baru diluncurkan bulan lalu oleh pemerintah Minas Gerais. Sistem tersebut dikembangkan untuk mempercepat distribusi tempat tidur rumah sakit sekaligus membantu mengurutkan pasien berdasarkan tingkat urgensi medis mereka. Pemerintah negara bagian membantah sistem tersebut menjadi penyebab kematian Molina. Otoritas kesehatan setempat menegaskan bahwa seluruh proses tetap berada di bawah pengawasan dokter dan penentuan pemindahan pasien bergantung pada kondisi klinis serta ketersediaan tempat tidur.
Meski demikian, kematian Molina kembali memunculkan pertanyaan yang semakin sering muncul di berbagai negara: sampai sejauh mana kecerdasan buatan boleh terlibat dalam pengambilan keputusan medis? Perdebatan serupa juga terjadi di Amerika Serikat. Sejumlah perusahaan asuransi menghadapi gugatan hukum setelah dituduh menggunakan algoritma untuk menolak klaim layanan kesehatan. Di New York, kelompok perawat bahkan memperingatkan bahwa beberapa rumah sakit mulai mengadopsi teknologi AI tanpa melibatkan tenaga kesehatan secara memadai.
Bagi sebagian kalangan, AI menjanjikan efisiensi dan kecepatan yang tidak mampu dicapai manusia. Namun bagi keluarga Molina, kemajuan teknologi justru meninggalkan pertanyaan yang menyakitkan. Bisakah AI Salah Menilai Kondisi Pasien?
Perkembangan kecerdasan buatan (AI) telah membawa perubahan besar dalam dunia kesehatan. Di berbagai negara, teknologi ini mulai digunakan untuk membantu rumah sakit mengelola keterbatasan sumber daya, termasuk menentukan prioritas pasien yang membutuhkan ruang perawatan intensif, tindakan medis tertentu, maupun layanan darurat lainnya. Sistem semacam itu bekerja dengan mengolah berbagai data medis, mulai dari hasil pemeriksaan laboratorium, tanda-tanda vital, riwayat penyakit, hingga indikator klinis lainnya. Berdasarkan data tersebut, algoritma kemudian memberikan skor atau tingkat prioritas yang digunakan untuk membantu pengambilan keputusan. Tujuannya adalah mempercepat respons dan memastikan sumber daya yang terbatas dapat diberikan kepada pasien yang paling membutuhkan.
Namun, para ahli mengingatkan bahwa AI bukanlah alat yang sempurna. Akurasi sistem sangat bergantung pada kualitas data yang dimasukkan dan kemampuan algoritma memahami kompleksitas kondisi pasien. Dalam praktiknya, tidak semua keadaan medis dapat diterjemahkan sepenuhnya ke dalam angka atau parameter yang tersedia dalam sistem. Kondisi kesehatan seseorang sering kali berkembang secara dinamis. Seorang pasien yang tampak stabil pada satu waktu dapat mengalami penurunan drastis dalam hitungan jam. Situasi seperti ini menjadi tantangan bagi sistem berbasis algoritma yang pada dasarnya bekerja berdasarkan data yang tersedia saat penilaian dilakukan.
Karena itu, muncul kekhawatiran ketika sistem AI mulai digunakan untuk membantu menentukan siapa yang lebih diprioritaskan mendapatkan akses layanan kesehatan. Dalam kondisi rumah sakit yang menghadapi keterbatasan tempat tidur, tenaga medis, atau fasilitas perawatan intensif, perbedaan skor yang sangat kecil dapat memengaruhi urutan prioritas pasien dalam antrean penanganan. Kasus yang terjadi di Brasil kembali memunculkan pertanyaan mengenai batas kemampuan AI dalam menilai kondisi manusia. Keluarga pasien meyakini bahwa tingkat kegawatan yang dialami korban tidak sepenuhnya tercermin dalam skor yang diberikan sistem. Mereka menilai kondisi klinis yang terus memburuk seharusnya menjadi pertimbangan yang lebih besar dibanding sekadar hasil perhitungan algoritma.
Di sinilah peran dokter tetap menjadi faktor yang tidak tergantikan. Kecerdasan buatan dapat membantu mengolah data dalam jumlah besar dengan cepat, tetapi pengalaman klinis, intuisi medis, dan kemampuan membaca kondisi pasien secara menyeluruh masih menjadi bagian penting dalam proses pengambilan keputusan. Banyak pakar kesehatan menekankan bahwa AI seharusnya berfungsi sebagai alat bantu, bukan pengganti penilaian manusia. Perdebatan tersebut kini semakin relevan seiring meluasnya penggunaan AI di sektor kesehatan dunia. Teknologi memang menawarkan efisiensi dan kecepatan, tetapi kasus-kasus seperti yang terjadi di Brasil menjadi pengingat bahwa di balik setiap data dan skor terdapat manusia dengan kondisi yang sering kali lebih kompleks daripada yang dapat dibaca oleh sebuah algoritma.
Dokter vs Algoritma, Siapa yang Harus Memegang Keputusan Akhir?
Kasus kematian Rebeca Cardoso Tenente Molina di Brasil tidak hanya memunculkan pertanyaan mengenai akurasi kecerdasan buatan (AI), tetapi juga membuka perdebatan yang lebih mendasar: ketika penilaian dokter berbeda dengan rekomendasi algoritma, siapa yang seharusnya memegang keputusan akhir? Dalam dunia medis, keputusan mengenai pasien selama ini berada di tangan dokter yang melakukan pemeriksaan langsung, mengamati perkembangan kondisi dari waktu ke waktu, serta mempertimbangkan berbagai faktor yang tidak selalu tercermin dalam data klinis. Namun, hadirnya AI mulai mengubah pola tersebut. Di sejumlah rumah sakit, algoritma kini digunakan untuk membantu menentukan tingkat prioritas pasien, memprediksi risiko komplikasi, hingga mengatur distribusi sumber daya yang terbatas.
Pendukung teknologi AI berpendapat bahwa mesin mampu mengolah data dalam jumlah besar dengan kecepatan yang jauh melampaui kemampuan manusia. Algoritma juga dinilai lebih konsisten karena tidak dipengaruhi kelelahan, tekanan kerja, maupun faktor emosional yang dapat memengaruhi pengambilan keputusan. Namun, para kritikus mengingatkan bahwa pasien bukan sekadar kumpulan angka dan variabel statistik. Kondisi medis sering kali berkembang di luar pola yang dapat diprediksi komputer. Seorang dokter mungkin melihat tanda-tanda bahaya yang belum sepenuhnya terekam dalam hasil laboratorium atau parameter yang digunakan sistem AI.
Persoalan menjadi semakin rumit ketika rekomendasi algoritma bertentangan dengan penilaian tenaga medis di lapangan. Dalam situasi seperti itu, apakah dokter berhak mengabaikan hasil AI? Ataukah mereka harus mengikuti sistem yang telah ditetapkan karena dianggap lebih objektif dan terstandarisasi? Perdebatan ini tidak hanya menyangkut aspek teknis, tetapi juga persoalan etika dan tanggung jawab hukum. Jika keputusan AI terbukti keliru dan menyebabkan kerugian bagi pasien, siapa yang harus bertanggung jawab? Apakah dokter yang menjalankan rekomendasi tersebut, rumah sakit yang mengadopsi sistem, pengembang teknologi, atau pemerintah yang mengizinkannya digunakan?
Sejumlah pakar bioetika menegaskan bahwa keputusan medis yang menyangkut hidup dan mati tidak boleh sepenuhnya diserahkan kepada algoritma. AI dapat berfungsi sebagai alat bantu yang berharga untuk mempercepat analisis dan meningkatkan efisiensi, tetapi keputusan akhir harus tetap berada di tangan manusia yang memahami konteks, kondisi, dan nilai kemanusiaan yang melekat pada setiap pasien. Kasus di Brasil menjadi pengingat bahwa kemajuan teknologi tidak serta-merta menghapus kebutuhan akan pertimbangan manusia. Sebab, ketika seseorang terbaring di ruang perawatan dalam kondisi kritis, yang dipertaruhkan bukan sekadar akurasi data atau efisiensi sistem, melainkan nyawa manusia. Dan hingga hari ini, belum ada algoritma yang mampu sepenuhnya menggantikan penilaian, empati, dan tanggung jawab moral seorang dokter.
Jangan Biarkan AI Bekerja Sendiri
Kemampuan kecerdasan buatan (AI) dalam mengolah data medis dalam jumlah besar telah membuka peluang baru bagi dunia kesehatan. Teknologi ini mampu menganalisis hasil pemeriksaan, memprediksi risiko penyakit, membantu diagnosis, hingga mendukung pengelolaan pasien dengan kecepatan yang sulit ditandingi manusia. Namun, di balik keunggulan tersebut, para ahli menegaskan satu prinsip yang tidak boleh diabaikan: AI tidak boleh bekerja tanpa pengawasan manusia. Prinsip ini dikenal sebagai human-in-the-loop, yaitu pendekatan yang menempatkan manusia tetap berada dalam rantai pengambilan keputusan. Dalam sistem ini, AI berfungsi sebagai alat bantu yang memberikan rekomendasi atau analisis, sementara keputusan akhir tetap berada di tangan dokter dan tenaga kesehatan yang memahami kondisi pasien secara menyeluruh.
Konsep tersebut lahir dari kesadaran bahwa kecerdasan buatan memiliki keterbatasan mendasar. AI hanya dapat bekerja berdasarkan data yang tersedia dan pola yang dipelajarinya. Sementara dalam dunia medis, tidak semua kondisi pasien dapat diterjemahkan ke dalam angka, grafik, atau parameter yang dapat dibaca algoritma. Dokter sering kali harus mempertimbangkan faktor-faktor yang sulit diukur secara digital, seperti perubahan perilaku pasien, ekspresi rasa sakit, kondisi psikologis, hingga intuisi klinis yang terbentuk dari pengalaman bertahun-tahun menangani kasus serupa. Unsur-unsur tersebut kerap menjadi pembeda antara keputusan yang tepat dan keputusan yang berisiko.
Karena itu, banyak organisasi kesehatan internasional menekankan bahwa AI seharusnya memperkuat kapasitas tenaga medis, bukan menggantikannya. Teknologi dapat membantu mempercepat analisis dan mengurangi beban administratif, tetapi tanggung jawab moral dan profesional terhadap pasien tetap berada pada manusia. Kasus yang terjadi di Brasil memperlihatkan mengapa prinsip tersebut menjadi semakin penting. Ketika keluarga pasien mempertanyakan hasil penilaian sistem digital yang dinilai tidak mencerminkan kondisi sebenarnya, muncul kekhawatiran bahwa algoritma telah memperoleh pengaruh terlalu besar dalam proses penentuan prioritas layanan kesehatan. Terlepas dari perdebatan mengenai penyebab kematian pasien, kasus tersebut menjadi pengingat bahwa sistem otomatis tidak boleh berjalan tanpa ruang koreksi dari manusia.
Para pakar etika teknologi juga mengingatkan bahwa AI tidak memiliki empati, rasa tanggung jawab, maupun kemampuan memahami konsekuensi moral dari sebuah keputusan. Algoritma dapat menghitung probabilitas, tetapi tidak dapat merasakan penderitaan pasien atau memahami dampak emosional yang ditanggung keluarga. Masa depan layanan kesehatan kemungkinan besar akan melibatkan kolaborasi yang semakin erat antara manusia dan mesin. Namun, keberhasilan kolaborasi tersebut bergantung pada satu prinsip sederhana: AI boleh membantu mengambil keputusan, tetapi tidak boleh menjadi satu-satunya pihak yang menentukan nasib manusia. Dalam urusan yang menyangkut kesehatan dan keselamatan jiwa, sentuhan pertimbangan manusia tetap menjadi lapisan perlindungan yang tidak tergantikan. (***)


