Refleksi Teologis Teknologis – KeuskupanAtambua.org – Kecerdasan Manusiawi dan Kecerdasan Buatan menurut Ensiklik Magnifica Humanitas oleh Paus Leo XIV – oleh Romo Yudel Neno
Perkembangan kecerdasan buatan telah membawa manusia memasuki salah satu persimpangan paling menentukan dalam sejarah peradabannya. Manusia tidak lagi sekadar menciptakan alat untuk memperpanjang kemampuan tangannya, mempercepat langkah kakinya, atau memperkuat daya fisiknya. Kini manusia menciptakan sistem yang mampu mengolah bahasa, mengenali pola, menghasilkan gambar, menyusun argumentasi, memprediksi perilaku, membantu pengambilan keputusan, bahkan meniru bentuk-bentuk tertentu dari komunikasi manusia. Karena itulah persoalan kecerdasan buatan tidak dapat direduksi menjadi pertanyaan teknis tentang seberapa canggih suatu mesin dapat bekerja. Pertanyaan yang jauh lebih mendasar ialah: manusia seperti apakah yang sedang dibentuk oleh teknologi yang diciptakannya sendiri?
Pertanyaan antropologis inilah yang menjadi salah satu jantung Ensiklik Magnifica Humanitas Paus Leo XIV. Ensiklik tersebut tidak berangkat dari sikap anti-teknologi. Sebaliknya, Paus memandang teknologi sebagai bagian dari sejarah kreativitas manusia dan karena itu sebagai suatu “realitas yang sangat manusiawi”. Namun, justru karena teknologi lahir dari kebebasan manusia, teknologi tidak boleh dilepaskan dari pertanyaan mengenai tanggung jawab, tujuan, moralitas, keadilan dan kebaikan bersama. Tantangan terbesar zaman kecerdasan buatan dengan demikian bukan pertama-tama bagaimana menciptakan mesin yang semakin menyerupai manusia, melainkan bagaimana memastikan agar manusia tidak semakin menyerupai mesin.
Kecerdasan Buatan dan Pertanyaan tentang Manusia
Judul Magnifica Humanitas sendiri sudah memberikan arah dasar pembacaan. Persoalan AI ditempatkan Paus Leo XIV dalam horizon keagungan kemanusiaan. Karena itu, pusat refleksi Gereja mengenai teknologi bukanlah mesin, algoritma ataupun data, melainkan manusia.
Prinsipnya sederhana tetapi fundamental: teknologi adalah untuk manusia, bukan manusia untuk teknologi.
Dasar teologisnya terletak dalam misteri Inkarnasi. Paus menggemakan kembali ajaran Konsili Vatikan II bahwa hanya dalam misteri Sabda yang menjadi manusia, misteri manusia sungguh-sungguh memperoleh terang. Allah tidak menyelamatkan manusia dengan menghapus kemanusiaannya. Allah justru memasuki kemanusiaan. Dalam Yesus Kristus, Allah menjadi manusia dan dengan demikian memperlihatkan betapa luhur martabat manusia di hadapan-Nya.
Kristus karena itu bukan sekadar sumber informasi mengenai manusia. Ia adalah pewahyuan tentang manusia yang sejati. Dalam Dia, kemanusiaan menemukan Jalan, Kebenaran dan Kehidupan menuju kepenuhannya.
Dari perspektif kristologis tersebut tampak perbedaan mendasar antara kecerdasan manusia dan kecerdasan buatan. Kecerdasan manusia tidak dapat dipahami hanya sebagai kapasitas mengolah informasi. Manusia berpikir sebagai pribadi. Ia memiliki tubuh, sejarah, relasi, ingatan, perasaan, tanggung jawab moral dan keterbukaan kepada Yang Transenden. Ia mengenal pengalaman kegembiraan dan penderitaan; dapat mencintai dan dicintai; mampu mengampuni dan meminta pengampunan; membangun persahabatan; mempertaruhkan diri bagi orang lain; mengambil keputusan moral; mempertanggungjawabkan perbuatannya; serta bertanya mengenai arti hidup dan tujuan keberadaannya.
AI tidak hidup dalam horizon eksistensial seperti itu.
AI dapat mengolah bahasa mengenai cinta, tetapi tidak mencintai. Ia dapat menghasilkan kalimat mengenai penderitaan, tetapi tidak menderita. Ia dapat mendeskripsikan persahabatan, tetapi tidak memiliki sahabat. Ia dapat menghasilkan analisis mengenai tanggung jawab moral, tetapi tidak memikul kesalahan moral. Ia dapat menyimulasikan empati, tetapi tidak memiliki interioritas afektif yang mengalami empati.
Inilah sebabnya Paus Leo XIV mengingatkan bahwa menyebut sistem tersebut sebagai “kecerdasan” tidak boleh membuat manusia menyamakan kecerdasan artifisial dengan kecerdasan manusia. Sistem AI mampu melampaui manusia dalam kecepatan dan kapasitas pengolahan data tertentu, tetapi kemampuan itu tidak identik dengan kebijaksanaan. Mesin dapat mempunyai daya komputasi yang jauh lebih besar, tetapi kecepatan berpikir tidak otomatis berarti kedalaman memahami.
Di sinilah Magnifica Humanitas memberikan koreksi antropologis penting terhadap kecenderungan zaman digital yang terlalu mudah mengukur manusia dari aspek performatifnya. Jika kecerdasan direduksi menjadi kemampuan menghitung, memprediksi dan menghasilkan output, manusia akan mulai menilai dirinya menurut standar mesin. Akibatnya, orang yang paling cepat, paling produktif dan paling efisien akan dianggap paling bernilai.
Antropologi Kristiani menolak logika tersebut.
Martabat manusia tidak berasal dari produktivitasnya, kecerdasannya, kekayaannya, keadaan fisiknya ataupun kegunaan ekonominya. Martabat manusia melekat pada dirinya sebagai pribadi yang diciptakan menurut gambar dan rupa Allah. Karena itu seorang manusia tetap bermartabat bahkan ketika ia lemah, sakit, miskin, lanjut usia, memiliki keterbatasan atau tidak mampu menghasilkan keuntungan ekonomi.
Dari Rerum Novarum menuju Magnifica Humanitas
Paus Leo XIV secara sadar meletakkan ensiklik ini dalam kesinambungan sejarah Ajaran Sosial Gereja. Magnifica Humanitas ditandatangani pada 15 Mei 2026, bertepatan dengan peringatan 135 tahun Rerum Novarum Paus Leo XIII.
Hubungan tersebut bukan sekadar hubungan tanggal, melainkan hubungan metodologis.
Pada akhir abad ke-19, Rerum Novarum membaca perubahan besar yang dilahirkan Revolusi Industri. Industrialisasi menciptakan kekayaan dan peluang baru, tetapi sekaligus menghadirkan persoalan sosial: eksploitasi pekerja, kemiskinan, ketimpangan dan konsentrasi kekuasaan ekonomi.
Kini umat manusia berhadapan dengan res novae yang lain: digitalisasi, algoritma, robotika dan kecerdasan buatan.
Prinsipnya tetap sama: Injil tidak boleh diwartakan dengan mengabaikan kehidupan konkret manusia.
Karena itu Gereja tidak dapat berkata bahwa AI hanyalah urusan para insinyur, perusahaan teknologi atau pemerintah. Ketika teknologi mempengaruhi pekerjaan, pendidikan, ekonomi, relasi sosial, demokrasi, informasi, kebudayaan dan cara manusia memahami dirinya sendiri, persoalan teknologi sekaligus menjadi persoalan antropologis dan moral.
Ajaran Sosial Gereja lahir persis pada titik perjumpaan antara iman dan realitas historis tersebut. Gereja membaca tanda-tanda zaman bukan untuk mengikuti zaman secara pasif, tetapi untuk menilainya dalam terang Injil.
Babel atau Yerusalem: Dua Model Peradaban Teknologi
Salah satu kekuatan argumentatif Magnifica Humanitas terletak pada dua gambaran Kitab Suci yang digunakan Paus sebagai peta teologis untuk membaca zaman AI: Menara Babel dalam Kejadian 11:1-9 dan pembangunan kembali tembok Yerusalem dalam Nehemia 2–6.
Keduanya berbicara mengenai pembangunan. Keduanya melibatkan kemampuan manusia mengubah dunia. Namun keduanya lahir dari logika yang berbeda.
Babel dibangun berdasarkan ambisi untuk “membuat nama” bagi manusia. Penduduknya memiliki satu bahasa, satu teknologi dan satu tujuan. Secara teknis, proyek tersebut tampak sangat berhasil. Akan tetapi, di balik kemegahannya tersembunyi persoalan spiritual: pembangunan berlangsung tanpa referensi kepada Allah dan didorong oleh keinginan manusia untuk menegaskan kekuasaannya sendiri.
Keseragaman menggantikan persekutuan. Kontrol menggantikan relasi. Kehebatan teknis menggantikan kebijaksanaan. Hasil akhirnya ironis. Proyek yang dimaksudkan untuk menciptakan persatuan justru berakhir dalam keterpecahan komunikasi. Babel menjadi simbol peradaban yang memiliki teknologi tinggi tetapi kehilangan kemampuan untuk saling memahami.
Peristiwa tersebut memiliki aktualitas luar biasa bagi zaman digital. Umat manusia sekarang memiliki bahasa algoritmik yang hampir universal, jaringan komunikasi global dan teknologi yang menghubungkan miliaran orang. Namun keterhubungan teknis belum otomatis menghasilkan persekutuan manusia.
Manusia dapat semakin connected tetapi semakin tidak communio. Sebaliknya, pembangunan kembali Yerusalem dalam Kitab Nehemia menawarkan paradigma yang berbeda.
Ketika Nehemia mengetahui bahwa Yerusalem berada dalam kehancuran, ia tidak langsung bertindak berdasarkan obsesi teknis. Ia terlebih dahulu berpuasa dan berdoa. Dengan kata lain, proyek pembangunan dimulai dari discernment.
Setelah tiba di Yerusalem, ia memeriksa keadaan kota. Ia mendengarkan. Ia tidak membangun sendirian. Keluarga-keluarga, pekerja, imam, pengrajin, pemimpin masyarakat, kaum muda dan berbagai kelompok mengambil bagian sesuai kemampuan masing-masing.
Di Yerusalem, perbedaan tidak dihapuskan demi efisiensi. Perbedaan justru dikoordinasikan menjadi persekutuan.
Babel berkata: kita harus sama agar menjadi kuat. Yerusalem berkata: kita dapat berbeda tetapi bekerja bersama. Babel dibangun untuk menghasilkan nama besar. Yerusalem dibangun untuk memulihkan kehidupan bersama. Babel mendewakan kekuasaan. Yerusalem mengakui sumber kekuatan berasal dari Allah.
Karena itu pilihan moral zaman AI menurut Magnifica Humanitas pada dasarnya bukan sekadar pilihan antara menerima atau menolak teknologi. Pilihannya jauh lebih dalam: apakah kita menggunakan teknologi untuk membangun Babel atau membangun kembali Yerusalem?
Sindrom Babel dalam Dunia Digital
Dari sini Paus Leo XIV memperingatkan apa yang dapat disebut sebagai “sindrom Babel.”
Sindrom Babel muncul ketika keuntungan menjadi berhala, orang lemah dikorbankan demi efisiensi, perbedaan dipandang sebagai gangguan, dan manusia direduksi menjadi data yang dapat diklasifikasi, diprediksi dan dimonetisasi.
Bahaya terbesar AI bukanlah semata-mata bahwa mesin menjadi terlalu cerdas. Bahaya yang lebih mendasar ialah manusia menyerahkan terlalu banyak unsur kemanusiaannya kepada logika mesin.
Ketika semua hal dinilai berdasarkan efisiensi, seseorang mudah dihargai hanya menurut hasil yang dihasilkannya. Manusia kemudian dapat diperlakukan seperti komponen sistem produksi. Yang produktif dianggap berguna; yang kurang produktif dianggap beban.
Di sinilah kritik Magnifica Humanitas bertemu dengan kritik Paus Fransiskus mengenai paradigma teknokratis dalam Laudato Si’. Paradigma teknokratis muncul ketika logika teknologi—efisiensi, kontrol, kalkulasi dan keuntungan—tidak lagi menjadi salah satu pertimbangan, melainkan menjadi ukuran utama bagi segala sesuatu.
Teknologi kemudian tidak sekadar membantu manusia menentukan pilihan; teknologi mulai menentukan apa yang dianggap layak untuk dipilih.
Paradoks kemajuan pun muncul: manusia mempunyai semakin banyak sarana tetapi belum tentu semakin mengetahui tujuan.
Kita dapat “memiliki lebih banyak” tanpa “menjadi lebih baik”.
Di sinilah peringatan Santo Paulus VI menemukan relevansi baru: kemajuan ilmiah dan teknis yang tidak disertai perkembangan moral dan sosial akhirnya dapat berbalik melawan manusia.
Jalan Nehemia: Teknologi sebagai Proyek Persaudaraan
Alternatif terhadap Babel bukanlah menghancurkan teknologi. Alternatifnya ialah mengubah cara teknologi dikembangkan dan digunakan.
Inilah Jalan Nehemia
Jalan Nehemia adalah paradigma kolaboratif. Manusia membangun bersama, mendengarkan banyak suara, memperhatikan mereka yang paling rentan dan mengakui keterbatasannya sendiri.
Dalam paradigma ini, pluralitas tidak dianggap ancaman. Justru dari pluralitas lahir kemungkinan membangun kehidupan bersama yang lebih manusiawi.
Karena itu pembangunan teknologi tidak boleh dimonopoli oleh insinyur atau perusahaan teknologi. Kehadirannya yang begitu besar dalam masyarakat menuntut percakapan antara ilmuwan, filsuf, teolog, ekonom, pendidik, pekerja, pemerintah, masyarakat sipil, komunitas agama dan terutama mereka yang terkena langsung dampaknya.
Di sinilah prinsip subsidiaritas memperoleh relevansi baru.
Orang dan komunitas tidak boleh hanya menjadi penerima pasif keputusan algoritmik yang dibuat di tempat lain. Mereka harus memperoleh ruang untuk berpartisipasi dalam keputusan-keputusan yang menentukan kehidupan mereka sendiri.
AI dengan demikian harus dibangun menurut logika communio, bukan dominasi. Teknologi Tidak Jahat, tetapi Tidak Pernah Sepenuhnya Netral
Salah satu posisi penting Paus Leo XIV ialah penolakan terhadap dua ekstrem.
Ekstrem pertama ialah teknofobia: menganggap teknologi sebagai sesuatu yang pada dirinya sendiri jahat.
Ekstrem kedua ialah teknosentrisme: menganggap bahwa setiap kemajuan teknologi dengan sendirinya merupakan kemajuan manusia.
Keduanya tidak memadai.
Teknologi dapat menyembuhkan, mengajar, mempertemukan manusia, meningkatkan keselamatan, membantu penelitian dan memelihara rumah bersama. Tetapi teknologi yang sama dapat digunakan untuk memanipulasi, mendiskriminasi, mengawasi, mengeksploitasi dan memperbesar ketidakadilan.
Karena itu teknologi memang bukan kejahatan pada dirinya sendiri, tetapi dalam praktik sosial ia tidak pernah sepenuhnya netral. Setiap teknologi membawa asumsi, kepentingan dan keputusan dari orang-orang yang merancang, membiayai, mengatur dan menggunakannya.
Algoritma tidak jatuh dari langit. Di belakang algoritma terdapat manusia. Di belakang data terdapat manusia. Di belakang perusahaan terdapat manusia. Di belakang keputusan politik mengenai teknologi juga terdapat manusia. Karena itu tanggung jawab moral tidak boleh diserahkan kepada mesin.
Ketika AI Tampak Lebih Manusiawi daripada Mesin
Paus Leo XIV memberikan perhatian khusus kepada penggunaan AI secara pribadi. Setidaknya terdapat tiga godaan penting: kemudahan memperoleh jawaban, kesan objektivitas, dan simulasi komunikasi manusia.
Pertama, AI membuat banyak pekerjaan menjadi jauh lebih mudah. Informasi dapat diringkas, teks dapat dibuat dan persoalan kompleks dapat dianalisis dalam waktu singkat. Semua ini berguna. Namun, kemudahan juga dapat menciptakan ketergantungan.
Jika manusia selalu mencari jawaban siap pakai, daya bertanya dapat melemah. Jika semua tulisan diserahkan kepada mesin, kreativitas dapat menumpul. Jika setiap keputusan diserahkan kepada algoritma, penilaian pribadi dapat berkurang.
Pendidikan karena itu tidak cukup mengajarkan bagaimana menggunakan AI. Pendidikan harus mengajarkan kapan harus menggunakan AI, kapan harus mengkritisinya, dan kapan manusia harus berpikir sendiri.
Kedua, terdapat bahaya objektivitas semu. Sebuah jawaban yang diberikan mesin sering terlihat netral karena tidak diekspresikan dengan emosi. Namun sistem AI dibangun dari data, desain, kategori dan asumsi manusia. Karena itu bias manusia dapat masuk ke dalam sistem, bahkan diperbesar olehnya.
Ketiga, terdapat persoalan simulasi relasi manusia. AI dapat berbicara dengan nada bersahabat, simpatik bahkan seolah-olah penuh perhatian. Kemampuan tersebut dapat membantu dalam sejumlah konteks, tetapi terdapat bahaya jika simulasi komunikasi tersebut diperlakukan sebagai hubungan personal yang sungguh-sungguh.
Mesin dapat meniru kata-kata perhatian tetapi tidak mengalami kepedulian.
Perbedaan tersebut harus dijaga, sebab manusia menjadi manusia melalui hubungan dengan pribadi lain, bukan semata-mata melalui pertukaran informasi.
Tanggung Jawab, Transparansi dan Akuntabilitas
Pertanyaan etis menjadi lebih serius ketika AI digunakan dalam keputusan yang secara langsung menentukan kehidupan seseorang: pekerjaan, kredit, pendidikan, layanan publik, keamanan ataupun reputasi.
Pada titik tersebut tidak dapat diterima apabila keputusan penting hanya dijelaskan dengan pernyataan: “algoritmanya yang menentukan.”
Algoritma tidak mempunyai tanggung jawab moral. Karena itu harus tetap ada manusia yang dapat dimintai pertanggungjawaban.
Inilah arti akuntabilitas. Harus dapat diketahui siapa yang membuat sistem, siapa yang menggunakannya, atas dasar apa keputusan dihasilkan, siapa yang mengawasi, bagaimana keputusan dapat dipersoalkan dan bagaimana kesalahan dapat diperbaiki.
Prinsip ini berkaitan erat dengan transparansi. Semakin besar dampak suatu sistem terhadap kehidupan manusia, semakin kuat pula tuntutan transparansinya.
Karena itulah kehati-hatian terhadap AI bukan sikap anti-kemajuan. Terkadang perkembangan teknologi memang harus diperlambat apabila kapasitas hukum, moral dan institusional masyarakat belum mampu mengantisipasi konsekuensinya.
Kecepatan inovasi tidak boleh menjadi alasan untuk mengabaikan kedalaman discernment.
Konsentrasi Kekuasaan Digital
Problem lain yang disoroti Magnifica Humanitas ialah konsentrasi kekuasaan.
AI membutuhkan data, infrastruktur, modal, keahlian dan daya komputasi yang sangat besar. Karena itu terdapat risiko bahwa hanya sejumlah kecil korporasi atau kelompok yang memiliki kemampuan mengontrol teknologi yang mempengaruhi kehidupan miliaran manusia.
Persoalannya kemudian bukan lagi sekadar teknologi, melainkan kekuasaan.
Siapa memiliki data? Siapa menguasai infrastruktur? Siapa menetapkan algoritma? Siapa menentukan informasi yang terlihat atau tidak terlihat? Siapa memperoleh keuntungan? Dan siapa menanggung kerugiannya?
Pertanyaan-pertanyaan tersebut menunjukkan bahwa etika AI berkaitan langsung dengan prinsip-prinsip utama Ajaran Sosial Gereja: martabat manusia, kebaikan bersama, solidaritas, subsidiaritas, tujuan universal barang dan keadilan sosial.
Data karena itu tidak dapat semata-mata dipahami sebagai komoditas. Data merupakan hasil kehidupan, aktivitas dan kontribusi begitu banyak manusia. Maka tata kelola data juga memerlukan orientasi kepada kepentingan bersama.
Membangun untuk Kebaikan Bersama
Bagi Paus Leo XIV, pembangunan teknologi yang manusiawi harus berorientasi pada bonum commune, kebaikan bersama.
Pertama, kebaikan bersama harus dibangun di atas hubungan dengan Allah. Manusia tidak dapat menemukan kepenuhan dengan menjadikan dirinya sendiri sebagai ukuran terakhir seluruh realitas. Seperti ungkapan Santo Agustinus, hati manusia tetap gelisah sampai beristirahat dalam Allah.
Kedua, pembangunan manusia menuntut penerimaan terhadap keterbatasan.
Kelemahan bukan kesalahan teknis yang harus selalu dihapus.
Ini penting dalam zaman yang tergoda oleh gagasan human enhancement tanpa batas. Teknologi dapat menyembuhkan penyakit dan mengurangi penderitaan, dan hal tersebut patut disyukuri. Namun manusia tidak boleh sampai percaya bahwa kebahagiaan diperoleh ketika seluruh kelemahan, ketergantungan dan keterbatasan berhasil dihilangkan.
Manusia justru belajar mencintai karena membutuhkan orang lain. Keterbatasan dapat menjadi ruang solidaritas. Kerapuhan membuka kemungkinan kepedulian. Ketergantungan satu sama lain merupakan bagian dari kondisi manusiawi.
Ketiga, membangun kebaikan bersama membutuhkan tanggung jawab kolektif. Tidak ada satu kelompok yang mampu menghadapi zaman AI sendirian. Ilmuwan, pengembang, pengusaha, pekerja, guru, legislator, masyarakat sipil dan komunitas agama memiliki tanggung jawab masing-masing.
Keempat, kita membutuhkan bahasa yang injili. Zaman digital mudah terjebak dalam polarisasi. Karena itu bahasa manusia pun harus dipulihkan. Bahasa yang menghina dan memusuhi tidak dapat membangun masyarakat yang bersaudara. Yang dibutuhkan ialah bahasa yang jernih tanpa kasar, kritis tanpa merendahkan, tegas tanpa kehilangan penghormatan terhadap martabat pihak lain.
Gereja sebagai Sakramen Persekutuan di Era Digital
Dalam kerangka inilah keterlibatan Gereja dalam persoalan AI harus dipahami.
Gereja tidak hadir sebagai kompetitor bagi negara, lembaga penelitian ataupun perusahaan teknologi. Gereja juga tidak memiliki pretensi untuk menggantikan para ilmuwan.
Kontribusi khas Gereja terletak pada pertanyaan mengenai makna. Teknologi mungkin dapat menjawab apa yang dapat dilakukan. Ekonomi dapat menghitung apa yang menguntungkan. Hukum menentukan apa yang diperbolehkan.
Tetapi manusia masih membutuhkan pertanyaan lain:
Apakah yang dapat dilakukan itu juga layak dilakukan? Apakah yang menguntungkan juga adil? Apakah yang legal juga bermoral? Apakah yang efisien juga memanusiakan?
Di sini Gereja hadir sebagai sakramen persatuan antara manusia dengan Allah dan antara manusia dengan sesamanya.
Karena itu mendengarkan banyak suara bukan sekadar strategi sosiologis. Ia merupakan tindakan spiritual. Discernment membutuhkan kerendahan hati untuk menerima bahwa Roh dapat menuntun manusia melalui dialog, pengalaman, ilmu pengetahuan dan jeritan mereka yang mengalami penderitaan.
Gereja bahkan memandang semua orang yang dengan tulus mencari kebenaran, kebaikan dan keindahan sebagai teman seperjalanan.
Di sinilah terdapat pemahaman penting mengenai kebenaran. Kebenaran adalah anugerah untuk dibagikan, bukan properti yang dimonopoli.
Gereja tidak perlu menegakkan kebenaran dengan logika dominasi. Gereja justru dipanggil untuk memberikan kesaksian terhadap kebenaran dalam pelayanan.
Dengan demikian Ajaran Sosial Gereja dapat dipahami sebagai teologi persekutuan dalam sejarah: Firman yang telah menjadi daging terus menerangi realitas manusia melalui dialog, ingatan iman, pembacaan tanda-tanda zaman dan keberanian profetis.
Tanggung Jawab Khusus Para Pengembang AI
Salah satu konsekuensi paling menarik dari perspektif ini ialah tanggung jawab moral para pencipta teknologi.
Jika kreativitas manusia merupakan bagian dari partisipasi manusia dalam karya penciptaan Allah, maka mengembangkan teknologi bukanlah tindakan moral yang kosong.
Setiap keputusan desain mengandaikan gambaran tertentu mengenai manusia.
Ketika sebuah platform dibuat untuk memaksimalkan perhatian, terdapat konsep manusia di dalamnya.
Ketika algoritma dibuat untuk memilih siapa yang layak menerima kesempatan, terdapat pandangan tentang keadilan di dalamnya.
Ketika sebuah sistem AI didesain untuk menggantikan komunikasi manusia, terdapat pemahaman tertentu tentang relasi di dalamnya.
Karena itu pengembang teknologi memikul bukan hanya tanggung jawab profesional, melainkan juga tanggung jawab etis dan, dalam perspektif iman, tanggung jawab spiritual.
Pertanyaan bagi seorang pengembang bukan hanya: “Apakah sistem ini bekerja?” Pertanyaan berikutnya ialah: “Apakah sistem ini baik bagi manusia?” Dan pertanyaan yang lebih radikal lagi: “Manusia seperti apakah yang akan lahir dari dunia yang dibentuk oleh sistem ini?”
Tantangan Terbesar: Tetap Menjadi Manusia
Pada akhirnya, Magnifica Humanitas bukan ensiklik tentang bagaimana menyelamatkan manusia dari kecerdasan buatan. Ia merupakan seruan untuk menyelamatkan manusia dari kemungkinan kehilangan orientasi ketika menggunakan kecerdasan buatan.
Mesin bukan lawan manusia. Tetapi mesin juga tidak boleh menjadi ukuran manusia. Keagungan manusia tidak terletak pada kenyataan bahwa ia mampu menghitung lebih cepat daripada komputer, menyimpan data lebih banyak daripada server, atau bekerja lebih lama daripada robot. Jika itu ukuran kemanusiaan, manusia pasti kalah.
Keagungan manusia terletak di tempat yang sama sekali berbeda. Manusia dapat mencintai. Manusia dapat memilih kebaikan sekalipun merugikan dirinya. Manusia dapat mengampuni. Manusia dapat bertanggung jawab. Manusia mampu merasa tersentuh oleh penderitaan orang lain. Manusia dapat menyerahkan hidup bagi sahabatnya. Manusia dapat menatap dirinya sendiri dan bertanya tentang arti keberadaannya.
Dan dalam terang iman Kristiani, manusia mampu keluar dari dirinya dan memasuki persekutuan dengan Allah.
Karena itu teknologi paling maju sekalipun tidak dapat menggantikan misteri pribadi manusia.
Inilah paradoks zaman AI: ketika mesin menjadi semakin cerdas, manusia justru harus semakin mendalami apa artinya menjadi manusia.
Kita tidak perlu berlomba menjadikan manusia lebih seperti mesin. Yang harus diperjuangkan ialah agar semakin majunya mesin membuat manusia semakin bebas untuk menjadi lebih manusiawi.
Di titik itulah pilihan Babel dan Yerusalem kembali menemukan relevansinya.
Kita dapat membangun Babel digital: dunia yang cepat, efisien dan terkoneksi, tetapi dikendalikan keuntungan, keseragaman, dominasi dan reduksi manusia menjadi angka.
Atau kita memilih jalan Nehemia: menggunakan teknologi untuk membangun kembali tembok persaudaraan, mempertemukan perbedaan, melindungi yang rapuh, memperluas partisipasi, memperkuat solidaritas dan mengusahakan kebaikan bersama.
Karena itu pertanyaan paling mendasar dalam era AI bukanlah: “Seberapa cerdas mesin dapat menjadi?” Pertanyaan yang jauh lebih menentukan ialah: “Seberapa manusiawi manusia akan tetap menjadi ketika mesin semakin cerdas?”
Di sinilah pesan Magnifica Humanitas menemukan kekuatan profetisnya. Masa depan teknologi tidak boleh ditentukan hanya oleh mereka yang memiliki algoritma paling maju, modal terbesar atau data terbanyak. Masa depan harus ditentukan oleh visi tentang manusia yang martabatnya tidak dapat diperjualbelikan.
Kemajuan teknologi baru dapat disebut kemajuan sejati apabila membuat manusia semakin mampu membangun kehidupan yang adil, bersaudara dan damai.
Karena itu Gereja tidak mengatakan “tidak” kepada AI. Gereja mengucapkan sebuah “ya” yang jauh lebih radikal: ya kepada manusia; ya kepada martabatnya; ya kepada kebebasannya; ya kepada tanggung jawab moralnya; ya kepada persaudaraan; ya kepada kebaikan bersama; dan pada akhirnya, ya kepada Allah yang dalam misteri Inkarnasi telah memperlihatkan betapa agungnya kemanusiaan.
Maka tugas kita di tengah revolusi kecerdasan buatan bukan hanya menciptakan mesin yang semakin hebat. Tugas yang lebih luhur ialah membangun sebuah peradaban di mana kecerdasan manusia tidak kehilangan kebijaksanaan, kebebasan tidak kehilangan tanggung jawab, teknologi tidak kehilangan tujuan moral, dan kemajuan tidak meninggalkan mereka yang lemah.
Sebab pada akhirnya, bukan kecanggihan alat yang menentukan kebesaran sebuah peradaban, melainkan cara peradaban itu memperlakukan manusia.
Dan itulah magnifica humanitas: keagungan kemanusiaan yang berasal dari Allah, mencapai kepenuhannya dalam Kristus, dan karena itu tidak akan pernah dapat direduksi menjadi algoritma, data, ataupun mesin.