Pesan Paus Fransiskus di Hari KOMSOS Sedunia

Kecerdasan Artifisial dan Kebijaksanaan Hati: Menuju Komunikasi yang Sungguh Manusiawi

Saudara- saudari terkasih!

Pengembangan sistem kecerdasan artifisial, yang baru-baru ini saya refleksikan dalam Pesan untuk Hari Perdamaian Dunia, (1 Januari 2024), memengaruhi dunia informasi dan komunikasi secara radikal, termasuk landasan-landasan kehidupan masyarakat. Perubahan ini memengaruhi semua orang, bukan hanya para profesional di bidang tersebut. Pesatnya penyebaran atas penemuan-penemuan menakjubkan, yang fungsi dan potensinya tidak dapat dipahami oleh sebagian besar dari kita entah untuk memahami atau mengapresiasinya, terbukti menarik dan membingungkan. Oleh karena itu, kita dihadapkan pada pertanyaan yang lebih mendalam tentang hakikat manusia, kekhasan kita, dan masa depan spesies Homo sapiens di zaman kecerdasan artifisial. Bagaimana kita bisa tetap menjadi manusia seutuhnya dan memandu transformasi budaya demi kebaikan?

Mulai dari Hati

Pertama-tama, kita perlu kesampingkan dulu prediksi bencana dan dampak buruknya yang mematikan. Seabad lalu, Romano Guardini, ketika berefleksi tentang teknologi dan kemanusiaan, mendesak kita untuk tidak menolak “kebaruan” dalam upaya“melestarikan dunia indah yang terancam punah ini.” Di saat yang sama, secara profetis dia memperingatkan bahwa “kita terus-menerus berada dalam proses menjadi.

Kita harus terlibat dalam proses ini. Masing-masing dengan caranya sendiri dan dengan keterbukaan. Namun, juga dengan kepekaan terhadap segala sesuatu yang destruktif dan tidak manusiawi di dalamnya”. Guardini menyimpulkan: “Masalah-masalah ini bersifat teknis, ilmiah, dan politis; Namun tidak dapat diselesaikan kecuali dengan mulai dari rasa kemanusiaan kita. Makhluk manusia jenis baru harus terbentuk, dikaruniai spiritualitas yang lebih dalam dan kebebasan serta kesadaran baru”

Pada zaman sekarang ini, segala bentuk refleksi harus dimulai dari hati. Kalau tidak, risikonya; manusia bisa kaya di bidang teknologi, tetapi miskin dalam kemanusiaan.[2] Dengan mengadopsi cara tertentu dalam memandang realitas; dan memulihkan kebijaksanaan hati, kita dapat menghadapi dan menafsirkan kebaruan zaman serta menemukan kembali jalan menuju komunikasi yang sungguh manusiawi. Dalam Alkitab, hati dipandang sebagai tempat kebebasan dan pengambilan keputusan. Hati melambangkan integritas dan persatuan, tetapi juga keterlibatan emosi, keinginan, mimpi kita.

Dan di atas segalanya, hati adalah tempat terdalam perjumpaan kita dengan Tuhan. Dengan demikian, kebijaksanaan hati merupakan kebajikan yang memungkinkan kita mengintegrasikan keseluruhan serta bagian-bagiannya, keputusan-keputusan dan konsekuensi- konsekuensinya, kemuliaan dan kerentanan, masa lalu dan masa depan, individualitas dan keanggotaan kita dalam satu komunitas yang lebih besar.

Kebijaksanaan hati ini membiarkan dirinya ditemukan oleh mereka yang mencarinya dan dilihat oleh mereka yang mencintainya. Kebijaksanaan hati mengantisipasi mereka yang menginginkannya dan mencari mereka yang pantas mendapatkannya (lih. Keb. 6:12-16). Ia menemani mereka yang mau menerima nasihat (lih. Ams. 13:10), mereka yang diberkahi dengan ketaatan dan hati yang mendengarkan (lih. 1 Raj. 3:9). Karunia Roh Kuduslah yang memampukan kita melihat segala sesuatu dengan cara pandang Tuhan.

Juga memampukan kita dalam melihat hubungan, situasi, peristiwa-peristiwa, dan mengungkapkan makna sebenarnya. Tanpa kebijaksanaan ini, hidup menjadi hambar. Kebijaksanaan [Lat. sapientia] – yang akar kata Latinnya adalah sapere, yang terkait dengan kata benda sapor– mempunyai arti memberi “kenikmatan” bagi kehidupan.

Kebijaksanaan seperti itu tidak bisa diperoleh dari mesin. Meskipun istilah “kecerdasan artifisial” lebih tepat menggantikan “pembelajaran mesin” (machine learning) yang digunakan dalam literatur ilmiah, penggunaan kata “inteligensi” terbukti bisa menyesatkan. Tidak diragukan lagi, mesin memiliki kapasitas yang jauh lebih besar dari manusia dalam menyimpan dan menghubungkan data, tetapi hanya manusia yang mampu memahaminya. Ini bukan sekadar masalah membuat mesin tampak lebih manusiawi, tetapi membangunkan umat manusia dari tidur akibat ilusi kemahakuasaan. Juga membangunkan keyakinan bahwa kita adalah subjek yang sepenuhnya otonom dan mengacu pada diri sendiri, terlepas dari semua ikatan sosial dan lupa akan status sebagai makhluk.

Manusia selalu menyadari dirinya tidak cukup, karena itu berusaha mengatasi kerentanannya dengan menggunakan segala cara. Dari artefak masa prasejarah paling awal,

kita tahu manusia menggunakan alat untuk tangannya. muncullah media yang digunakan untuk memperluas penyebaran kata-kata.

Dan sekarang, kita mampu menciptakan mesin-mesin rumit yang bertindak sebagai pendukung bagi pikiran manusia. Bagaimanapun, masing-masing instrumen ini dapat disalahgunakan.

bahwa telah banyak membantu Lalu Kita bisa terjerumus dalam godaan primordial, menjadi serupa dengan Tuhan dan tanpa Tuhan (lih. Kej. 3). Sebuah keinginan untuk menggapai semua hal dengan upaya kita sendiri padahal Tuhan telah memberi kita secara gratis sehingga kita bisa menikmatinya bersama orang lain.

Segala sesuatu yang ada dalam jangkauan kita dapat menjadi peluang atau ancaman, tergantung kecenderungan hati kita. Tubuh kita misalnya, diciptakan untuk berkomunikasi dan bersekutu. Namun, bisa kita pakai sebagai alat untuk menyerang yang lain. Demikian juga, teknologi yang dikembangkan untuk membantu manusia dapat menjadi sarana untuk melayani dengan kasih atau alat untuk memusuhi yang lain. Oleh karena itu, sistem kecerdasan artifisial dapat membantu mengatasi ketidaktahuan dan memfasilitasi pertukaran informasi antarmanusia dari berbagai bangsa dan generasi.

Ambil contoh misalnya, kecerdasan artifisial membantu kita mengerti dan mengakses ilmu pengetahuan warisan masa lampau. Dengan kecerdasan itu juga, kita dapat berkomunikasi dengan orang lain yang menggunakan bahasa yang berbeda. Namun, di saat yang sama, hal-hal tersebut dapat menjadi sumber “polusi pikiran”, karena disebarkan secara tidak utuh atau dengan narasi yang salah. Parahnya, informasi itu disebar dan diyakini seolah-seolah sebagai sebuah kebenaran. Kita perlu memikirkan persoalan disinformasi ini, yang bakal muncul terus dalam bentuk berita palsu,[3] dan yang sekarang mewujud dengan istilah deepfake. Deepfake merupakan bentuk manipulasi foto, yang tampaknya sempurna tetapi salah (saya juga menjadi objek dari deepfake ini). Atau manipulasi audio yang sebenarnya tidak pernah dikatakan oleh seseorang. Teknologi simulasi yang berada di belakang semua program ini sebenarnya bermanfaat dalam bidang-bidang tertentu dalam hidup kita. Namun, ini bisa menjadi persoalan kalau sudah mendistorsi hubungan kita dengan orang lain dan kenyataan hidup yang kita alami.

Dimulai dengan gelombang pertama kemunculan kecerdasan artifisial, berupa media sosial; kita telah merasakan ambivalensinya, baik dari sisi kemungkinan pengembangannya, maupun risiko dan persoalan yang dimunculkannya. Tahap kedua pengembangan kecerdasan artifisial generatif, pasti membawa kita pada satu lompatan kualitatif. Oleh karena itu, penting memahami, mengapresiasi, dan mengatur instrumen-instrumen, yang jika berada di tangan yang salah dapat membawa pada skenario yang tidak kita inginkan. Seperti juga hasil kecerdasan dan keterampilan manusia yang lain, algoritma tidaklah netral. Untuk itu, perlu tindakan pencegahan, yakni dengan membuat pedoman-pedoman dalam bertindak (kode etik). Kode etik ini berguna untuk mencegah dampak buruk penggunaan sistem kecerdasan artifisial, yang bisa jadi menyebabkan ketidakadilan dan diskriminasi sosial. Juga mencegah upaya mereduksi pluralisme dan polarisasi opini publik atau penciptaan pikiran-pikiran sektarian/primordial. Sekali lagi, saya mengimbau komunitas internasional “untuk bekerja sama mengadopsi perjanjian internasional yang telah mengatur pengembangan dan penggunaan kecerdasan artifisial dalam berbagai bentuk”. [4] Di saat yang sama, dalam berbagai konteks, regulasi saja memang tidak cukup.

…algoritma tidaklah netral, untuk itu perlu tindakan pencegahan, yakni dengan membuat pedoman-pedoman untuk bertindak.
-Paus Fransiskus-

Bertumbuh dalam Kemanusiaan

Kita semua dipanggil untuk tumbuh bersama, dalam kemanusiaan dan sebagai manusia. Kita ditantang untuk membuat lompatan kualitatif menuju arah yang kompleks, multietnik, pluralistik, multireligius dan masyarakat yang multikultural. Kita dipanggil untuk merenungkan secara hati- hati pengembangan teoretis dan penggunaan instrumen- instrumen komunikasi dan ilmu pengetahuan baru ini. Dan tentu saja, manfaat penggunaan instrumen ini bakal disertai risiko yang mengubah segalanya menjadi hitungan abstrak yang mereduksi individu menjadi data, pemikiran menjadi satu proses mekanis, pengalaman menjadi sebuah cerita individual, kebaikan menjadi profit, dan di atas semua itu adalah penyangkalan pada keunikan masing-masing individu dengan berbagai kisahnya. Realitas konkret larut lenyap sebagai sekadar data statistik.

Revolusi digital akan memberi kita kebebasan yang lebih besar asal kita tidak terpenjara dalam sebuah kondisi yang saat ini disebut ruang gema

seperti ini, meningkatkan informasi, malah menjerumuskan kita pada
kebingungan. Kita bisa menjadi mangsa kepentingan dan kekuasaan pasar. Oleh karena itu, kita tidak dapat menerima bila penggunaan kecerdasaan
artifisial membuat kita mudah berpikir prematur,mudah mengumpulkan data tanpa verifikasi, dan gagal menjalankan tugas editorial kolektif. Representasi realitas dalam sebuah “data besar” (big data), betapapun bergunanya bagi pengoperasian mesin-mesin, pada akhirnya menyebabkan Situasi bukannya pluralisme berisiko hilangnya satu hal substansial dari kebenaran benda-benda yang kemudian menghambat komunikasi antarpribadi dan mengancam kemanusiaan kita. Dengan demikian, informasi tidak dapat dipisahkan dari berbagai relasi kehidupan. Ini karena informasi melibatkan tubuh dan keterlibatan di dunia nyata. Informasi selalu terkait tidak hanya dengan data, tetapi juga dengan pengalaman manusia. Oleh karena itu, butuh kepekaan pada wajah dan ekspresi-ekspresinya, yang berupa kasih sayang dan sikap saling berbagi.

Sampai di sini, saya kemudian merenung tentang berbagai pemberitaan seputar perang dan “perang paralel” yang dilancarkan dengan cara menyebarkan informasi yang salah. Saya juga memikirkan para reporter yang terluka atau terbunuh saat menjalankan tugas; mereka, yang memungkinkan kita melihat apa yang mereka saksikan. Sebab hanya kontak langsung dengan penderitaan anak-anak, perempuan dan laki-laki, membuat kita makin memahami absurditas perang.

Pemanfaatan kecerdasan artifisial dapat memberi kontribusi positif pada sektor komunikasi asalkan peran Jurnalisme di lapangan sungguh didukung, bukannya dilenyapkan. Sumbangan positif itu juga bisa berupa penghargaan pada profesionalisme komunikasi, yang membuat setiap komunikator semakin sadar akan tanggung jawabnya. Dan tentu saja yang memungkinkan semua orang berada sebagaimana mestinya, mencerdaskan para partisipan dalam karya-karya komunikasi.

Infomasi tidak dapat dipisahkan dari berbagai relasi kehidupan… terkait tidak hanya dengan data, tetapi juga dengan pengalaman manusia. -Paus Fransiskus-

Pertanyaan untuk Sekarang dan Masa Depan

Terkait dengan semua hal yang sudah disampaikan, sejumlah pertanyaan muncul secara alamiah. Bagaimana kita menjaga profesionalisme dan martabat para pekerja di bidang informasi dan komunikasi serta martabat para penggunanya di seluruh dunia? Bagaimana kita memastikan interoperabilitas 1 platform-platform yang ada? Bagaimana kita memberdayakan bisnis yang mengembangkan platform digital sebagai tanggung jawab mereka dalam kaitannya dengan konten dan iklan sebagaimana dilakukan para editor di media tradisional? bertukar data/informasi dan menggunakannya. Interoperabilitas adalah kemampuan dua atau lebih sistem/platform untuk

Bagaimana kita membuat makin transparan kriteria yang memandu operasi-operasi algoritma dalam proses (indexing) dan penghapusan indeks (de-indexing), serta untuk mesin pencari yang mampu membesarkan atau membatalkan individu-individu dan opini-opini, sejarah dan budaya? Bagaimana kita menjamin transparansi pemrosesan informasi? Bagaimana kita mengidentifikasi sumber tulisan dan menelusuri sumber-sumber yang tersembunyi di balik konten anonim? Bagaimana kita bisa paham dan yakin bahwa sebuah foto atau video benar-benar hasil jepretan di lapangan atau hasil simulasi? Bagaimana kita mencegah sumber-sumber itu dari upaya reduksi menjadi satu bagian dan mendorong sebuah pendekatan yang dikembangkan atas basis algoritma? Bagaimana kita mempromosikan lingkungan yang cocok dalam pemeliharaan pluralisme dan memotret kompleksitas realitas? Bagaimana kita dapat melestarikan sebuah teknologi yang kuat, mahal dan butuh energi besar? Dan bagaimana kita membuat semua itu bisa diakses oleh masyarakat di negara-negara berkembang?

Jawaban-jawaban yang kami berikan atas pertanyaan- pertanyaan ini dan pertanyaan lainnya akan menentukan apakah kecerdasan artifisial akan menciptakan kasta baru akibat perbedaan akses pada informasi ini. Dan dengan demikian, memunculkan bentuk-bentuk eksploitasi dan kesenjangan baru. Atau, apakah ini akan membuat kita makin setara dengan tersebarnya informasi yang benar dan membawa pada kesadaran yang lebih tinggi atas perubahan yang sedang kita alami? Ini karena kecerdasan artifisial memungkinkan kita memahami banyak kebutuhan dari para individu dan manusia dalam satu jaringan informasi yang pluralistik dan terstruktur dengan baik. Sehingga, di satu sisi, bila kita lihat sekilas, tampak sebuah bentuk perbudakan baru. Namun, di sisi lain, kita juga bisa melihat sebuah sistem yang bisa makin membebaskan kita, entah yang dipilih itu hanya sedikit dan dapat mengondisikan pikiran orang lain atau semua orang dapat berpartisipasi dalam perkembangan pikiran itu.

 Tindakan untuk menghapus situs web atau bagian situs web dari indeks.

Jawaban yang kami berikan atas pertanyaan-pertanyaan ini tentu saja tidak bisa ditentukan sebelumnya. Semua terserah kita apakah mau menjadi makanan algoritma atau kita akan mengembangkan hati dengan kebebasan yang tanpa kebebasan itu kita tidak dapat tumbuh dalam kebijaksanaan. Kebijaksanaan seperti itu menjadi matang dengan memanfaatkan waktu secara bijaksana dan dengan memeluk kerapuhan-kerapuhan kita. Semua itu tumbuh dalam perjanjian yang terjadi antargenerasi, di antara mereka yang mengingat masa lalu dan yang menatap masa depan. Hanya dengan bersama-sama kita bisa meningkatkan kapasitas dalam membuat keputusan (dicernment) dan bersikap mawas diri serta melihat segala sesuatu dalam terang pemenuhannya. Jangan sampai kemanusiaan kita hilang arah. Marilah mencari kebijaksanaan yang ada sebelum segala sesuatu (lih. Sir. 1: 4): Ini akan membantu kita dalam penggunaan sistem-sistem kecerdasan artifisial demi terwujudnya komunikasi yang sungguh manusiawi.

Roma, Santo Yohanes Lateran, 24 Januari 2024

FRANSISKUS

[1] Surat dari Danau Como.
[2] Pesan Hari Komunikasi Sosial Sedunia tahun 2024 mengambil pesan-pesan sebelumnya yang ditujukan untuk bertemu dengan orang-orang di mana dan bagaimana mereka berada (2021), mendengar dengan telinga hati (2022), dan berbicara dengan hati (2023) .
[3] Lih. “Kebenaran Akan Memerdekakan Kamu” (Yoh. 8: 32). Berita Palsu dan Jurnalisme untuk Perdamaian, Pesan Hari Komunikasi Sosial Sedunia 2018.
[4] Pesan Hari Perdamaian Sedunia ke-57, 1 Januari 2024, 8.

Copyright © Dicastero per la Comunicazione – Libreria Editrice Vaticana