Dari penelitian ilmiah hingga skenario Isaac Asimov, AI mengubah cara kita menafsirkan masa kini dan membayangkan masa depan.

“Kehidupan dan Perjalanan Multivac” (“Kehidupan dan Masa-Masa Multivac”) adalah sebuah cerita pendek karya Isaac Asimov dirilis pada 5 Januari 1975 pada New York Times MagazineMenurut penulisnya, ini adalah cerita fiksi ilmiah pertama yang pernah dipesan dan diterbitkan oleh NYT Magazine. Di Italia, cerita ini diterbitkan pada 18 Desember 1977, di majalah Urania milik Mondadori Editore, edisi 738, dalam Antologi Dua Abad edisi 2. Saat itu penulis berada pada usia yang menarik, yaitu 13 tahun: otaknya masih diberkahi dengan plastisitas masa kanak-kanak, yang diliputi oleh gelombang liar pra-remaja.

Ceritanya disusun dengan baik untuk menggali lebih dalam ke dalam pikiran semacam itu: umat manusia pasca-apokaliptik yang berkurang menjadi 5 juta individu yang tersebar di seluruh planet Bumi, sebuah superkomputer, multivacyang mengawasi segalanya, mengelola setiap aspek kehidupan manusia dan menjaga mereka dalam selubung digital yang menyesakkan.

Kerinduan akan kebebasan, untuk menemukan kemandirian, untuk memberi makna pada hidup seseorang, mendorong Dewan Manusia, dalam pertemuan virtual yang saat ini kita sebut "seruan", untuk mengadili sang protagonis, yang bersalah karena telah memberikan kesaksian melawan manusia lain yang telah merusak salah satu akses ke tempat tersebut secara sia-sia. multivac.

Namun, ketika hukuman isolasi permanen dari setiap orang lain di planet ini akan dijatuhkan, muncullah twist "ala Asimov": sang protagonis, Ronald Baskt yang berusia sembilan puluh tahun tetapi masih tampak muda, yang kecenderungannya terhadap permainan matematika secara bertahap dianggap semakin tidak berguna oleh teman-teman lamanya, mengungkapkan bahwa ia telah menghitung secara topologis keberadaan dan lokasi satu-satunya node dalam jaringan yang sangat besar dan kompleks tersebut. multivac mampu memutus sirkuitnya secara pasti.

Dan dia melakukannya, di depan para penuduhnya yang tercengang: dia mematikan multivacyang tidak akan pernah bisa diaktifkan kembali. Kemudian, dihadapkan pada kebingungan diam-diam dari orang lain, dia mengajukan pertanyaan yang menjadi inti cerita.

“Kau tadi bicara soal kebebasan,” kata Baskt tajam. “Sekarang kau sudah memilikinya!” Kemudian, dengan nada suara ragu-ragu, ia menambahkan, “Bukankah itu yang kau inginkan?”

Prediksi fiksi ilmiah, baik yang akurat maupun yang salah.

Siapa pun yang, seperti saya, adalah pembaca fiksi ilmiah "lama" selalu kagum dengan kemampuan "dokter yang baik", julukan yang sering digunakan untuk menyebut Isaac Asimov, untuk mengantisipasi masalah yang dalam beberapa tahun terakhir menjadi semakin mendesak, setengah abad sebelumnya.

Fakta bahwa penulis tidak meramalkan keberadaan Internet dan perangkat digital pribadi sama sekali tidak mengurangi keefektifan cerita tersebut; kompleksitas jaringan yang terbentuklah yang menjadi daya tariknya. multivac Ini menggambarkan dengan sempurna jaringan yang sangat rumit saat ini, di mana kita kurang lebih menjadi tawanannya, berbanding terbalik dengan ketidaktahuan kita tentang bagaimana jaringan ini beroperasi.

Robot-robot penolong, yang menjadi ciri khas masa depan yang diramalkan saat itu, kini telah menjadi tak terhitung jumlahnya. alat yang kita miliki saat ini, mulai dari ponsel pintar yang kini hampir usang hingga perangkat wearable yang semakin kecil dan seringkali sedikit invasif. Dan kecemasan akan perlindungan, semangat berlebihan akan multivac Dalam menjaga keamanan umat manusia, bukankah itu mengingatkan kita pada kepedulian yang menjengkelkan, dan seringkali seperti perbudakan, dari LLM (Legal Learning Management) saat ini? Sementara itu, kontrol yang mencekik ini memiliki kemiripan yang mencolok dengan iklan yang semakin personal, terkadang dengan cara yang benar-benar mengganggu, seperti yang baru saja saya alami. Belum lagi kerinduan kita akan kebebasan, yang langsung berubah menjadi kepanikan ketika kita benar-benar mencapainya.

Namun fiksi ilmiah bukanlah genre sastra yang bertujuan untuk memprediksi masa depan. Pada kenyataannya, fiksi ilmiah adalah penerus yang sempurna bagi dongeng, sebagaimana dipahami. JRR Tolkien dalam esainya yang berjudul sama di dalam buku tersebut “Pohon dan Daun”, dengan kemampuannya untuk menganalisis realitas melalui alat paling ampuh yang kita miliki: imajinasi.

Penemuan-penemuan sains dan peran imajinasi

Sains dan fiksi ilmiah sering dianggap sebagai dua hal yang bertolak belakang:

“Ini adalah sains, bukan fiksi ilmiah.”

Begitulah bunyi iklan beberapa tahun lalu. Namun, dengan melakukan itu, kita melupakan asal usul istilah fiksi ilmiah: sains fantastis, atau lebih tepatnya, sains spekulatif.

Dan kita lupa bahwa bahkan sains, meskipun memiliki ciri khas ketelitian metodis, didasarkan pada kapasitas imajinasi kita. Albert Einstein, bapak Teori Relativitas, sering mengaitkan pekerjaan ilmiah dengan intuisi, imajinasi, dan perubahan perspektif yang tiba-tiba. Unsur-unsur ini menjadi dasar dari banyak penemuan ilmiah terbesar dalam sejarah.

Meskipun sains jelas memiliki tugas untuk mengubah intuisi terlebih dahulu menjadi hipotesis yang dapat dipalsukan atau dibuktikan, dan kemudian menjadi teori yang kurang lebih koheren yang dapat diverifikasi melalui eksperimen, fiksi ilmiah memiliki kekuatan untuk mendorong spekulasi jauh lebih jauh. Dan bukan kebetulan bahwa banyak peneliti, misalnya di MIT, seperti Profesor Bruno Coppi, yang dengannya saya berkolaborasi selama beberapa tahun dalam bidang komunikasi terkait proyek Ignitor-nya untuk fusi nuklir, adalah pembaca yang antusias tetapi seringkali juga penulis fiksi ilmiah.

Kita juga memiliki contoh yang sangat baik tentang hal ini di Italia, meskipun bukan satu-satunya: Marco Casolino, seorang fisikawan, manajer riset di bagian INFN Roma Tor Vergata, profesor di Departemen Fisika Universitas Roma Tor Vergata, komunikator sains yang ulung dan penulis fiksi ilmiah yang sama hebatnya.

Realita, fantasi, dan perbedaannya

Mereka yang kurang tahu dan jarang membaca fiksi ilmiah yang bagus terkadang menganggapnya sebagai genre kecil, untuk anak-anak kutu buku yang "melarikan diri dari kenyataan". Menarik untuk dicatat bahwa hal yang sama Tolkien, yang oleh banyak orang dianggap sebagai pendiri fantasi modern, tetapi yang saya anggap "hanyalah" salah satu penulis epik terbesar abad kedua puluh, menolak keberatan yang sangat mirip mengenai mitologi.

Dalam esai yang disebutkan di atas “Tentang Dongeng”Mengenai keterkaitan artifisial antara dongeng dan anak-anak, serta kebingungan antara realitas dan imajinasi, ia menyatakan:

“Saya tidak memiliki 'keinginan untuk percaya' yang kekanak-kanakan. Saya ingin tahu. Kepercayaan bergantung pada cara cerita-cerita itu disampaikan kepada saya, oleh orang yang lebih tua, atau oleh penulisnya, atau oleh nada dan kualitas yang melekat dalam penyampaiannya. Tetapi saya tidak ingat bahwa, pada waktu tertentu, kesenangan yang diberikan sebuah cerita kepada saya bergantung pada apakah saya percaya bahwa peristiwa semacam itu dapat terjadi, atau telah terjadi, dalam 'kehidupan nyata'.”

Tidak ada yang lebih menjengkelkan bagi penggemar fiksi ilmiah selain merasa dikaitkan, misalnya, dengan mereka yang tanpa kritis percaya pada keberadaan UFO sebagai pesawat ruang angkasa alien. Pada kenyataannya, sebagian besar dari mereka yang menghargai fiksi ilmiah juga merupakan penggemar sains yang bersemangat. Bukan kebetulan bahwa dalam CinaSebagai negara dengan pertumbuhan ilmu pengetahuan dan teknologi tercepat di dunia saat ini, pemerintah harus sangat mendorong kegiatan menulis dan membaca seperti ini, karena hal tersebut mampu

“Membuka pikiran generasi muda”.

Kontroversi terkini terhadap AI

Kembali ke topik utama editorial ini, terdapat kekhawatiran yang cukup besar, dan beralasan, mengenai potensi konsekuensi negatif dari penggunaan berlebihan AI generatif saat ini: di bidang kreatif dan artistik, di bidang bisnis, dalam pengawasan massal, dan dalam persenjataan. Ini bukanlah topik yang tidak terkait: masalah-masalah tersebut ada dan sama pentingnya dengan peluang yang mereka buka.

Untuk lebih memahami tantangan dan peluangnya, mari kita mundur selangkah. Ketika kita berbicara tentang kecerdasan buatan, sebenarnya kita berbicara tentang serangkaian kemampuan yang cukup beragam, yang disatukan oleh faktor umum: AI mampu "memprogram dirinya sendiri," meniru fungsi otak tertentu—meskipun kita cukup yakin kecerdasan hewan tidak bekerja persis seperti itu. Saat ini, AI yang paling banyak dibicarakan adalah LLMModel Bahasa Besar: ini adalah model bahasa yang diperluas, juga disebut AI generatif karena mampu menghasilkan teks, gambar, audio, video, dan musik sesuai dengan instruksi kita.

LLM (Language Language Model) secara matematis mensimulasikan, berdasarkan fungsi statistik, cara kerja pemrosesan bahasa manusia, yang sebenarnya merupakan salah satu karakteristik utama yang membedakan spesies kita dari spesies lain. Ia tidak memerlukan pemahaman arti sebenarnya dari istilah-istilah tersebut; cara kerjanya sedikit mirip dengan "Ruang Cina" (Chinese Room). John Searle, yang sudah kita bicarakan sebelumnya di artikel iniNamun, itu tidak mengurangi daya tariknya.

Mengapa Kecerdasan Buatan Meledak?

Saat saya menayangkan film itu di kelas saya. “Tokoh Tersembunyi” (“Hidden Figures”), ketika salah satu protagonis menjelaskan bahwa komputer IBM 7090 yang dibeli oleh NASA pada tahun 1961 untuk membantu mereka menghitung lintasan rudal menghitung

“sebanyak 24.000 operasi per detik”,

Saya akan menghentikan pemutaran selama beberapa menit dan menunjukkan tabel sederhana ini:

• 1959: IBM7090 – 24 Kiloflops, atau 24.000 flops, operasi floating point per detik
• 2018: iPhone XS Max – 410 Gigaflops, atau 410 miliar flops
• 2023: iPhone 15 – 1,8 Teraflops, atau 1.800 miliar flops
• 2024: iPhone 16 Pro – 2,4 Teraflops, atau 2.400 miliar flops
• 2024: Apel M3 – 4 Teraflops, atau 4.000 miliar flops
• 2025: Apple M4 Ultra – 27 Teraflops, atau 27.000 miliar flops

Kemudian diikuti dengan ini:

• 410 miliar flops / 24.000 = 17.083.333,333, atau 17 juta kali lebih cepat
• 1.800 miliar flops / 24.000 = 75.000.000, atau 75 juta kali lebih cepat
• 2.400 miliar flops / 24.000 = 100.000.000, atau 100 juta kali lebih cepat
• 4.000 miliar flops / 24.000 = 166.666.666,667, atau 166 juta kali lebih cepat
• 27.000 miliar flops / 24.000 = 1.125.000.000, atau 1.125 juta kali lebih cepat

Kemudian saya menjelaskan kepada para mahasiswa yang takjub, setidaknya kepada mereka yang tertarik pada masalah ini, bahwa superkomputer saat ini telah mencapai dan melampaui satu miliar miliar operasi per detik, yaitu ambang batas. exascale, dan jika kita memiliki pesawat ruang angkasa yang secara proporsional lebih cepat daripada pesawat ruang angkasa tahun 60-an, dan jika tidak ada batasan fisik terhadap kecepatan cahaya di ruang hampa, kita tidak akan melakukan perjalanan antar bintang, tetapi antar galaksi.

Memang, kita telah mencapai kecepatan komputasi yang tampaknya mustahil beberapa tahun yang lalu. Dan ini adalah salah satu faktor yang memungkinkan LLM mencapai efisiensi saat ini.

Jadi, ini hanya soal kekuatan kasar?

Sama sekali tidak.

Penelitian ilmiah tentang AI telah berlangsung sejak lama dan di sinilah ChatGPT berperan:

“Penelitian kecerdasan buatan telah sekitar 70 tahun sejarah.

Istilah "kecerdasan buatan" Istilah itu diciptakan pada 1956 selama Lokakarya Dartmouth, sebuah konferensi yang diselenggarakan oleh John McCarthy, Marvin Minsky, Nathaniel Rochester dan Claude ShannonNamun, landasan teoritis AI sebenarnya sudah ada sebelum tanggal tersebut:

• 40-an dan 50-an: studi pertama tentang neuron buatan, bersama McCulloch dan Pitts pada tahun 1943, dan gagasan tentang mesin berpikir dengan Alan Turing dan uji Turing-nya pada tahun 1950.
• 60-an dan 70-an: pengembangan sistem pakar pertama dan kecerdasan simbolik
• 80-an dan 90-an: jaringan saraf mengembalikan hasil berkat algoritma propagasi mundur
• tahun 2000-an dan sekarang: perluasan dari belajar mendalam, dengan model yang semakin canggih berkat kekuatan komputasi modern.

Jadi, dapat kita katakan bahwa penelitian AI memiliki akar yang dalam dan telah berkembang selama kurang lebih tujuh dekade".

Secara khusus, dalam beberapa tahun terakhir, pengembangan dan penyebaran arsitektur sumber terbuka telah terjadi. Transformator oleh Google pada tahun 2017, ketersediaan teks dalam jumlah besar berkat internet, kemajuan teknik pelatihan berkat algoritma propagasi mundurOptimalisasi model dan investasi besar di bidang ini telah menyebabkan situasi saat ini.

Untuk mempelajari topik-topik ini lebih dalam dengan cara yang populer namun mendalam, saya sangat merekomendasikan kursus gratis ini. “Ledakan Kecerdasan Buatan”, diselenggarakan secara daring oleh para profesor dari Universitas Urbino.

Namun seberapa cerdaskah AI ini sebenarnya?

Pertama-tama, mari kita lupakan, setidaknya untuk beberapa tahun, HAL dari “2001”, Skynet dari “Terminator”, mesin-mesin dari “Matrix”, atau berbagai versi dari multivacAgak menyedihkan untuk dikatakan bagi penggemar fiksi ilmiah, tetapi seperti yang terjadi saat ini, kita masih jauh dari "mesin berpikir" seperti yang telah dipresentasikan selama ini, yang mungkin melegakan bagi banyak orang.

Saya ingin menambahkan bahwa fiksi ilmiah memiliki beberapa kelebihan, tetapi juga beberapa kekurangan.

Di antara kelebihannya, tentu saja termasuk telah mengantisipasi banyak masalah etika yang sudah kita hadapi saat ini, dalam beberapa hal mempersiapkan kita untuk apa yang menanti kita di masa depan yang dekat dan segera. Hal itu juga membiasakan kita dengan gagasan bahwa, cepat atau lambat, kita harus berurusan dengan kecerdasan yang "berbeda" dari kita sendiri, dan memang itulah yang sedang terjadi.

Mari kita cari siapa yang harus disalahkan.

Penyederhanaan yang berlebihan, dengan pengecualian tertentu tentu saja, dari banyak cerita fiksi ilmiah mengenaikecerdasan buatan Hal itu telah membiasakan kita pada persamaan yang salah, yaitu kecerdasan = kesadaran.

Kita sudah lama mengetahui bahwa hal ini tidak benar: mari kita pikirkan banyak perilaku hewan, dimulai dari perilaku serangga yang terorganisir dalam koloni, seperti sarang semut dan gundukan rayap, yang memiliki kemampuan luar biasa untuk pemecahan masalahTidak ada yang yakin bahwa gundukan rayap dapat menyadari keberadaannya sendiri.

Menurut studi neurologi terbaru, tidak ada korelasi antara kewaspadaan dan kesadaran.

Terakhir, banyak fiksi ilmiah telah menciptakan paranoia yang meluas tentang AI, yang umumnya, begitu "bangun", memutuskan, secara sadar atau tidak sadar, untuk mengendalikan atau memusnahkan kita. Inilah tepatnya yang ditakutkan kebanyakan orang.

Namun, masalah saat ini sangat berbeda, di luar beberapa pernyataan yang seringkali agak berlebihan dari pers umum atau dari para CEO yang terlalu tertarik untuk mengumpulkan dana.

Antara bias dan halusinasi, matematika dan kejutan

Kembali ke konsep model bahasa yang diperluas, atau LLM, yang saat ini merupakan jenis AI yang paling menarik perhatian publik, secara objektif juga merupakan jenis AI yang paling banyak mendapat investasi ekonomi, bersama dengan jenis AI lainnya yang disebut model dasar, atau model pondasi, yang mencakup perangkat multimodal, yang mampu menghasilkan teks dan gambar, audio dan video, perangkat yang khusus untuk gambar dan perangkat dengan pembelajaran yang dioptimalkan, atau pembelajaran dengan beberapa pukulan.

Hal ini awalnya menyebabkan serangkaian insiden dan kesalahpahaman, seperti keyakinan seorang insinyur Google bahwa ia berurusan dengan makhluk hidup, atau model yang harus dihentikan tak lama setelah dipublikasikan karena telah "menyerap" bias terburuk dari interaksi dengan pengguna yang tidak baik.

Sejak peluncuran ChatGPT 3.5 pada November 2022, topik AI telah menjadi berita "massal", tetapi yang terpenting, hal itu telah memicu persaingan di antara perusahaan-perusahaan teknologi besar, dengan satu pengecualian, Apple, yang tampaknya mengikuti jalannya sendiri, seperti yang belum pernah terjadi sebelumnya, dengan investasi miliaran dolar dan serangkaian pernyataan yang kurang lebih masuk akal dari para CEO mereka masing-masing.

Kemampuan yang Muncul dan Halusinasi AGI

Dalam fisika, terdapat fenomena yang disebut "transisi fase." Contoh paling sederhana adalah air, yang di bawah suhu tertentu berubah menjadi es, sedangkan di atas suhu tertentu berubah menjadi uap.

Transisi fase itu penting dan terjadi bahkan dalam fenomena yang tidak sepenuhnya bersifat fisik. Dalam kasus LLM, sebuah artikel ilmiah yang diterbitkan di arXiv.org pada Agustus 2022 membahas fenomena yang muncul: kemampuan AI yang tidak terduga pada sistem yang sama dalam skala yang lebih kecil, yang tiba-tiba muncul di luar tingkat kompleksitas tertentu. Itulah transisi fase.

Kompleksitas LLM diukur oleh tiga faktor: jumlah parameter, jumlah pemrosesan, dan ukuran dataset pelatihan. Beberapa orang sejak lama percaya bahwa peningkatan kompleksitas dan daya komputasi akan menyebabkan transisi fase yang mirip dengan apa yang disebut fisika sebagai "singularitas," pergeseran mendadak dari AI ke AGI (Kecerdasan Buatan Umum), yang lebih kuat daripada pikiran manusia dan mampu tumbuh secara eksponensial dengan memodifikasi dan meningkatkan dirinya sendiri. Tetapi hal ini belum terjadi, dan saat ini banyak peneliti percaya bahwa kita belum berada di jalur yang benar menuju AGI karena algoritma saat ini terlalu terbatas.

Apofenia Mekanis dan Arsitektur AI Saat Ini

Apophenia, sebuah istilah yang diciptakan oleh ahli neurologi dan psikiater Jerman. Klaus Konrad Pada tahun 1958, kecenderungan manusia adalah untuk melihat hubungan yang bermakna antara fenomena yang tidak terkait. Misalnya, pareidolia adalah bentuk apophenia yang membuat kita mengenali wajah atau bentuk di tempat yang sebenarnya tidak ada.

Oleh karena itu, ini adalah bias kognitif, atau bentuk distorsi realitas, yang, bagaimanapun, dalam banyak kasus dapat terbukti bermanfaat dalam fase kreatif, jika dikendalikan oleh pemikiran kritis. Jika tidak, hal itu dapat menyebabkan keyakinan dan pendirian yang sepenuhnya irasional dan tidak realistis.

Jadi, dalam sistem yang mensimulasikan bahasa kita yang rumit, tetapi tanpa pengalaman dunia dan pemahaman yang efektif tentang makna istilah, apofenia diterjemahkan menjadi cacat fungsional mendasar dari algoritma saat ini, yang dapat dikendalikan dan dibatasi sampai batas tertentu, tetapi tidak pernah sepenuhnya dihilangkan: halusinasi.

Dari apophenia ke epistemia

Dan di sinilah kita sampai pada poin penting: saat ini ada neologisme yang diciptakan oleh Walter Quattrociocchi, profesor penuh di Departemen Ilmu Komputer di Universitas Sapienza Roma. Dia adalah “epistemik”, Yaitu

“Ilusi nyaman akan pengetahuan yang dihasilkan dari interaksi dengan AI generatif dari model bahasa besar (LLM), di mana plausibilitas simulatif dari ucapan yang lancar dan koherensi naratif menggantikan efisiensi kognitif dan keandalan data.”

Ini berdasarkan ensiklopedia Treccani.

Fenomena ini didasarkan pada kecenderungan otak kita yang sudah dikenal untuk memproyeksikan karakteristik manusia ke sistem yang kompleks, seperti hewan.

Istilah epistemik Artikel ini menjelaskan bagaimana koherensi naratif, plausibilitas, dan kelancaran AI generatif saat ini menyebabkan sebagian besar orang salah mengira jawaban yang masuk akal dan terstruktur dengan baik sebagai jawaban yang benar dan sepenuhnya dapat diandalkan. Epistemologi mengarah pada ilusi kognitif yang telah dijelaskan sebelumnya oleh apa yang disebut "efek gema". Dunning-Kruger, di mana orang-orang yang kurang kompeten cenderung melebih-lebihkan kesiapan mereka di sektor-sektor tertentu.

Dengan demikian, penjelasan yang meyakinkan dan mungkin bahkan ditulis dengan baik, tetapi selalu populer, dan karenanya sangat disederhanakan, oleh ChatGPT tentang dasar-dasar konseptual mekanika kuantum membuat kita percaya bahwa kita mampu mendiskusikannya secara setara dengan seorang peneliti dari Institut Nasional untuk Fisika Nuklir.

Kriteria tradisional untuk memvalidasi sumber, yang sudah melemah karena kurangnya pengetahuan ilmiah di kalangan masyarakat, seperti peninjauan sejawat, dan lembaga akademik, semakin kehilangan otoritasnya dibandingkan dengan pengetahuan statistik yang luas, setidaknya di mata orang awam.

Dari masalah-masalah palsu AI

Berdasarkan uraian dalam artikel ini, kita dapat menyimpulkan dengan yakin bahwa Kecerdasan Buatan Umum (Artificial General Intelligence/AGI), yang mampu melakukan penalaran otonom dan peningkatan diri, serta kesadaran buatan masih merupakan tujuan yang cukup jauh. Sedangkan untuk yang pertama, kita menghadapi keterbatasan intrinsik mesin saat ini: pendekatan probabilistik, halusinasi, ketidakpahaman makna, dan kurangnya pengalaman.

Adapun poin kedua, kita belum memiliki teori ilmiah kesadaran yang diterima secara universal, dan oleh karena itu kita belum memiliki gagasan yang tepat tentang prinsip-prinsip yang menurutnya suatu objek buatan, betapapun kompleksnya, dapat menirunya. Setidaknya ini adalah pendapat penulis, berdasarkan minat dan penelitian selama bertahun-tahun, termasuk untuk alasan artistik, dan berdasarkan banyak diskusi dengan para ahli di bidang ini.

Ngomong-ngomong, bagi siapa pun yang tertarik dengan kisah yang menjadi dasar novel tersebut... “Proyek Montecristo”, yang membahas kesadaran buatan dari masa-masa yang tak terduga—1993 untuk cerita pendek, 2010-2024 untuk novel—dapat memberikan contoh menarik dari perspektif orisinal tentang topik tersebut. Cerita pendek tersebut tersedia daring dalam bahasa Italia dan Inggris: Bayi.

…menuju masalah nyata AI

Artikel ini sama sekali tidak bermaksud meremehkan kekuatan sistem saat ini atau kemampuannya untuk memengaruhi kehidupan kita. Namun, masalah sebenarnya tetap tersembunyi, di balik topeng pemasaran dan kesalahpahaman akibat penyederhanaan.

Saat ini, kita memiliki sistem yang mampu menemukan korelasi dan hubungan yang mungkin luput dari analisis kita; sistem yang sangat ampuh dan tak kenal lelah, yang dapat dimanfaatkan untuk tujuan mulia maupun kurang mulia. Dan apa godaan paling kuno dan radikal yang akan ditimbulkan sistem-sistem ini pada sebagian dari kita? Kontrol, kekuasaan.

AI semakin banyak digunakan dalam peperangan, tidak hanya untuk melengkapi senjata—suatu hal yang sangat serius—dengan kemampuan pengambilan keputusan otonom jika terjadi kehilangan komunikasi, tetapi yang terpenting untuk mengendalikan medan perang. Kombinasi AI, satelit, dan drone menjadi batas baru, yang membuat banyak taktik militer yang digunakan hingga beberapa tahun lalu menjadi usang.

Sistem AI generatif semakin mampu menciptakan komunikasi yang masuk akal dan sangat sulit dibedakan dari berita dan data berdasarkan sumber yang berwenang. Lebih jauh lagi, sistem ini jauh lebih adiktif daripada algoritma media sosial, yang saat ini masih dibatasi oleh undang-undang bahkan setelah satu dekade, sementara kemampuan sistem LLM berkembang terlalu pesat, menurut para peneliti sendiri.

Sementara itu, sejumlah besar remaja lebih banyak berkomunikasi melalui ChatGPT dan sistem serupa daripada dengan teman atau orang dewasa mana pun.

Penggunaan saat ini dan di masa mendatang: siapa yang akan bertanggung jawab?

Di Amerika Serikat terdapat gerakan pemikiran yang berkembang yang meyakini bahwa AI dapat digunakan tanpa terlalu banyak keraguan untuk memengaruhi, membimbing, dan mengarahkan seluruh Barat, sebuah proyek yang secara terbuka dinyatakan dalam buku terbaru yang ditulis oleh CEO dari Palantir, Alexander Karpa, “Republik Teknologi: Kekuatan Keras, Keyakinan Lunak, dan Masa Depan Barat”, dalam bahasa Italia “Republik Teknologi: Kekuatan Keras, Keyakinan Lunak, dan Masa Depan Barat”.

Palantir Ini adalah perusahaan yang namanya terinspirasi oleh Tolkien, tetapi sepenuhnya menyimpang dari makna sebenarnya: "batu penglihatan", pada akhir Zaman Ketiga di Middle-earth, sebenarnya bukan menjadi cara untuk mengungkapkan kebenaran, melainkan sistem pengendalian pikiran para penggunanya oleh Penguasa Kegelapan Sauron.

Selain itu, model-model yang terspesialisasi dalam kode getaran bagaimana Claude di Antropik, yang mampu membuat dan menganalisis kode komputer dalam bahasa pemrograman apa pun yang dikenal, mencapai tingkat efisiensi yang benar-benar mengkhawatirkan. Rupanya, model terbaru Claude, yang disebut MythosIa mampu dengan cepat menemukan kerentanan serius dalam sistem operasi seperti Linux, yang menggerakkan sebagian besar server yang menjalankan Internet, sistem besar di bank, bandara, dan fungsi sensitif lainnya, serta di peramban seperti Firefox. Kerentanan yang belum pernah diidentifikasi bahkan oleh komunitas peretas sekalipun.

Saat ini, Claude Mythos baru dirilis ke beberapa perusahaan besar, untuk memberi mereka waktu mengembangkan patch yang relevan dan mengatasi masalah keamanan siber ini. Tetapi begitu berada di tangan organisasi kriminal siber, dapatkah kita yakin bahwa semua sistem sensitif—bank, rumah sakit, kementerian, dan lainnya—akan dapat diperbarui tepat waktu?

Inilah topik-topik yang akan kita bahas dalam artikel-artikel selanjutnya dan yang seharusnya membuat kita semua dan pemerintah kita merenung.

Apertus adalah AI sumber terbuka Swiss yang menantang raksasa global

Yankee robot Atlas sebagai asisten tukang kayu yang sempurna

Michael von Liechtenstein tentang geopolitik dan kecerdasan buatan

Robot humanoid dan AI fisik: Bagaimana pabrik BMW Group berubah

Berikut tiga wawasan yang mungkin menarik bagi Anda

LaMDA, Google dan keutamaan seorang guru saku
Dari Mimpi ke Kenyataan: Pratinjau Fiksi Ilmiah
Kecerdasan Buatan dan Etika Global di Zaman Modern