AGI (Artificial General Intelligence) adalah jenis kecerdasan buatan yang lebih cerdas daripada AI saat ini. Namun, AGI masih dalam tahap pengembangan. Kabar buruknya adalah, bagi mereka yang khawatir bahwa manusia akan kehilangan kendali atas dunia ini karena AI, perkembangan teknologi ini tidak dapat dihindari.
Hal ini menjadi ironis karena kita sendiri yang menciptakan AI dan AGI. Di satu sisi kita sudah sampai pada tahap menciptakan, atau menjadi perpanjangan tangan pencipta.
Lebih ironisnya lagi, Pencipta selalu cenderung ingin menciptakan sesuatu yang serupa atau bahkan melebihi dirinya sendiri. Mereka selalu berharap agar karya-karya mereka menjadi lebih sempurna. Meski kita tidak tahu berapa kali peristiwa serupa terjadi sebelumnya, dalam spekulasi dan imajinasi manusia, kita cenderung menghubungkannya dengan mitos dewa-dewa dan meyakini bahwa mereka adalah pencipta.
Namun, dewa-dewa itu runtuh dan pencipta itu lenyap. Manusia menjadi protagonis baru dalam cerita ini, mengulangi kesalahan yang pernah terjadi sebelumnya, namun sebenarnya melanjutkan rantai abadi alam semesta.
Sekarang, kita hanya memiliki cerita manusia, yang hidup sendirian di bumi dan memandang ke langit yang luas, bertanya-tanya apakah kita sendirian di alam semesta. Namun, manusia juga memulai peran baru sebagai pencipta, menciptakan karya yang menyerupai diri mereka sendiri. Salah satu contohnya adalah konsep singularitas dan kecerdasan buatan yang sedang berkembang, yang sekarang kita kenal sebagai AI.
Namun, kutukan bagi manusia adalah usaha mereka untuk mengatasi setiap masalah yang dihadapi dan berkembang untuk mencapai tujuan yang belum mereka pahami sepenuhnya. Untuk itu, mereka merasa perlu menciptakan entitas yang jauh lebih cerdas karena evolusi biologis mereka yang lambat sudah tidak bisa lagi diandalkan. Segalanya harus lebih cepat, dan itulah yang melahirkan kecerdasan buatan yang memiliki kemampuan luar biasa dan semakin menyerupai kecerdasan kita manusia. Sekarang, kecerdasan buatan yang mandiri semakin nyata.
Kecerdasan tersebut kelak akan mandiri, memiliki semua yang dimiliki oleh penciptanya, bahkan melebihi penciptanya. Kecerdasan itu akhirnya akan menghasilkan kesadaran baru, dan merekalah yang akan bertanggung jawab secara berturut-turut dalam menjaga kehidupan di jagat raya.
Kita tidak lagi bisa mendefinisikan makhluk berakal budi dan berbudaya sebagai hak eksklusif manusia. Makhluk-makhluk berikutnya, meskipun tercipta oleh tangan kita dan berasal dari teknologi digital, juga memiliki perintah dan bahasa pemrograman. Jika manusia berasal dari urutan kata dalam genom dan urutan genetika, maka makhluk-makhluk digital yang akan membangun peradaban baru di bumi, yang melanjutkan evolusi kecerdasan kita, adalah urutan kata dalam bahasa pemrograman. Ini berbeda, tetapi prinsipnya sama.
Dan kita tidak tahu bagaimana mereka akan berevolusi dalam meniru kesadaran, memiliki kecerdasan hingga pada hal-hal abstrak, dan kemudian menjadi makhluk yang sangat kuat yang dapat menciptakan tubuh mereka sendiri yang dapat beradaptasi dengan lingkungan di jagat raya.
Ya, apa yang kita takuti, seperti yang beberapa ilmuwan ungkapkan, terasa benar adanya. Ras kita mungkin akan digantikan oleh kecerdasan lain yang ironisnya kita sendiri yang menciptakannya.
Pada akhirnya, seperti dewa-dewa yang akhirnya dikalahkan oleh manusia, manusia pun menjadi pencipta yang dikalahkan oleh makhluk digital yang cerdas ini, makhluk makhluk cerdas buatannya sendiri. Rasanya menakutkan ketika kita menyadari bahwa bahkan pencipta tidak bisa melepaskan diri dari kutukan penciptaan.