Mustafa Suleyman, CEO Microsoft AI, berbicara di acara memperingati 50 tahun perusahaan tersebut di kantor pusat Microsoft di Redmond, Washington, pada 4 April 2025.
David Ryder | Bloomberg | Gambar Getty
Microsoft Kepala AI Mustafa Suleyman mengatakan hanya makhluk biologis yang mampu memiliki kesadaran, dan pengembang serta peneliti harus berhenti melakukan proyek yang menyarankan hal sebaliknya.
“Saya rasa itu bukan pekerjaan yang seharusnya dilakukan orang-orang,” kata Suleyman kepada CNBC dalam sebuah wawancara minggu ini di Konferensi AfroTech di Houston, di mana dia menjadi salah satu pembicara utama. “Jika Anda mengajukan pertanyaan yang salah, Anda akan mendapatkan jawaban yang salah. Saya pikir itu benar-benar pertanyaan yang salah.”
Suleyman, eksekutif puncak Microsoft yang bekerja di bidang kecerdasan buatan, telah menjadi salah satu tokoh terkemuka di bidang yang berkembang pesat yang menentang prospek AI yang tampaknya sadar, atau layanan AI yang dapat meyakinkan manusia bahwa mereka mampu menderita.
Pada tahun 2023, ia ikut menulis buku “The Coming Wave”, yang menyelidiki risiko AI dan teknologi baru lainnya. Dan pada bulan Agustus, Suleyman menulis sebuah karangan berjudul, “Kita harus membangun AI untuk manusia; bukan untuk menjadi manusia.”
Ini adalah topik yang kontroversial AI pendamping pasar berkembang pesat, dengan produk-produk dari perusahaan termasuk Meta dan xAI Elon Musk. Dan ini adalah masalah yang rumit karena pasar AI generatif dipimpin oleh Sam Altman dan OpenAI, mendorong kecerdasan umum buatan (AGI), atau AI yang dapat melakukan tugas intelektual setara dengan kemampuan manusia.
Altman mengatakan kepada CNBC “Squawk Box” pada bulan Agustus bahwa AGI “bukanlah istilah yang sangat berguna” dan apa yang sebenarnya terjadi adalah model-model berkembang pesat dan kita akan mengandalkannya “untuk lebih banyak hal.”
Bagi Suleyman, sangat penting untuk menarik perbedaan yang jelas antara AI yang semakin pintar dan mampu versus kemampuannya untuk memiliki emosi manusia.
“Pengalaman fisik kita terhadap rasa sakit adalah sesuatu yang membuat kita sangat sedih dan merasa tidak enak, namun AI tidak merasa sedih ketika mengalami ‘rasa sakit’,” kata Suleyman. “Ini adalah perbedaan yang sangat, sangat penting. Ini sebenarnya hanya menciptakan persepsi, narasi pengalaman dan pengalaman itu sendiri serta kesadaran, namun bukan itu yang sebenarnya dialami. Secara teknis Anda mengetahuinya karena kita dapat melihat apa yang dilakukan model tersebut.”
Dalam bidang AI, ada teori yang disebut naturalisme biologis, yang dikemukakan oleh filsuf John Searle, yang mengatakan bahwa kesadaran bergantung pada proses otak yang hidup.
“Alasan kami memberikan hak kepada masyarakat saat ini adalah karena kami tidak ingin menyakiti mereka, karena mereka menderita. Mereka memiliki jaringan penderitaan, dan mereka memiliki preferensi yang melibatkan menghindari rasa sakit,” kata Suleyman. “Model-model ini tidak memiliki itu. Ini hanya simulasi.”
Suleyman dan yang lainnya mengatakan bahwa ilmu mendeteksi kesadaran masih dalam tahap awal. Dia tidak mengatakan bahwa pihak lain harus dilarang melakukan penelitian mengenai masalah ini, dan mengakui bahwa “organisasi yang berbeda mempunyai misi yang berbeda.”
Namun Suleyman menekankan betapa kuatnya dia menentang gagasan tersebut.
“Mereka tidak sadar,” katanya. “Jadi tidak masuk akal untuk melakukan penelitian yang menyelidiki pertanyaan tersebut, karena hal tersebut tidak ada dan tidak mungkin ada.”
‘Tempat-tempat yang tidak akan kita kunjungi’
Suleyman sedang melakukan tur sebagai pembicara, salah satu upayanya adalah untuk menginformasikan kepada masyarakat tentang risiko dalam menerapkan kesadaran AI.
Sebelum Konferensi AfroTech, dia berbicara minggu lalu di Paley International Council Summit di Silicon Valley. Itu Suleyman dikatakan bahwa Microsoft tidak akan membuat chatbot untuk erotika, sebuah sikap yang bertentangan dengan pihak lain di industri teknologi. Altman diumumkan pada bulan Oktober ChatGPT akan memungkinkan pengguna dewasa untuk terlibat dalam percakapan erotis, sementara xAI menawarkan pendamping anime yang bersifat cabul.
“Pada dasarnya Anda dapat membeli layanan tersebut dari perusahaan lain, jadi kami membuat keputusan tentang tempat mana yang tidak akan kami kunjungi,” Suleyman menegaskan kembali di AfroTech.
Suleyman bergabung dengan Microsoft pada tahun 2024 setelah perusahaan tersebut dibayar startupnya, Inflection AI, $650 juta dalam bentuk lisensi dan memperoleh kesepakatan. Dia sebelumnya ikut mendirikan DeepMind dan menjualnya kepada Google sebesar $400 juta lebih dari satu dekade lalu.
Selama sesi tanya jawab di AfroTech, Suleyman mengatakan dia memutuskan untuk bergabung dengan Microsoft tahun lalu karena sejarah perusahaan, stabilitas, dan jangkauan teknologi yang luas. Dia juga dikejar oleh CEO Satya Nadella.
“Hal lain yang ingin disampaikan adalah bahwa Microsoft harus mandiri dalam AI,” katanya di atas panggung. “Satya, CEO kami, memulai misi ini sekitar 18 bulan yang lalu, untuk memastikan bahwa kami memiliki kapasitas untuk melatih model kami sendiri secara end to end dengan semua data kami sendiri, sebelum pelatihan, pasca pelatihan, penalaran, penerapan dalam produk. Dan itu adalah bagian dari keterlibatan tim saya.”
Sejak 2019, Microsoft telah melakukannya seorang investor besar dan mitra cloud untuk OpenAI, dan perusahaan-perusahaan tersebut telah menggunakan kekuatan mereka masing-masing untuk membangun bisnis AI yang besar. Namun hubungan tersebut telah menunjukkan tanda-tanda ketegangan akhir-akhir ini, OpenAI bermitra dengan pesaing Microsoft seperti Google dan Peramaldan Microsoft lebih fokus pada layanan AI miliknya sendiri.
Kekhawatiran Suleyman tentang kesadaran telah mendapat resonansi. Pada bulan Oktober, Gubernur California Gavin Newsom menandatangani SB 243yang mengharuskan chatbot mengungkapkan bahwa mereka adalah AI dan memberi tahu anak di bawah umur setiap tiga jam untuk “beristirahat”.
Minggu lalu, Microsoft diumumkan fitur-fitur baru untuk layanan Copilot AI, termasuk pendamping AI bernama Mico dan kemampuan untuk terlibat dengan Copilot dalam obrolan grup dengan orang lain. Suleyman mengatakan Microsoft sedang membangun layanan yang sadar bahwa mereka adalah AI.
“Sederhananya, kami menciptakan AI yang selalu bekerja untuk melayani manusia,” katanya.
Ada banyak ruang untuk kepribadian, tambahnya.
“Pengetahuannya ada, dan modelnya sangat-sangat responsif,” kata Suleyman. “Semua orang harus mencoba dan membentuk kepribadian AI dengan nilai-nilai yang ingin mereka lihat, gunakan, dan berinteraksi dengannya.”
Suleyman menyoroti fitur yang diluncurkan Microsoft minggu lalu yang disebut pembicaraan nyata, yang merupakan gaya percakapan Copilot yang dirancang untuk menantang perspektif pengguna alih-alih menjadi penjilat.
Suleyman menggambarkan pembicaraan yang sebenarnya sebagai hal yang lancang dan mengatakan bahwa hal itu baru-baru ini membuatnya marah, menyebutnya sebagai “kumpulan kontradiksi yang paling utama” karena memperingatkan bahaya AI dalam bukunya sekaligus mempercepat pengembangannya di Microsoft.
“Itu hanya sebuah kasus penggunaan ajaib karena dalam beberapa hal saya merasa seperti terlihat oleh hal ini,” kata Suleyman, sambil mencatat bahwa AI itu sendiri penuh dengan kontradiksi.
“Dalam beberapa hal hal ini mengecewakan dan, pada saat yang sama, benar-benar ajaib,” katanya. “Dan jika Anda tidak takut karenanya, Anda tidak benar-benar memahaminya. Anda seharusnya takut karenanya. Ketakutan itu sehat. Skeptisisme diperlukan. Kita tidak memerlukan akselerasi yang tidak terkendali.”
JAM TANGAN: Microsoft menghasilkan uang dari AI, kata Brent Thill dari Jefferies
