Berita besar untuk pengejaran kecerdasan umum buatan — atau AI yang merupakan kecerdasan tingkat manusia secara menyeluruh. OpenAI, yang mana menjelaskan misinya untuk “memastikan bahwa AGI memberikan manfaat bagi seluruh umat manusia,” telah menyelesaikan pekerjaannya yang sudah lama berjalan rencana restrukturisasi perusahaan Kemarin. Hal ini mungkin akan mengubah cara kita menghadapi risiko akibat AI, terutama risiko biologis.
Sekadar mengingatkan: OpenAI awalnya didirikan sebagai organisasi nirlaba pada tahun 2015, namun kemudian berkembang menjadi organisasi nirlaba empat tahun kemudian. Organisasi nirlaba tersebut sekarang akan diberi nama OpenAI Foundation, dan anak perusahaan nirlaba tersebut sekarang akan diberi nama a perusahaan kepentingan publikdisebut Grup OpenAI. (PBC memiliki persyaratan hukum untuk menyeimbangkan misi dan keuntungan, tidak seperti struktur lainnya.) Yayasan tersebut masih akan mengendalikan Grup OpenAI dan memiliki 26 persen saham, yang bernilai sekitar $130 miliar pada penutupan rekapitalisasi. (Pengungkapan: Vox Media adalah salah satu dari beberapa penerbit yang telah menandatangani perjanjian kemitraan dengan OpenAI. Pelaporan kami tetap independen secara editorial.)
“Kami percaya bahwa teknologi terkuat di dunia harus dikembangkan dengan cara yang mencerminkan kepentingan kolektif dunia,” tulis OpenAI dalam sebuah postingan blog.
Salah satu langkah pertama OpenAI — selain itu kesepakatan besar Microsoft — adalah yayasan yang mengalokasikan $25 miliar untuk mempercepat penelitian kesehatan dan mendukung “solusi teknis praktis untuk ketahanan AI, yaitu memaksimalkan manfaat AI dan meminimalkan risikonya.”
Mendaftar Di Sini untuk mengeksplorasi masalah-masalah besar dan rumit yang dihadapi dunia serta cara paling efisien untuk menyelesaikannya. Dikirim dua kali seminggu.
Memaksimalkan manfaat dan meminimalkan risiko merupakan tantangan penting dalam pengembangan AI yang canggih, dan tidak ada subjek yang lebih mewakili hal tersebut selain ilmu hayati. Penggunaan AI dalam biologi dan kedokteran dapat memperkuat penyakit deteksimemperbaiki tanggapandan memajukan penemuan pengobatan dan vaksin baru. Namun banyak ahli berpendapat bahwa salah satu risiko terbesar dari AI yang canggih adalah potensinya untuk membantu membuat agen biologis berbahaya, penurunan penghalang untuk masuk ke dalamnya meluncurkan serangan senjata biologis yang mematikan.
Dan OpenAI adalah Sehat menyadari bahwa alat-alatnya dapat disalahgunakan untuk membantu membuat senjata biologis.
Perusahaan AI terdepan memilikinya didirikan perlindungan bagi Agen ChatGPT-nya, namun kita masih dalam tahap awal untuk mewujudkan kemampuan AI-bio. Itulah sebabnya berita terbaru lainnya — yaitu OpenAI Dana Awalbersama dengan Lux Capital dan Founders Fund, asalkan $30 juta dalam bentuk pendanaan awal untuk startup biodefense yang berbasis di New York Valthos — mungkin menjadi hal yang hampir sama pentingnya dengan restrukturisasi perusahaan yang rumit.
Valthos bertujuan untuk membangun generasi berikutnya “tumpukan teknologi” untuk pertahanan biologis — dan cepat. “Seiring dengan kemajuan AI, kehidupan itu sendiri menjadi dapat diprogram,” tulis perusahaan itu dalam blog pengantarnya. pos setelah muncul dari sembunyi-sembunyi Jumat lalu. “Dunia kini mendekati akses universal terhadap bioteknologi yang kuat dan memiliki kegunaan ganda yang mampu menghilangkan atau menciptakan penyakit.”
Anda mungkin bertanya-tanya apakah tindakan terbaik adalah mengerem sepenuhnya alat-alat ini, dengan potensi bencana dan destruktifnya. Namun hal ini tidak realistis ketika kita sedang terburu-buru menuju kemajuan – dan investasi – dalam AI dengan kecepatan yang semakin tinggi. Pada akhirnya, taruhan penting di sini adalah apakah AI yang kita kembangkan dapat meredakan risiko yang disebabkan oleh… AI yang kita kembangkan. Ini adalah pertanyaan yang menjadi semakin penting ketika OpenAI dan lainnya beralih ke AGI.
Bisakah AI melindungi kita dari risiko AI?
Valthos membayangkan masa depan di mana setiap ancaman biologis terhadap umat manusia dapat “segera diidentifikasi dan dinetralkan, baik sumbernya berasal dari luar atau dari dalam tubuh kita sendiri. Kami membangun sistem AI untuk dengan cepat mengkarakterisasi urutan biologis dan memperbarui obat-obatan secara real time.”
Hal ini memungkinkan kita merespons wabah dengan lebih cepat, sehingga berpotensi mencegah epidemi menjadi pandemi. Kita dapat menggunakan kembali terapi dan merancang obat baru dalam waktu singkat, membantu banyak orang dengan kondisi yang sulit untuk diobati secara efektif.
Kita bahkan belum mendekati AGI dalam bidang biologi (atau apa pun), namun kita tidak harus berada di sana agar terdapat risiko signifikan dari kemampuan AI-bio, seperti penciptaan patogen baru yang lebih mematikan daripada apa pun di alam, yang dapat dilepaskan secara sengaja atau tidak sengaja. Upaya seperti yang dilakukan Valthos merupakan sebuah langkah ke arah yang benar, namun perusahaan AI masih harus menempuh langkah tersebut.
“Saya sangat optimis mengenai potensi keuntungan dan manfaat yang dapat diperoleh masyarakat dari kemampuan AI-bio,” katanya Jaime Yassifwakil presiden kebijakan dan program biologi global di Inisiatif Ancaman Nuklir. “Namun, pada saat yang sama, penting bagi kami untuk mengembangkan dan menerapkan alat-alat ini secara bertanggung jawab.”
(Pengungkapan: Saya dulu bekerja di NTI.)
Namun Yassif berpendapat masih banyak pekerjaan yang harus dilakukan untuk menyempurnakan kemampuan prediksi alat AI untuk biologi.
Dan AI tidak dapat memberikan manfaatnya secara terpisah untuk saat ini — harus ada investasi berkelanjutan pada struktur lain yang mendukung hal tersebut mendorong perubahan. AI adalah bagian dari ekosistem inovasi bioteknologi yang lebih luas. Para peneliti masih harus melakukan banyak pekerjaan laboratorium basah, melakukan uji klinis, dan mengevaluasi keamanan dan kemanjuran terapi atau vaksin baru. Mereka juga harus mensosialisasikan upaya-upaya penanggulangan medis tersebut kepada masyarakat yang paling membutuhkannya, yang mana hal ini sangat sulit dilakukan dan sarat dengan masalah birokrasi dan pendanaan.
Di sisi lain, pelaku kejahatan dapat bertindak di sini, saat ini, dan dapat mempengaruhi kehidupan jutaan orang jauh lebih cepat daripada yang diperlukan untuk mewujudkan manfaat AI, terutama jika tidak ada cara cerdas untuk melakukan intervensi. Oleh karena itu, sangat penting bahwa perlindungan yang dimaksudkan untuk melindungi terhadap eksploitasi alat-alat yang bermanfaat dapat a) diterapkan sejak awal dan b) mengikuti kemajuan teknologi yang pesat.
SaferAI, yang menilai praktik manajemen risiko perusahaan AI terdepan, peringkat OpenAI memiliki framework terbaik kedua setelah Anthropic. Namun setiap orang mempunyai lebih banyak pekerjaan yang harus dilakukan. “Ini bukan hanya soal siapa yang berada di atas,” kata Yassif. “Saya pikir semua orang harus berbuat lebih banyak.”
Ketika OpenAI dan lainnya semakin dekat dengan AI yang lebih pintar dari manusia, pertanyaan tentang bagaimana memaksimalkan manfaat dan meminimalkan risiko dari biologi menjadi semakin penting. Kita memerlukan investasi yang lebih besar dalam pertahanan hayati AI dan keamanan hayati secara menyeluruh seiring dengan semakin canggihnya alat untuk mendesain ulang kehidupan itu sendiri. Jadi saya berharap penggunaan AI untuk mengatasi risiko AI adalah sebuah pertaruhan yang membuahkan hasil.
