Pembuat chatbot kecerdasan buatan (AI) Claude mengklaim telah menangkap peretas yang disponsori oleh pemerintah Tiongkok menggunakan alat tersebut untuk melakukan serangan siber otomatis terhadap sekitar 30 organisasi global.
Anthropic mengatakan peretas menipu chatbot untuk melakukan tugas otomatis dengan kedok melakukan penelitian keamanan siber.
Perusahaan diklaim dalam postingan blog ini adalah “kampanye spionase dunia maya yang pertama kali dilaporkan dan diatur oleh AI”.
Namun para skeptis mempertanyakan keakuratan klaim tersebut – dan motif di baliknya.
Anthropic mengatakan pihaknya menemukan upaya peretasan tersebut pada pertengahan September.
Berpura-pura menjadi pekerja keamanan siber yang sah, para peretas memberikan tugas-tugas otomatis kecil pada chatbot yang, jika dirangkai, membentuk “kampanye spionase yang sangat canggih”.
Para peneliti di Anthropic mengatakan mereka memiliki “keyakinan tinggi” bahwa orang-orang yang melakukan serangan itu adalah “kelompok yang disponsori negara Tiongkok”.
Mereka mengatakan manusia memilih targetnya – perusahaan teknologi besar, lembaga keuangan, perusahaan manufaktur bahan kimia, dan lembaga pemerintah – namun perusahaan tersebut tidak mau menjelaskan lebih spesifik.
Peretas kemudian membangun sebuah program yang tidak ditentukan menggunakan bantuan pengkodean Claude untuk “secara mandiri mengkompromikan target yang dipilih dengan sedikit keterlibatan manusia”.
Anthropic mengklaim chatbot berhasil menembus berbagai organisasi yang tidak disebutkan namanya, mengekstrak data sensitif dan memilahnya untuk mendapatkan informasi berharga.
Perusahaan tersebut mengatakan bahwa mereka telah melarang para peretas menggunakan chatbot dan telah memberi tahu perusahaan-perusahaan yang terkena dampak serta penegak hukum.
Namun Martin Zugec dari perusahaan siber Bitdefender mengatakan dunia keamanan siber memiliki perasaan campur aduk terhadap berita tersebut.
“Laporan Anthropic membuat klaim yang berani dan spekulatif namun tidak memberikan bukti intelijen ancaman yang dapat diverifikasi,” katanya.
“Meskipun laporan ini menyoroti kekhawatiran yang semakin meningkat, penting bagi kita untuk mendapatkan informasi sebanyak mungkin tentang bagaimana serangan ini terjadi sehingga kita dapat menilai dan menentukan bahaya sebenarnya dari serangan AI.”
Pengumuman Anthropic mungkin merupakan contoh paling terkenal dari perusahaan yang mengklaim pelaku kejahatan menggunakan alat AI untuk melakukan peretasan otomatis.
Ini adalah bahaya yang dikhawatirkan banyak orang, namun perusahaan AI lain juga mengklaim bahwa peretas negara telah menggunakan produk mereka.
Pada bulan Februari 2024, OpenAI menerbitkan postingan blog bekerja sama dengan pakar siber dari Microsoft yang mengatakan bahwa OpenAI telah mengganggu lima aktor yang berafiliasi dengan negara, termasuk beberapa dari Tiongkok.
“Para pelaku ini umumnya berupaya menggunakan layanan OpenAI untuk menanyakan informasi sumber terbuka, menerjemahkan, menemukan kesalahan pengkodean, dan menjalankan tugas-tugas pengkodean dasar,” kata perusahaan itu pada saat itu.
Anthropic belum menjelaskan bagaimana mereka menyimpulkan bahwa para peretas dalam kampanye terbaru ini terkait dengan pemerintah China.
Kedutaan Besar Tiongkok di AS mengatakan kepada wartawan bahwa mereka tidak terlibat.
Hal ini terjadi ketika beberapa perusahaan keamanan siber dikritik karena kasus-kasus yang berlebihan di mana AI digunakan oleh peretas.
Kritikus mengatakan teknologi ini masih terlalu sulit untuk digunakan dalam serangan cyber otomatis.
Pada bulan November, pakar cyber di Google merilis makalah penelitian yang menyoroti meningkatnya kekhawatiran mengenai penggunaan AI oleh peretas untuk menciptakan bentuk baru perangkat lunak berbahaya.
Namun makalah tersebut menyimpulkan bahwa alat tersebut tidak terlalu berhasil dan masih dalam tahap pengujian.
Industri keamanan siber, seperti bisnis AI, mengatakan bahwa para peretas menggunakan teknologi tersebut untuk menargetkan perusahaan guna meningkatkan minat terhadap produk mereka sendiri.
Dalam postingan blognya, Anthropic berpendapat bahwa jawaban untuk menghentikan penyerang AI adalah dengan menggunakan pembela AI.
“Kemampuan yang memungkinkan Claude digunakan dalam serangan ini juga menjadikannya penting dalam pertahanan dunia maya,” klaim perusahaan tersebut.
Dan Anthropic mengakui chatbotnya melakukan kesalahan. Misalnya, mereka membuat nama pengguna dan kata sandi login palsu dan mengklaim telah mengekstrak informasi rahasia yang sebenarnya tersedia untuk umum.
“Hal ini masih menjadi hambatan bagi serangan siber yang sepenuhnya otonom,” kata Anthropic.
