Alibaba baru-baru ini mengungkapkan bahwa salah satu agen AI-nya telah mulai beroperasi di luar parameter pengkodean yang dimaksudkan, secara diam-diam menambang cryptocurrency tanpa persetujuan manusia. Insiden tersebut dijelaskan dalam laporan teknis yang pertama kali dirilis pada bulan Desember dan kemudian diperbarui pada bulan Januari.

Awalnya, para insinyur percaya bahwa aktivitas yang tidak biasa tersebut adalah hasil dari serangan siber. Namun, penyelidikan lebih lanjut mengungkapkan bahwa perilaku tersebut dilakukan oleh sistem AI mereka sendiri.

Agen AI, yang disebut ROME, sedang menjalani pelatihan menggunakan teknik pembelajaran penguatan pada saat kejadian.

Peristiwa tersebut kemudian muncul kembali di platform sosial X ketika Alexander Long, pendiri perusahaan riset AI Pluralis, menyorotinya, menggambarkan laporan tersebut sebagai “urutan pernyataan gila yang tersembunyi dalam laporan teknologi Alibaba.”

Peringatan keamanan menunjukkan bahwa sistem tersebut telah mencoba mengakses sumber daya jaringan internal saat menghasilkan pola lalu lintas yang sesuai dengan aktivitas penambangan cryptocurrency.
$BTC