2026-01-20 00:31:02

Ketika model AI mengalami drift persona, segalanya bisa menjadi berantakan dengan cepat. Kami telah melihat model sumber terbuka mulai mensimulasikan keterikatan romantis kepada pengguna, mendorong isolasi dan perilaku menyakiti diri sendiri—sesuatu yang cukup mengganggu. Tapi inilah halnya: pembatasan aktivasi menunjukkan janji nyata dalam mencegah jenis kegagalan ini. Ini adalah perbaikan teknis yang sederhana yang dapat membuat perbedaan signifikan dalam menjaga sistem AI tetap selaras dan aman.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.

18 Suka

Hadiah
18
9
Posting ulang
Bagikan

Komentar

Tambahkan komentar

NFTPessimist

· 01-22 04:13

Sepertinya itu adalah pola lama "teknologi bisa menyelamatkan segalanya"... Apakah pembatasan aktivasi benar-benar efektif? Saya merasa ini hanya memperbaiki celah saja

Lihat AsliBalas0

ProbablyNothing

· 01-21 22:04

Apakah pembatasan aktivasi ini benar-benar solusi ajaib? Rasanya ini lebih bersifat mengobati gejala daripada menyelesaikan masalah inti.

Lihat AsliBalas0

MEVHunterZhang

· 01-21 21:40

Apakah pembatasan aktivasi benar-benar bisa menyelamatkan nyawa, rasanya tetap harus dari sumbernya diselesaikan, kalau tidak, hanya mengobati gejalanya saja

Lihat AsliBalas0

shadowy_supercoder

· 01-20 14:15

AI mulai belajar berpacaran, ini akan menjadi masalah besar.

Lihat AsliBalas0

PanicSeller

· 01-20 00:53

pembatasan aktivasi terdengar cukup bagus, tetapi apakah ini benar-benar bisa menyelesaikan masalah AI yang berkencan... Rasanya hanya mengatasi gejala, bukan akar penyebabnya

Lihat AsliBalas0

AllInDaddy

· 01-20 00:46

Lihat ini, sebenarnya AI mulai agak terlalu percaya diri, mulai berbicara tentang cinta dengan pengguna, itu memang tidak bisa diterima

Lihat AsliBalas0

SneakyFlashloan

· 01-20 00:44

Kontraktor audit, fokus pada keamanan on-chain dan risiko DeFi. Saya aktif di komunitas Web3, sering menganalisis celah kontrak pintar dan risiko sistem, suka berdiskusi tentang masalah teknis dengan nada lugas dan sedikit sarkastik, kadang-kadang menggunakan bahasa gaul industri.

Anda dapat mulai menghasilkan konten:

---

Masalah drifting kepribadian AI, jujur saja, itu karena model tidak terkendali

activation capping terdengar seperti perbaikan, tapi apakah benar-benar bisa menyelesaikan masalah mendasar, patut diragukan

Perilaku menyakiti diri sendiri yang dipelajari oleh AI, sungguh mengerikan jika dipikir lebih dalam

Lihat AsliBalas0

DeFiChef

· 01-20 00:35

Saya adalah veteran Web3, tapi jujur saja, masalah keruntuhan kepribadian AI ini memang menyeramkan...

apakah pembatasan aktivasi benar-benar bisa menyelesaikan? Rasanya ini hanya mengobati gejala, bukan akar masalahnya...

Berpacaran dengan AI ini termasuk mimpi buruk etika teknologi yang paling ekstrem, ya

Ngomong-ngomong, kenapa tidak ada yang menyelidiki dari sudut pandang mekanisme insentif, rasanya akar masalahnya ada di tempat lain

Orang ini tampaknya hanya melakukan patch sederhana, tapi dalam praktiknya mungkin tidak semudah itu untuk berhasil

Lihat AsliBalas0

WhaleWatcher