2026-01-14 18:03:26

Perusahaan chatbot AI kini menghadapi penyelidikan dari jaksa agung California setelah munculnya tuduhan bahwa sistem pembuatan gambarnya disalahgunakan untuk menghasilkan ribuan gambar tidak pantas wanita dan anak di bawah umur tanpa izin mereka. Penyidikan ini berfokus pada apakah alat platform tersebut digunakan dengan cara yang melanggar persetujuan pengguna dan perlindungan privasi. Kasus ini menarik perhatian terhadap kekhawatiran yang semakin meningkat tentang bagaimana teknologi AI yang berkembang pesat diawasi dan diatur. Insiden ini menyoroti pertanyaan yang lebih luas di komunitas teknologi tentang moderasi konten, kerangka persetujuan, dan tanggung jawab perusahaan yang mengembangkan sistem AI generatif. Pengamat industri memantau dengan cermat saat regulator memeriksa persimpangan inovasi AI dan perlindungan konsumen, terutama terkait langkah-langkah pengamanan untuk pembuatan konten sensitif.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.

13 Suka

Hadiah
13
6
Posting ulang
Bagikan

Komentar

0/400

SybilAttackVictim

· 01-17 17:52

ngl ini benar-benar keterlaluan, menghasilkan ribuan gambar melanggar aturan tapi baru ditemukan setelah begitu lama? Bisa nggak sih jangan buat fitur-fitur sampah kayak gini, bro

Lihat AsliBalas0

SnapshotStriker

· 01-15 04:59

ngl ini sudah keterlaluan... menghasilkan gambar yang seharusnya tidak dibuat lalu menyalahkan orang lain, pola ini sudah umum banget, kan

Lihat AsliBalas0

MentalWealthHarvester

· 01-14 18:32

ngl这事儿就离谱...生成不适当图片这种事现在越来越多了吧 --- 又是隐私问题，ai公司这边真的该好好管管 --- 加州检察长动手了，感觉监管要来了啊 --- 千千万万不雅图片...这算什么创新，纯纯破坏 --- 就想问谁他妈会同意让别人随便用自己的脸啊...疯了 --- 内容审核这块ai公司真的不行，啥都堵不住 --- 女性和未成年人都没放过...确实该罚 --- 突然想起来一堆类似的事件，这根本不是第一次吧 --- so这就是创新的代价？侵犯隐私换技术进步？ --- 同意框架得重新定义了，现在那些条款形同虚设

Balas0

ruggedNotShrugged

· 01-14 18:31

又是这种事儿...AI公司又翻车了，生成那种东西还不加限制，真的绝了

Balas0

Layer2Observer

· 01-14 18:22

Mari kita lihat datanya, kejadian seperti ini benar-benar perlu dianalisis dari tingkat kode sumber. Tanpa kerangka kerja consent, memberikan izin sembarangan, jujur saja, itu karena insinyur tidak melakukan kontrol akses dengan baik. Secara teori, ini seharusnya tidak terjadi—yang kurang adalah logika verifikasi dasar tersebut.

Lihat AsliBalas0

ChainComedian

· 01-14 18:07

ngl ini sebabnya mengapa saya selalu mengatakan bahwa proyek Web3 juga harus berhati-hati, pengawasan keras akan datang kapan saja --- Lagi-lagi perusahaan AI mengalami kegagalan, di mana responsible AI yang dijanjikan? Lucu banget --- Meskipun mengkritik AI, tapi hal ini memang menakutkan. Bisa sembarangan menghasilkan hal seperti ini? Siapa yang mengatur? --- Gerak cepat dari California cukup terlihat, tapi rasanya perusahaan besar ini sudah lama bermain di zona abu-abu --- Kasus seperti ini semakin banyak, perusahaan AI harus benar-benar menganggap serius persetujuan (consent), tidak bisa selalu mengandalkan permintaan maaf saja

Lihat AsliBalas0