Baru-baru ini, berita pengunduran diri kepala tim robotika OpenAI, Katlin Kalinovski, telah mengguncang pasar. Dia menyatakan kekhawatiran moral serius terkait kesepakatan kolaborasi AI dengan Pentagon, dan ini bukan hanya keputusan pribadi, melainkan soal prinsip.

Kalinovski mengatakan bahwa AI dapat memainkan peran penting dalam keamanan nasional, tetapi memerlukan pengawasan dan langkah-langkah perlindungan yang tepat. Kekhawatirannya utama adalah penyalahgunaan AI untuk pengawasan domestik dan pengembangan sistem senjata otonom. Dia menyebutkan bahwa OpenAI tidak menetapkan perlindungan administratif yang cukup sebelum mengumumkan kesepakatan ini, dan keputusan diambil terlalu terburu-buru.

Kalinovski bergabung dari Meta pada tahun 2024, di mana dia bekerja pada proyek kacamata AR. Kedatangannya di OpenAI bertujuan memberi arah baru bagi tim, tetapi situasinya berubah setelah pengumuman kolaborasi dengan Pentagon. Dia tetap menghormati Sam Altman dan seluruh tim, tetapi tidak setuju dengan masalah ini.

J juru bicara OpenAI mengatakan bahwa kolaborasi dengan Pentagon adalah upaya untuk memperkuat keamanan nasional melalui penggunaan AI yang terkendali, dan perusahaan telah menetapkan batasan yang jelas. Namun, kontroversi mengenai kolaborasi ini terus berlangsung di industri. Respon pasar sangat menarik — setelah berita ini, jumlah penghapusan ChatGPT meningkat lebih dari 295%, sementara aplikasi Claude dari Anthropic menduduki posisi pertama di App Store AS untuk aplikasi gratis.

Seluruh kasus ini menimbulkan pertanyaan besar tentang penggunaan etis teknologi seperti dbot dan sistem otonom lainnya dalam AI. Ketika perusahaan besar bekerja sama dengan pemerintah, transparansi dan langkah-langkah perlindungan menjadi sangat penting. Jika Anda tertarik memikirkan pengembangan teknologi dan aspek etisnya, mengikuti diskusi di Gate adalah pilihan yang sangat baik.