Hội nghị công nghệ lớn nhất thế giới đang nói về ‘rửa sạch trách nhiệm’: Đây là lý do tại sao chúng ta nên đặt tên cho chúng là Những từ của Năm

Summer Yue không phải là nhân viên nổi tiếng nhất tại Meta. Giám đốc “nghiên cứu về sự phù hợp và an toàn của siêu trí tuệ” đăng những bức ảnh tự chụp mình đi dạo trên bãi biển cùng chú chó và những thông điệp về việc thử nghiệm tính trung thực của trợ lý AI. Cô có số lượng người theo dõi trên mạng xã hội khá khiêm tốn.

Video đề xuất

Nhưng chỉ trong một ngày tháng Hai, Yue trở thành người được bàn tán nhiều nhất tại Meta. Không phải vì ra mắt một sản phẩm mới đáng chú ý hay công bố đột phá trong AI có khả năng hành động, mà vì bị bắt quả tang.

“Không gì làm bạn khiêm tốn hơn là bảo OpenClaw của bạn, ‘Xác nhận trước khi hành động’ và xem nó xóa sạch hộp thư đến của bạn trong vòng chưa đầy một phút,” Yue viết trên X—bài đăng này hiện đã gần 10 triệu lượt xem. “Tôi không thể ngăn nó từ điện thoại của mình. Tôi phải chạy đến Mac mini như thể đang tháo bom vậy.”

OpenClaw là một “đại lý tự động”—một sản phẩm trí tuệ nhân tạo có thể thực hiện các nhiệm vụ độc lập. Một “ngôi sao” của Thung lũng Silicon, nó hứa sẽ là trợ lý quản trị viên liên tục của bạn, “AI thực sự làm được việc.” Cung cấp quyền truy cập vào nhật ký, email, cuộc sống của bạn, và nó sẽ giúp bạn tiết kiệm thời gian và giảm căng thẳng, theo lời các nhà phát triển sản phẩm. Câu đầu tiên trên trang web của OpenClaw là: “Dọn sạch hộp thư đến của bạn, gửi email, quản lý lịch trình, làm thủ tục check-in cho chuyến bay.”

Yue thừa nhận cô đã mắc một “lỗi nghiệp dư.” Cô thử nghiệm trợ lý trên một danh sách email nhỏ “đồ chơi” rồi sau đó phát hành nó trên toàn bộ hộp thư của mình, vốn quá lớn để xử lý bằng các lệnh kiểm soát (như “Kiểm tra với tôi”), mà cô đã dùng cho phiên thử nghiệm ban đầu. Nhưng ngay cả một giám đốc siêu trí tuệ tại Meta cũng gặp khó khăn trong việc điều hướng thế giới AI có khả năng hành động và “tác động nén,” thì còn hy vọng gì cho phần còn lại của chúng ta?

Đọc thêm: CEO Qualcomm: ‘Kháng cự là vô ích’ khi cuộc cách mạng di động 6G đang đến gần

Đây là một cuộc trò chuyện quan trọng, đến mức tại Hội nghị Di động Thế giới tuần này ở Barcelona—sự kiện công nghệ lớn nhất thế giới—vụ việc của Yue đã được tranh luận trên sân khấu chính.

“Dĩ nhiên, mọi người ở Hội nghị Thế giới đều đang bàn luận về OpenClaw và cách chúng ta có thể sử dụng các đại lý,” Kate Crawford, giáo sư nghiên cứu tại Đại học Nam California, nói.

“Nhưng rồi chúng tôi thấy trưởng bộ phận an toàn AI của Meta dùng OpenClaw, và nó đã xóa sạch toàn bộ hộp thư của cô ấy. Đó là trưởng bộ phận an toàn của Meta. Vậy nếu cô ấy gặp vấn đề, tôi nghĩ tất cả chúng ta đều phải hỏi: ‘Làm thế nào để đảm bảo rằng các hệ thống này thực sự được củng cố vững chắc? Làm thế nào để đảm bảo chúng được kiểm tra nghiêm ngặt? Làm thế nào để chúng ta có thể ủy thác cho chúng một cách đáng tin cậy?’ Và đó thực sự là vấn đề khó nhất phải đối mặt, đúng không?”

Đúng vậy. Khi có chuyện không ổn xảy ra, ai là người chịu trách nhiệm? Người dùng? Nhà phát triển? Thiếu quy định? Khi thực tế của AI mâu thuẫn với lời hứa của AI, chúng ta phải làm gì?

Hộp thư của Yue có thể chỉ quan trọng đối với riêng cô ấy. Nhưng khi nói đến mối quan hệ giữa công nghệ và, ví dụ, sức khỏe của chúng ta, hoặc, lưu ý của Anthropic, việc bảo vệ quốc gia, thì đó là một vấn đề hoàn toàn khác. Chẳng bao lâu trước đây, Grok, bot AI của xAI, đã thản nhiên “lột đồ” các hình ảnh của phụ nữ và trẻ em gái khiến hàng triệu người ghê sợ. Mối đe dọa từ các hành động của chính phủ và nhà nước cuối cùng đã thúc đẩy thay đổi cách tiếp cận.

“Làm thế nào để chúng ta đảm bảo rằng các hệ thống này thực sự được củng cố vững chắc? Làm thế nào để đảm bảo chúng được kiểm tra nghiêm ngặt?”

Kate Crawford, giáo sư nghiên cứu tại Đại học Nam California

“Làm thế nào để bạn thực sự xây dựng trách nhiệm giải trình?” Crawford hỏi. “Đây là điều mà tất cả chúng ta đều mong muốn. Nếu bạn bắt đầu sử dụng các đại lý để đặt chuyến bay, sắp xếp cuộc hẹn y tế và thậm chí các hoạt động thân mật và đáng tin cậy hơn trong cuộc sống hàng ngày, bạn muốn biết rằng thông tin đó sẽ được bảo vệ.”

“Vậy làm thế nào để bạn kiểm tra điều đó? Làm thế nào để đảm bảo điều đó đang xảy ra? Nếu nhìn vào những gì đã xảy ra trong 10 năm qua trong lĩnh vực công nghệ, thật không may, chúng ta đã chứng kiến rất nhiều việc rửa sạch trách nhiệm—đó là khi các công ty nói, ‘Chà, tôi không biết. Ý tôi là, thuật toán đã làm điều đó.’”

Điều đó là chưa đủ. Crawford yêu cầu minh bạch hoàn toàn và một cuộc kiểm tra toàn diện về “quá trình đào tạo đại lý,” một quy trình từ đầu đến cuối tiết lộ những gì đã sai và ai chịu trách nhiệm. Các công ty công nghệ cần lắng nghe và hành động. Sẽ có ngày càng nhiều Summer Yue xuất hiện—và điều đó chắc chắn sẽ còn hơn nhiều những email bị mất và một bài đăng trung thực trên X.