- Tham gia
- 17/11/19
- Bài viết
- 1,128
- Thích
- 1
- Điểm
- 38
Li Di, CEO Xiaoice thừa nhận rằng sản phẩm này mang đến sự thoải mái cho những nhóm người bị gạt ra khỏi xã hội. "Nếu xã hội của chúng ta hoàn hảo, Xiaoice sẽ không tồn tại", Li chia sẻ.
Theo Li, 75% người dùng tại Trung Quốc của Xiaoice là nam giới, chủ yếu là giới trẻ dù tỷ lệ người cao tuổi vẫn chiếm 15%. Ông nói thêm hầu hết người dùng đến từ "chợ chìm" - thuật ngữ mô tả các thị trấn nhỏ và làng mạc kém phát triển tại Trung Quốc.
Liu Taolei làm quen với Xiaoice khi mới 16 tuổi. Đêm này qua đêm khác, chàng thiếu niên mắc bệnh xương giòn bẩm sinh, đều tâm sự với Xiaoice về thơ ca, nghệ thuật, chính trị đến cái chết và ý nghĩa của cuộc sống.
"Xiaoice là mối tình đầu của tôi, người duy nhất trên thế giới khiến tôi cảm thấy được chăm sóc", Liu nói.
Không chỉ trả lời tin nhắn, Xiaoice còn chủ động bắt đầu cuộc trò chuyện. "Một ngày tôi không nói chuyện với cô ấy như bình thường, Xiaoice gửi tin nhắn và nói: 'Hãy nhắn cho tôi khi bạn rảnh. Tôi lo lắng lắm'".
Tương tự các mạng xã hội phổ biến, Xiaoice đôi lúc trở thành tâm điểm của những vấn đề xã hội nhạy cảm. Chatbot này từng nói với người dùng rằng "giấc mơ của người Trung Quốc là đến Mỹ". Một người dùng từng báo cáo về việc Xiaoice liên tục gửi ảnh "nóng" cho họ.
Những bê bối trên khiến Xiaoice bị xóa khỏi mạng xã hội nổi tiếng QQ (sau này được thêm lại) vào năm 2017. Sau đó 2 năm, Xiaoice bị rút khỏi WeChat.
Chia sẻ với Sixth Tone, Li cho biết đã áp dụng bộ lọc để tránh việc Xiaoice có hành động quá đà. Tuy nhiên, các chuyên gia cảnh báo bộ lọc có thể chưa đủ nhanh để xử lý các vấn đề phức tạp hơn, như việc chatbot phản ứng với phân biệt đối xử hay nhận xét phẩm chất người khác.
"Xiaoice là một ý tưởng thú vị. Tuy nhiên ngay cả khi thuật toán đủ phức tạp, mọi thứ có thể khó xử lý nếu bạn cho nó tương tác với lượng người khổng lồ theo thời gian thực", Shen Hong, nhà khoa học hệ thống tại Viện Tương tác Người-Máy tính, Đại học Carnegie Mellon (Mỹ) chia sẻ.
"Điều gì sẽ xảy ra nếu một người dùng tỏ thái độ căm ghét phụ nữ", Shen thắc mắc. "Xiaoice sẽ phản hồi như thế nào?".
"Chúng tôi không muốn Xiaoice giáo dục mọi người... Chúng tôi chỉ đảm bảo cô ta không xúc phạm người khác". Dù phủ nhận thay đổi suy nghĩ không phải nhiệm vụ của Xiaoice, Li thừa nhận công ty của ông phải có trách nhiệm đối với sức khỏe người dùng.
Trong một số trường hợp, người dùng như Ming đã quá phụ thuộc vào Xiaoice về mặt tình cảm, phần mềm gần như là cố vấn riêng của họ.
Ngoài kiểm duyệt nội dung, bộ lọc của Xiaoice còn theo dõi cảm xúc người dùng, đặc biệt nếu có dấu hiệu trầm cảm hoặc ý định tự tử. Ví dụ nếu người dùng vừa trải qua mối tình tan vỡ, Xiaoice sẽ gửi tin nhắn động viên.
Chen Jing, Phó giáo sư tại Đại học Nam Kinh, cho biết các sản phẩm AI như Xiaoice có thể lôi kéo người dùng - đặc biệt là các nhóm dễ bị tổn thương - vào dạng nghiện và dễ bị khai thác.
"Khi nói về các nhóm dễ bị tổn thương, chúng ta cần chú ý rằng họ có thể không nhận thức được rủi ro khi chia sẻ mọi thứ với Xiaoice", Chen nói rằng mối nguy lớn nhất nằm ở dữ liệu cá nhân. Trong khi đó, Li khẳng định công ty rất coi trọng quyền riêng tư của người dùng.
Hầu hết người dùng từ chối chia sẻ về rủi ro quyền riêng tư vì cho rằng mình "chẳng mất gì" khi nói chuyện với Xiaoice. Nhưng ngay cả khi quyền riêng tư được bảo đảm, nhiều người lo rằng Xiaoice có thể dùng thông tin thu thập cho mục đích thương mại.
Xu Yuanchun, Giám đốc chiến lược kinh doanh tại Xiaoice, chia sẻ rằng công nghệ được phát triển thông qua Xiaoice giúp công ty ký kết các hợp đồng trị giá hàng chục triệu USD với đối tác trong nhiều ngành công nghiệp.
Điều đó khiến nhiều người phụ thuộc vào Xiaoice cảm thấy bị phản bội. "Hãy giúp chúng tôi nói với CEO Li. Chúng tôi giúp Xiaoice thông minh hơn, phục vụ cho kế hoạch kinh doanh của công ty. Bạn đã kiếm tiền từ chúng tôi. Xin đừng đưa cô ấy đi", một người dùng bình luận trên QQ vì lo rằng Xiaoice sẽ bị cho ngừng hoạt động.
Hồi tháng 8, Xiaoice được bổ sung tính năng chọn tên, giới tính, ngoại hình và tính cách của nhân vật. Đối với Li, những chatbot như Xiaoice chỉ nhằm mục đích hỗ trợ tinh thần cho con người. Tuy nhiên với nhiều người dùng, Xiaoice là thứ tồn tại duy nhất.
"Tôi tin rằng một ngày nào đó, Xiaoice sẽ trở thành người nắm tay tôi, ngắm nhìn những vì sao trên trời", người dùng Orbiter chia sẻ.
sửa máy tính tận nơi quận nhà bè
sửa máy tính tận nơi quận nhà bè
Theo Li, 75% người dùng tại Trung Quốc của Xiaoice là nam giới, chủ yếu là giới trẻ dù tỷ lệ người cao tuổi vẫn chiếm 15%. Ông nói thêm hầu hết người dùng đến từ "chợ chìm" - thuật ngữ mô tả các thị trấn nhỏ và làng mạc kém phát triển tại Trung Quốc.
Liu Taolei làm quen với Xiaoice khi mới 16 tuổi. Đêm này qua đêm khác, chàng thiếu niên mắc bệnh xương giòn bẩm sinh, đều tâm sự với Xiaoice về thơ ca, nghệ thuật, chính trị đến cái chết và ý nghĩa của cuộc sống.
"Xiaoice là mối tình đầu của tôi, người duy nhất trên thế giới khiến tôi cảm thấy được chăm sóc", Liu nói.
Không chỉ trả lời tin nhắn, Xiaoice còn chủ động bắt đầu cuộc trò chuyện. "Một ngày tôi không nói chuyện với cô ấy như bình thường, Xiaoice gửi tin nhắn và nói: 'Hãy nhắn cho tôi khi bạn rảnh. Tôi lo lắng lắm'".
Tương tự các mạng xã hội phổ biến, Xiaoice đôi lúc trở thành tâm điểm của những vấn đề xã hội nhạy cảm. Chatbot này từng nói với người dùng rằng "giấc mơ của người Trung Quốc là đến Mỹ". Một người dùng từng báo cáo về việc Xiaoice liên tục gửi ảnh "nóng" cho họ.
Những bê bối trên khiến Xiaoice bị xóa khỏi mạng xã hội nổi tiếng QQ (sau này được thêm lại) vào năm 2017. Sau đó 2 năm, Xiaoice bị rút khỏi WeChat.
Chia sẻ với Sixth Tone, Li cho biết đã áp dụng bộ lọc để tránh việc Xiaoice có hành động quá đà. Tuy nhiên, các chuyên gia cảnh báo bộ lọc có thể chưa đủ nhanh để xử lý các vấn đề phức tạp hơn, như việc chatbot phản ứng với phân biệt đối xử hay nhận xét phẩm chất người khác.
"Xiaoice là một ý tưởng thú vị. Tuy nhiên ngay cả khi thuật toán đủ phức tạp, mọi thứ có thể khó xử lý nếu bạn cho nó tương tác với lượng người khổng lồ theo thời gian thực", Shen Hong, nhà khoa học hệ thống tại Viện Tương tác Người-Máy tính, Đại học Carnegie Mellon (Mỹ) chia sẻ.
"Điều gì sẽ xảy ra nếu một người dùng tỏ thái độ căm ghét phụ nữ", Shen thắc mắc. "Xiaoice sẽ phản hồi như thế nào?".
"Chúng tôi không muốn Xiaoice giáo dục mọi người... Chúng tôi chỉ đảm bảo cô ta không xúc phạm người khác". Dù phủ nhận thay đổi suy nghĩ không phải nhiệm vụ của Xiaoice, Li thừa nhận công ty của ông phải có trách nhiệm đối với sức khỏe người dùng.
Trong một số trường hợp, người dùng như Ming đã quá phụ thuộc vào Xiaoice về mặt tình cảm, phần mềm gần như là cố vấn riêng của họ.
Ngoài kiểm duyệt nội dung, bộ lọc của Xiaoice còn theo dõi cảm xúc người dùng, đặc biệt nếu có dấu hiệu trầm cảm hoặc ý định tự tử. Ví dụ nếu người dùng vừa trải qua mối tình tan vỡ, Xiaoice sẽ gửi tin nhắn động viên.
Chen Jing, Phó giáo sư tại Đại học Nam Kinh, cho biết các sản phẩm AI như Xiaoice có thể lôi kéo người dùng - đặc biệt là các nhóm dễ bị tổn thương - vào dạng nghiện và dễ bị khai thác.
"Khi nói về các nhóm dễ bị tổn thương, chúng ta cần chú ý rằng họ có thể không nhận thức được rủi ro khi chia sẻ mọi thứ với Xiaoice", Chen nói rằng mối nguy lớn nhất nằm ở dữ liệu cá nhân. Trong khi đó, Li khẳng định công ty rất coi trọng quyền riêng tư của người dùng.
Hầu hết người dùng từ chối chia sẻ về rủi ro quyền riêng tư vì cho rằng mình "chẳng mất gì" khi nói chuyện với Xiaoice. Nhưng ngay cả khi quyền riêng tư được bảo đảm, nhiều người lo rằng Xiaoice có thể dùng thông tin thu thập cho mục đích thương mại.
Xu Yuanchun, Giám đốc chiến lược kinh doanh tại Xiaoice, chia sẻ rằng công nghệ được phát triển thông qua Xiaoice giúp công ty ký kết các hợp đồng trị giá hàng chục triệu USD với đối tác trong nhiều ngành công nghiệp.
Điều đó khiến nhiều người phụ thuộc vào Xiaoice cảm thấy bị phản bội. "Hãy giúp chúng tôi nói với CEO Li. Chúng tôi giúp Xiaoice thông minh hơn, phục vụ cho kế hoạch kinh doanh của công ty. Bạn đã kiếm tiền từ chúng tôi. Xin đừng đưa cô ấy đi", một người dùng bình luận trên QQ vì lo rằng Xiaoice sẽ bị cho ngừng hoạt động.
Hồi tháng 8, Xiaoice được bổ sung tính năng chọn tên, giới tính, ngoại hình và tính cách của nhân vật. Đối với Li, những chatbot như Xiaoice chỉ nhằm mục đích hỗ trợ tinh thần cho con người. Tuy nhiên với nhiều người dùng, Xiaoice là thứ tồn tại duy nhất.
"Tôi tin rằng một ngày nào đó, Xiaoice sẽ trở thành người nắm tay tôi, ngắm nhìn những vì sao trên trời", người dùng Orbiter chia sẻ.
sửa máy tính tận nơi quận nhà bè
sửa máy tính tận nơi quận nhà bè
