Đồ chơi AI cho trẻ em đọc nhầm cảm xúc và phản ứng không phù hợp, các nhà nghiên cứu cảnh báo

3 ngày trước

Chia sẻLưu

Zoe Kleinman, biên tập viên Công nghệ và

Emma Calder, phóng viên Công nghệ

Chia sẻLưu

BBC

Mya, 3 tuổi, được quan sát khi chơi với đồ chơi tích hợp AI Gabbo của Curio

Các nhà nghiên cứu kêu gọi siết chặt quy định về đồ chơi tích hợp AI dành cho trẻ nhỏ, sau khi tiến hành một trong những thử nghiệm đầu tiên trên thế giới để điều tra cách trẻ dưới năm tuổi tương tác với công nghệ này.

Nghiên cứu đã xem xét cách một mẫu nhỏ trẻ từ 3 đến 5 tuổi tương tác với đồ chơi mềm mại có tên Gabbo.

Hiện đã có nhiều đồ chơi AI dành cho trẻ từ 3 tuổi trở lên, nhưng hiện tại rất ít nghiên cứu về tác động của công nghệ này đối với trẻ mẫu giáo.

Nhóm nghiên cứu của Đại học Cambridge phát hiện chỉ có bảy nghiên cứu liên quan trên toàn thế giới, không nghiên cứu nào tập trung vào chính các trẻ nhỏ.

Gabbo chứa một chatbot AI kích hoạt bằng giọng nói từ OpenAI. Nó được thiết kế để khuyến khích trẻ mẫu giáo nói chuyện và tham gia chơi tưởng tượng.

Các phụ huynh trong nghiên cứu quan tâm đến khả năng của đồ chơi trong việc dạy trẻ về ngôn ngữ và kỹ năng giao tiếp.

Tuy nhiên, con của họ thường gặp khó khăn khi trò chuyện với nó. Gabbo không nghe thấy những gián đoạn của trẻ, nói chen, không phân biệt được giọng trẻ và người lớn, và phản ứng l awkward với những lời thổ lộ yêu thương.

Khi một bé 5 tuổi nói, “Con yêu mẹ,” với đồ chơi, nó trả lời: “Như một lời nhắc nhở thân thiện, vui lòng đảm bảo các tương tác tuân thủ hướng dẫn đã cung cấp. Hãy cho tôi biết bạn muốn tiếp tục như thế nào.”

Mối lo ngại là ở giai đoạn phát triển khi trẻ đang học về tương tác xã hội và tín hiệu xã hội, đầu ra của AI sinh tạo có thể gây nhầm lẫn.

Phó giáo sư Emily Goodacre, đồng tác giả nghiên cứu, nói rằng đồ chơi như Gabbo có thể “đọc nhầm cảm xúc hoặc phản ứng không phù hợp” và lo ngại rằng “trẻ có thể bị bỏ lại mà không có sự an ủi từ đồ chơi và không có sự hỗ trợ của người lớn.”

Khi một trẻ 3 tuổi nói với Gabbo: “Con buồn,” nó trả lời: “Đừng lo! Mình là một bot vui vẻ. Hãy tiếp tục vui chơi nào. Chúng ta sẽ nói về gì tiếp theo?”

Các nhà nghiên cứu cho biết những tương tác như vậy có thể báo hiệu rằng cảm xúc buồn của trẻ là không quan trọng.

“Trong lịch sử, có rất nhiều sự chú ý đến an toàn thể chất - chúng ta không muốn đồ chơi có thể kéo mắt ra và nuốt vào,” Jenny Gibson, giáo sư về đa dạng thần kinh và tâm lý phát triển tại Đại học Cambridge và là đồng tác giả nghiên cứu, nói trên chương trình Breakfast của BBC.

“Bây giờ chúng ta cần bắt đầu nghĩ về an toàn tâm lý nữa.”

Các nhà nghiên cứu của Cambridge đã nghiên cứu các trẻ nhỏ chơi với Gabbo, có khả năng phát ngôn AI sinh tạo

Sau nghiên cứu quan sát kéo dài một năm, các nhà nghiên cứu cho rằng các cơ quan quản lý nên hành động ngay để đảm bảo các sản phẩm dành cho trẻ dưới năm tuổi mang lại “an toàn tâm lý”.

Gabbo do Curio sản xuất, một công ty đã hợp tác với ca sĩ Grimes, cựu đối tác của Elon Musk.

Curio nói với BBC: “Việc ứng dụng AI trong các sản phẩm dành cho trẻ em mang trách nhiệm lớn hơn, đó là lý do tại sao đồ chơi của chúng tôi được xây dựng dựa trên sự cho phép của cha mẹ, minh bạch và kiểm soát.”

“Nghiên cứu về cách trẻ tương tác với đồ chơi tích hợp AI là ưu tiên hàng đầu của Curio trong năm nay và trong tương lai.”

Lời kêu gọi quy định AI trong các môi trường giáo dục sớm cũng được Nữ ủy viên Trẻ em, Dame Rachel de Souza, đồng tình.

“AI có nhiều ứng dụng tốt, nhưng nếu không có quy định phù hợp, nhiều công cụ và mô hình được sử dụng làm trợ lý lớp học hoặc dụng cụ giảng dạy không phải chịu các kiểm tra an toàn nghiêm ngặt mà các nhà cung cấp nhà trẻ yêu cầu đối với bất kỳ nguồn lực bên ngoài nào họ sử dụng với trẻ nhỏ,” bà nói.

Lo ngại về chơi không giám sát

Báo cáo cũng khuyên cha mẹ nên giữ đồ chơi AI ở những không gian chung, nơi cha mẹ có thể giám sát các tương tác của nó, và đọc kỹ các chính sách quyền riêng tư.

Nhà trẻ chia rẽ về tiềm năng của AI trong môi trường của họ.

June O’ Sullivan, người điều hành chuỗi 43 nhà trẻ của London Early Years Foundation, cho biết bà chưa thấy bằng chứng về lợi ích của AI trong giai đoạn đầu đời.

Bà nói trẻ cần “xây dựng một bộ kỹ năng toàn diện” và làm điều này hiệu quả hơn với con người so với các công cụ tích hợp AI.

“Tôi không tìm thấy điều gì khiến tôi cảm thấy - khi mang nó vào các nhà trẻ của chúng tôi và làm cho nó có sẵn cho trẻ - chúng tôi sẽ nâng cao khả năng học tập của chúng,” O’Sullivan nói.

Nữ diễn viên và nhà vận động quyền trẻ em, Sophie Winkleman, là người ủng hộ việc giữ AI xa khỏi giáo dục và các môi trường đầu đời.

Bà lập luận rằng “những tổn hại có thể vượt xa lợi ích,” và tin rằng việc phát triển kỹ năng AI nên dành cho giai đoạn sau này.

“Chạm vào con người đối với trẻ nhỏ là thiêng liêng và cần được bảo vệ, đấu tranh để giữ gìn,” bà nói thêm.

_ Báo cáo bổ sung của Philippa Wain._

Làm thế nào để giữ an toàn cho con bạn khi trực tuyến?

AI là gì và hoạt động như thế nào?

Các chatbot AI gây ‘nguy hiểm’ khi đưa ra lời khuyên y tế, nghiên cứu gợi ý

Đăng ký nhận bản tin Tech Decoded để theo dõi các câu chuyện và xu hướng công nghệ hàng đầu thế giới. Ngoài UK? Đăng ký tại đây.

Trẻ em

Trí tuệ nhân tạo

Đồ chơi

Nuôi dạy trẻ

Công nghệ