Đây là một sự châm biếm trong lĩnh vực giáo dục: các cơ sở giáo dục hiện đang triển khai hệ thống AI để bảo vệ sinh viên khỏi... đúng vậy, chính AI.

Khi công nghệ chatbot trở nên phổ biến trong môi trường học tập, một ngành công nghiệp mới đã xuất hiện. Các nhà cung cấp phần mềm đang giới thiệu các giải pháp giám sát theo dõi sự tương tác của sinh viên với những công cụ AI này, quét các cuộc trò chuyện để tìm dấu hiệu cảnh báo—dấu hiệu của căng thẳng tâm lý, khả năng tự hại, hoặc những mẫu hành vi đáng lo ngại.

Logic là gì? Nếu trẻ em đang trò chuyện với máy móc, thì ai đó nên theo dõi những cuộc trò chuyện đó. Các hệ thống giám sát này hứa hẹn can thiệp sớm, cảnh báo nhân viên khi những trao đổi của một học sinh cho thấy có vấn đề đang âm thầm diễn ra.

Nhưng điều này tạo ra một vòng phản hồi đặc biệt. Chúng ta giới thiệu các trợ lý AI để nâng cao việc học, sau đó lại thêm AI khác để giám sát cách sinh viên sử dụng AI đầu tiên. Đây là công nghệ "giải quyết" các vấn đề mà công nghệ đã tạo ra một phần.

Câu hỏi thực sự không phải là liệu những công cụ này có hoạt động hay không - mà là liệu việc giám sát liên tục có thay đổi cơ bản trải nghiệm của sinh viên hay không. Khi mọi cuộc trò chuyện đều được phân tích, điều đó có giúp ích hay chỉ thêm một lớp lo âu kỹ thuật số nữa? Lớp học đang trở thành một phòng thí nghiệm cho những tầm nhìn cạnh tranh về những gì AI nên làm cho chúng ta, hoặc với chúng ta.