Intel gây tranh cãi vì phát triển AI theo dõi cảm xúc của học sinh, sinh viên

Intel đúng là có ý tốt đó, nhưng đồng thời cũng có nhiều ý kiến trái chiều về tính chính xác của mô hình AI này.

Intel có phát triển một phần mềm với mục đích tận dụng AI (trí thông minh nhân tạo) để nhận diện khuôn mặt và ngôn ngữ hình thể (body language) của các học sinh, sinh viên. Theo trang Protocol, giải pháp này là một phần nằm trong phần mềm “Class” nhằm hỗ trợ giáo viên trong việc điều chỉnh cách dạy ứng với các trạng thái của học sinh, sinh viên mà AI đã tự suy luận ra (chẳng hạn như chán nản, mất tập trung, khó hiểu). Trong tương lai, Intel dự định sẽ mở rộng chương trình này cho các thị trường khác. Tuy nhiên, công nghệ này đã nhận phải nhiều phản ánh trái chiều liên quan đến vấn về AI, khoa học, đạo đức, và quyền riêng tư.

Tính năng AI này được phát triển cùng với Classroom Technologies và được tích hợp vào Zoom thông qua phần mềm “Class”. Nó được dùng để phân loại ngôn ngữ hình thể và biểu cảm trên khuôn mặt của học sinh, sinh viên khi học trực tuyến thông qua Zoom. Michael Chasen – đồng sáng lập kiêm CEO của Classroom Technologies – cho biết công ty hy vọng rằng phần mềm của họ sẽ giúp giáo viên có nhiều thông tin chi tiết hơn, từ đó tối ưu việc giảng dạy trực tuyến tốt hơn.

Phần mềm này sẽ đưa luồng video của học sinh, sinh viên vào engine AI cùng với dữ liệu về bối cảnh theo thời gian thực để giúp nó xác định xem là học sinh, sinh viên đó hiểu bài đến đâu. Sinem Aslan – nhà nghiên cứu tại Intel giúp phát triển công nghệ này – cho biết mục tiêu chính của nó là cho phép giáo viên phản ứng kịp thời trước những thay đổi của học sinh, sinh viên, từ đó cải thiện chất lượng của những buổi dạy và học cá nhân (one-on-one).

Đúng là Intel và Classroom Technologies có ý tốt đó, nhưng có một điều dấy lên nghi vấn là tính chính xác của việc AI suy luận trạng thái cảm xúc của học sinh, sinh viên trong khi chỉ dựa vào video trên màn hình.

Bản thân chúng ta vẫn chưa thể nào hiểu rõ hết được cảm xúc của một người nào đó nếu chỉ dựa vào những biểu hiện bên ngoài của người đó, huống hồ chi là AI. Ngoài biểu cảm khuôn mặt ra, chúng ta còn phải để ý đến những thứ từ nhỏ nhất (ví dụ như đồng tử co giãn ra sao) so đến những thứ lớn hơn (ví dụ như mỉm cười, nhăn mặt), thậm chí là nhịp tim và hơi thở cũng có liên quan luôn. Thế nên ý tưởng dùng AI để xác định cảm xúc dường như vẫn còn là một điều mà chúng ta cần nghiên cứu thêm rất nhiều.

Thêm một vấn đề nữa là tùy vào các nền văn hóa khác nhau mà biểu cảm cũng mang ý nghĩa khác nhau, dù nhìn bên ngoài vẫn hoàn toàn giống nhau. Chẳng hạn, việc nở nụ cười trên môi hầu hết đều biểu hiện cho sự vui vẻ, nhưng ở Nga thì chỉ có bạn bè thân thiết và gia đình là cười với nhau thôi, chứ trong tình huống khác mà cười quá đà thì nó có nghĩa là bạn kém thông minh hoặc thiếu trung thực. Thêm mấy yếu tố khác như sắc tộc, biểu cảm cá nhân vào là chúng ta cũng đủ thấy “rối não” rồi đó.

Theo Nese Alyuz Civitci – nhà nghiên cứu máy học tại Intel – cho biết mô hình của công ty được xây dựng từ kinh nghiệm dày dạn của đội ngũ các nhà tâm lý học. Họ phân tích các dữ liệu được ghi lại trong một lớp học thực tế với camera 3D. Sau đó họ sẽ phân tích video và phân loại những cảm xúc phát hiện được. Để dữ liệu được xác thực và tích hợp vào mô hình, ít nhất phải có 2 trong số 3 nhà tâm lý học đồng ý với kết quả đó.

Young student watching education tutorials on laptop while sitting in library. Senior teacher teaching math online while student watching her on laptop and taking notes. University students learning trough a webinar on computer with a lecturer.

Nhìn chung, có rất nhiều câu hỏi xoay quanh việc ứng dụng AI trong trường hợp này, và liệu thông tin dùng để huấn luyện mô hình AI có đầy đủ hay không, cũng như là kết quả mà nó đưa ra có đáng tin cậy hay không. Nếu nó xác định đúng thì đây sẽ là một trợ thủ vô cùng đắc lực cho giáo viên, nhưng nếu nó sai thì điều này thậm chí có thể ảnh hưởng tiêu cực tới kết quả học tập của học sinh, sinh viên.

Tóm tắt ý chính:

• Intel có phát triển một phần mềm tận dụng AI để nhận diện khuôn mặt và ngôn ngữ hình thể của học sinh, sinh viên
• Tính năng AI này được phát triển cùng với Classroom Technologies và được tích hợp vào Zoom thông qua phần mềm “Class”
• Mục đích là để hỗ trợ giáo viên trong việc điều chỉnh cách dạy ứng với trạng thái của học sinh, sinh viên mà AI suy luận ra
• Tuy nhiên, công nghệ này đã nhận phải nhiều phản ánh trái chiều liên quan đến AI, khoa học, đạo đức, và quyền riêng tư

Mời các bạn tham khảo thêm một số thông tin liên quan tại GVN 360 như:

• AI của Nvidia tạo ra con chip với thiết kế còn xịn hơn cả con người
• Tìm hiểu về sự khác biệt bên trong CPU Intel và AMD

Nguồn: tom’s HARDWARE