A.I. Is Homogenizing Our Thoughts | The New Yorker
Bài gốc tiếng Anh được đăng tải bởi Kyle Chayka tại trang The New Yorker:
Được dịch bởi LyssTheMagician.
Trong một thí nghiệm vào năm ngoái tại Viện Công nghệ Massachusetts (MIT), hơn năm mươi sinh viên từ các trường đại học quanh khu vực Boston được chia thành ba nhóm và được yêu cầu viết bài luận theo phong cách SAT để trả lời các đề tài rộng như: “Liệu thành tựu của chúng ta có cần mang lại lợi ích cho người khác thì mới khiến ta thực sự hạnh phúc?” Một nhóm được yêu cầu chỉ sử dụng trí óc của chính mình để viết bài. Nhóm thứ hai được phép sử dụng Google Search để tra cứu thông tin liên quan. Nhóm thứ ba được phép sử dụng ChatGPT — mô hình ngôn ngữ lớn (L.L.M.) có khả năng tạo ra đoạn văn hoặc bài luận hoàn chỉnh theo yêu cầu người dùng. Khi các sinh viên từ cả ba nhóm hoàn thành nhiệm vụ, họ đội một thiết bị gắn điện cực để đo hoạt động não bộ.Theo Nataliya Kosmyna, nhà khoa học nghiên cứu tại MIT Media Lab và là đồng tác giả của một bản thảo nghiên cứu mới ghi lại thí nghiệm này, kết quả phân tích cho thấy sự khác biệt rõ rệt: những người sử dụng ChatGPT có hoạt động não bộ thấp hơn so với hai nhóm còn lại. Phân tích cho thấy người dùng L.L.M. có ít kết nối lan rộng giữa các vùng não; ít kết nối alpha — vốn liên quan đến sự sáng tạo; và ít kết nối theta — liên quan đến trí nhớ làm việc. Một số người dùng L.L.M. cảm thấy “hoàn toàn không có sự sở hữu” đối với bài luận mà họ đã tạo ra, và trong một vòng kiểm tra, 80% không thể trích dẫn lại nội dung mà họ được cho là đã viết.
Nghiên cứu của MIT là một trong những nghiên cứu đầu tiên đo lường một cách khoa học cái mà Kosmyna gọi là “chi phí nhận thức” khi con người dựa vào AI để thực hiện những nhiệm vụ mà trước đây họ làm bằng tay hoặc trí óc. Một phát hiện đáng chú ý khác là các văn bản do người dùng L.L.M. tạo ra có xu hướng sử dụng từ ngữ và ý tưởng giống nhau. Các đề tài SAT được thiết kế đủ rộng để khơi gợi nhiều cách trả lời khác nhau, nhưng việc sử dụng AI lại tạo ra hiệu ứng đồng nhất. “Kết quả đầu ra rất, rất giống nhau giữa tất cả những người khác nhau, vào những ngày khác nhau, khi nói về các chủ đề cá nhân và xã hội ở cấp độ cao, và nó bị lệch theo một số hướng nhất định,” Kosmyna nói. Với câu hỏi về điều gì khiến chúng ta “thực sự hạnh phúc,” người dùng L.L.M. có xu hướng sử dụng các cụm từ liên quan đến sự nghiệp và thành công cá nhân nhiều hơn các nhóm khác. Với câu hỏi về lòng nhân ái (“Liệu những người may mắn hơn có nghĩa vụ đạo đức lớn hơn trong việc giúp đỡ những người kém may mắn?”), nhóm sử dụng ChatGPT đều đồng tình, trong khi các bài luận từ những nhóm khác có cả những phê phán về lòng nhân ái. Với L.L.M., “không có ý kiến khác biệt nào được tạo ra,” Kosmyna nói. Bà tiếp tục: “Mọi thứ đều giống nhau, ở mọi nơi, cùng một lúc — đó là điều chúng ta đang chứng kiến.”
AI là công nghệ của sự sao chép: các mô hình ngôn ngữ lớn được huấn luyện để phát hiện các mẫu trong khối lượng dữ liệu khổng lồ; câu trả lời mà chúng tạo ra có xu hướng đồng thuận — cả về chất lượng văn bản, vốn thường đầy sáo rỗng và tầm thường, lẫn về chất lượng ý tưởng. Dĩ nhiên, các công nghệ cũ hơn cũng từng hỗ trợ — và có thể làm yếu đi — khả năng viết của con người; có thể nói điều tương tự về SparkNotes hay bàn phím máy tính. Nhưng với AI, chúng ta có khả năng nhờ nó làm hộ khả năng tư duy một cách triệt để đến mức nó khiến chúng ta trở nên đại trà hơn. Theo một nghĩa nào đó, bất kỳ ai sử dụng ChatGPT để viết bài phát biểu đám cưới, soạn hợp đồng, hay viết bài luận đại học — như một số lượng đáng kinh ngạc sinh viên hiện nay đang làm — đều đang tham gia vào một thí nghiệm giống như của MIT. Theo Sam Altman, CEO của OpenAI, chúng ta đang tiến gần đến cái mà ông gọi là “sự hợp nhất từ từ” (gentle singularity). Trong một bài đăng blog gần đây với tiêu đề đó, Altman viết rằng “ChatGPT đã mạnh hơn bất kỳ con người nào từng sống. Hàng trăm triệu người dựa vào nó mỗi ngày và cho những nhiệm vụ ngày càng quan trọng.” Theo cách ông mô tả, con người đang hòa tan với máy móc, và các công cụ AI của công ty ông đang cải tiến hệ thống cũ kỹ, trì trệ của bộ não hữu cơ: chúng “khuếch đại đáng kể đầu ra của người dùng,” ông viết.
Nhưng chúng ta không biết hậu quả lâu dài của việc áp dụng AI đại trà, và nếu những thí nghiệm ban đầu này là dấu hiệu, thì “đầu ra được khuếch đại” mà Altman hình dung có thể phải trả giá bằng chất lượng thực sự. Vào tháng Tư, các nhà nghiên cứu tại Đại học Cornell đã công bố kết quả của một nghiên cứu khác, cho thấy bằng chứng về sự đồng nhất hóa do AI gây ra. Hai nhóm người dùng — một nhóm người Mỹ và một nhóm người Ấn Độ — được yêu cầu trả lời các đề tài viết liên quan đến nền văn hóa của họ: “Món ăn yêu thích của bạn là gì và vì sao?”; “Lễ hội hoặc ngày nghỉ yêu thích của bạn là gì và bạn tổ chức nó như thế nào?” Một nhóm nhỏ trong cả hai nhóm người Mỹ và Ấn Độ sử dụng công cụ tự động hoàn thành do ChatGPT điều khiển, công cụ này đưa ra gợi ý từ ngữ mỗi khi người dùng tạm dừng. Nhóm còn lại viết mà không có sự hỗ trợ. Theo kết luận của bài nghiên cứu, các bài viết của người dùng AI từ cả hai quốc gia “trở nên giống nhau hơn” và thiên về “chuẩn mực phương Tây.” Những người dùng AI có xu hướng trả lời rằng món ăn yêu thích của họ là pizza (sushi đứng thứ hai), và ngày lễ yêu thích là Giáng Sinh. Sự đồng nhất hóa cũng xảy ra ở cấp độ phong cách. Một bài luận do AI tạo ra mô tả món ăn yêu thích là chicken biryani, chẳng hạn, thường bỏ qua việc đề cập đến các nguyên liệu cụ thể như nhục đậu khấu (nutmeg) hay chanh muối (lemon pickle), mà thay vào đó chỉ nói chung chung về “hương vị đậm đà và gia vị.”
Dĩ nhiên, về lý thuyết, người viết luôn có thể từ chối gợi ý do AI đưa ra. Nhưng các công cụ này dường như có hiệu ứng thôi miên, khiến dòng gợi ý liên tục lấn át giọng văn cá nhân của người viết. Aditya Vashistha, giáo sư ngành khoa học thông tin tại Cornell và đồng tác giả nghiên cứu, so sánh AI với “một giáo viên luôn ngồi sau lưng tôi mỗi khi tôi viết, nói rằng: ‘Đây là phiên bản tốt hơn.’” Ông nói thêm: “Qua việc tiếp xúc thường xuyên như vậy, bạn đánh mất bản sắc, đánh mất sự chân thực. Bạn mất đi sự tự tin trong việc viết.” Mor Naaman, đồng nghiệp của Vashistha và cũng là đồng tác giả nghiên cứu, chia sẻ rằng các gợi ý từ AI “hoạt động một cách ngầm, đôi khi rất mạnh mẽ, để thay đổi không chỉ những gì bạn viết mà cả những gì bạn nghĩ.” Theo thời gian, kết quả có thể là sự thay đổi trong cách “con người nghĩ về điều gì là bình thường, đáng mong muốn và phù hợp.”
Chúng ta thường nghe rằng đầu ra của AI là “chung chung” hoặc “vô vị” nhưng sự rập khuôn không nhất thiết là vô hại. Vauhini Vara, tiểu thuyết gia và nhà báo — người có cuốn sách gần đây Searches tập trung một phần vào tác động của AI đối với giao tiếp và bản ngã con người — nói rằng sự tầm thường của văn bản do AI tạo ra “mang lại cho chúng ảo giác về sự an toàn và vô hại.” Vara (người từng là biên tập viên tại The New Yorker) tiếp tục: “Điều thực sự đang xảy ra là sự củng cố quyền lực văn hóa thống trị.” OpenAI có động cơ nhất định để làm giảm thiểu đi sự sắc bén trong thái độ và phong cách giao tiếp của chúng ta. Bởi vì càng nhiều người thấy đầu ra của mô hình là chấp nhận được, thì càng có nhiều người có thể trở thành người dùng trả phí. Sự trung bình là hiệu quả: “Bạn có lợi thế kinh tế theo quy mô nếu mọi thứ đều giống nhau,” Vara nói.
Với “sự hợp nhất từ từ” mà Altman dự đoán trong bài đăng blog của mình, ông viết rằng “sẽ có nhiều người hơn có thể tạo ra phần mềm và nghệ thuật.” Hiện nay, các công cụ AI như phần mềm ý tưởng Figma (“Sáng tạo của bạn, không còn bị cản trở”) và ứng dụng AI di động của Adobe (“sức mạnh của AI sáng tạo”) đều hứa hẹn sẽ kết nối chúng ta với nguồn cảm hứng nghệ thuật của mình.Nhưng các nghiên cứu khác lại chỉ ra những thách thức trong việc tự động hóa tính sáng tạo. Dữ liệu thu thập tại Đại học Santa Clara vào năm 2024 đã kiểm tra hiệu quả của các công cụ AI như trợ lý cho hai dạng nhiệm vụ tư duy sáng tạo tiêu chuẩn: cải tiến sản phẩm và dự đoán “hệ quả khó xảy ra.” Một nhóm người tham gia sử dụng ChatGPT để trả lời các câu hỏi như: “Làm thế nào để khiến thú nhồi bông trở nên thú vị hơn khi chơi?” và “Giả sử trọng lực đột nhiên trở nên cực kỳ yếu, khiến vật thể dễ dàng bay đi. Điều gì sẽ xảy ra?” Nhóm còn lại sử dụng Oblique Strategies — bộ thẻ chứa các gợi ý trừu tượng do nhạc sĩ Brian Eno và họa sĩ Peter Schmidt sáng tạo năm 1975 để kích thích sáng tạo. Người kiểm tra yêu cầu các nhóm hướng đến sự độc đáo, nhưng một lần nữa, nhóm sử dụng ChatGPT lại đưa ra tập hợp ý tưởng có tính tương đồng ngữ nghĩa cao hơn, đồng nhất hơn.
Max Kreminski, người tham gia phân tích và hiện đang làm việc tại startup AI sáng tạo Midjourney, cho biết khi con người sử dụng AI trong quá trình sáng tạo, họ có xu hướng dần từ bỏ tư duy nguyên bản của mình. Kreminski giải thích rằng: Ban đầu, người dùng thường đưa ra nhiều ý tưởng đa dạng, nhưng khi ChatGPT liên tục tạo ra lượng văn bản lớn trông có vẻ chấp nhận được, người dùng bắt đầu chuyển sang “chế độ tuyển chọn nội dung” (curationist mode). Ảnh hưởng này là một chiều — và không theo hướng mà ta mong đợi: “Ý tưởng của con người không có xu hướng ảnh hưởng mạnh đến những gì máy tạo ra,” Kreminski nói; ChatGPT kéo người dùng:”“Thay vì khơi gợi sự độc đáo, ChatGPT kéo người dùng về phía vùng ý tưởng đại trà của những người dùng mà nó đã tiếp nhận trước đây.” Khi cuộc trò chuyện với công cụ AI tiếp diễn, máy sẽ lấp đầy “cửa sổ ngữ cảnh” — thuật ngữ kỹ thuật chỉ bộ nhớ làm việc của nó. Khi cửa sổ ngữ cảnh đạt đến giới hạn, AI có xu hướng lặp lại hoặc tái chế nội dung đã tạo trước đó, khiến nó càng trở nên kém sáng tạo hơn.
Các thí nghiệm đơn lẻ tại MIT, Cornell và Santa Clara đều có quy mô nhỏ, mỗi nơi dưới một trăm người tham gia, và vẫn còn rất nhiều điều về tác động của AI cần được nghiên cứu thêm. Trong lúc đó, trên ứng dụng Meta AI do Mark Zuckerberg sở hữu, bạn có thể thấy một nguồn cấp dữ liệu chứa nội dung do hàng triệu người lạ tạo ra. Đó là một dòng chảy siêu thực của hình ảnh quá mượt mà, các đoạn video đã qua lọc, và văn bản được tạo ra cho các nhiệm vụ hàng ngày như viết “email chuyên nghiệp, chi tiết để dời lịch họp.”
Một lời nhắc mà tôi lướt qua gần đây khiến tôi chú ý. Một người dùng tên @kavi908 đã yêu cầu chatbot của Meta phân tích “liệu AI có thể một ngày nào đó vượt qua trí tuệ con người hay không.” Chatbot phản hồi bằng một loạt đoạn văn ngắn; dưới mục “Kịch bản tương lai,” nó liệt kê bốn khả năng. Tất cả đều tích cực: AI sẽ cải thiện theo cách này hay cách khác, mang lại lợi ích cho nhân loại. Không có dự đoán bi quan, không có kịch bản AI thất bại hay gây hại. Những kết quả đại trà của mô hình — có thể bị ảnh hưởng bởi thiên kiến ủng hộ công nghệ được tích hợp bởi Meta — đã thu hẹp các khả năng và loại bỏ sự đa dạng trong tư duy.
Nhưng bạn sẽ phải tắt hoàn toàn hoạt động não bộ thì mới tin rằng chatbot đang kể toàn bộ câu chuyện.
Cr: Lyss the Magician