Ý kiến: ChatGPT có phải là bạn của bạn không? Có thể đây là thời điểm thích hợp để đặt giới hạn

OpenAI và MIT mới đây đã công bố một bài nghiên cứu về tác động của ChatGPT đến sức khỏe tinh thần của mọi người. Trong khi hầu hết người dùng dựa vào công nghệ này để thực hiện các nhiệm vụ thực tế, nghiên cứu cho thấy một nhóm nhỏ đã phát triển mối liên kết cảm xúc sâu sắc với mô hình AI có thể ảnh hưởng đến sức khỏe tinh thần của họ

Đã một thời gian dài, tôi đã quan sát với sự tò mò về những mối quan hệ mà một số người đang phát triển với trí tuệ nhân tạo sinh học. Một vài tháng trước, tôi đã đọc trong The New York Times câu chuyện về một người phụ nữ đã kết hôn, 28 tuổi, đã yêu ChatGPT, và cách mà những gì bắt đầu như “một thí nghiệm vui vẻ” đã phát triển thành một mối quan hệ phức tạp và không ngờ tới.

Tôi đã quan sát các bạn bè của mình, đặc biệt là những người từng từ chối công nghệ hoặc không quan tâm đến nó, bây giờ không thể đưa ra quyết định lớn mà không tìm đến “bói” AI của họ. Tôi cũng thấy ngạc nhiên với những phản ứng đồng cảm mà các mô hình AI đưa ra đối với những câu hỏi mang tính cảm xúc hoặc tâm lý mạnh mẽ.

Và tất nhiên, tôi đã cười với những trò đùa, meme, và video TikTok của mọi người trên mạng xã hội cho thấy họ đã trở nên phụ thuộc vào chatbot, một số người thậm chí gọi nó là “bạn thân” hoặc “nhà tâm lý học” của họ – và thậm chí nghiêm túc khuyên người khác cũng nên làm như vậy.

Nhưng, nếu chúng ta tạm gác lại những trải nghiệm vui vẻ và những trò đùa một chút, chúng ta có thể nhận ra chúng ta đang đối mặt với một hiện tượng đáng lo ngại toàn cầu.

Tháng này, lần đầu tiên trong lịch sử ngắn ngủi của trí tuệ nhân tạo, OpenAI và MIT Media Lab đã công bố một nghiên cứu cung cấp cái nhìn về ảnh hưởng hiện tại của ChatGPT đối với sự khỏe mạnh về mặt cảm xúc của con người, cũng như gợi ý về những rủi ro mà chúng ta có thể đối mặt trong xã hội: cô đơn, phụ thuộc cảm xúc, và ít tương tác xã hội với người thật.

Mối Quan Hệ Đang Phát Triển

Cách tiếp cận đầu tiên với các công nghệ trí tuệ nhân tạo sinh động thường bắt đầu bằng một vài câu hỏi e dè, có thể là về những vấn đề kỹ thuật liên quan đến những công việc thực tế như soạn email hoặc yêu cầu giải thích các chủ đề phức tạp, hoặc chỉ đơn giản là để đặt ra những ý tưởng mới.

Tuy nhiên, một khi người dùng bắt đầu thử nghiệm khả năng của chatbot, họ phát hiện ra rằng chúng có thể rộng hơn và phức tạp hơn họ tưởng.

Trong khi một số sản phẩm AI như Friend—một thiết bị AI có thể đeo được—đã được thiết kế và quảng bá một cách rất vụng về như một bạn đồng hành trong cuộc sống của người dùng, thì ChatGPT lại được quảng bá như một công cụ tăng năng suất. Tuy nhiên, một phần trăm người dùng lại sử dụng chatbot cho những vấn đề cá nhân và tình cảm và họ phát triển một mối quan hệ mạnh mẽ với nó.

Ngay cả khi họ chỉ là một “nhóm nhỏ,” như OpenAI đã làm rõ, họ vẫn có thể đại diện cho hàng triệu người trên toàn thế giới, đặc biệt khi bây giờ có hơn 400 triệu người sử dụng ChatGPT hàng tuần. Những người sử dụng này nhanh chóng nhận ra rằng chatbot của OpenAI mô phỏng ngôn ngữ, giọng điệu và phong cách của họ, thậm chí có thể được đào tạo để tương tác theo một cách nhất định hoặc sử dụng tên thân mật – giống như cô gái đã yêu nó đã làm – và thậm chí “nghe” thêm phần nhân văn.

“Phong cách trò chuyện, ngôn ngữ góc nhìn người thứ nhất và khả năng mô phỏng các tương tác giống con người đã khiến người dùng đôi khi coi và nhân cách hóa các hệ thống này,” tài liệu được chia sẻ bởi OpenAI khẳng định.

Nhưng sự gần gũi này cũng đi kèm với những rủi ro, như các nhà nghiên cứu đã ghi nhận: “Mặc dù một chatbot tạo ra sự gắn kết về mặt cảm xúc có thể cung cấp sự hỗ trợ và bạn đồng hành, nhưng cũng có rủi ro rằng nó có thể thao túng nhu cầu xã hội và cảm xúc của người dùng theo những cách có thể gây tổn hại cho sự ổn định cảm xúc dài hạn.”

Phương pháp Nghiên cứu

Cuộc điều tra mới được công bố tập trung vào sức khỏe tinh thần của con người sau khi sử dụng ChatGPT một cách liên tục. Để hiểu về ảnh hưởng cảm xúc và xã hội của chatbot, các nhà nghiên cứu đã tiến hành hai nghiên cứu chính áp dụng các chiến lược khác nhau.

OpenAI đã xử lý và phân tích hơn 40 triệu lượt tương tác, tôn trọng quyền riêng tư của người dùng bằng cách sử dụng các bộ phân loại, và đã khảo sát hơn 4,000 lượt tương tác về cảm giác của họ khi tương tác.

MIT Media Lab đã tiến hành một thử nghiệm với gần 1,000 người trong một tháng, tập trung vào hậu quả tâm lý xã hội của việc sử dụng ChatGPT ít nhất 5 phút mỗi ngày. Họ cũng đã nộp và xử lý các bản câu hỏi vào cuối thí nghiệm.

Không ngạc nhiên, kết quả nghiên cứu cho thấy những người dùng dành nhiều thời gian với công nghệ có cảm giác cô đơn hơn và thể hiện nhiều dấu hiệu của sự cô lập.

Hậu quả Phức tạp và Nhiều Chiều hướng Phát triển

Nghiên cứu của MIT Media Lab và OpenAI cũng đưa ra nhiều suy ngẫm về mối quan hệ giữa con người và chatbot có thể phức tạp và độc đáo như thế nào.

Trong nghiên cứu, các tác giả mang đến cho chúng ta cái nhìn sâu sắc về những trải nghiệm đa dạng và cách mà mỗi người dùng tương tác với ChatGPT – và cách mà kết quả có thể thay đổi tuỳ thuộc vào nhiều yếu tố khác nhau, như việc sử dụng các tính năng giọng nói tiên tiến, chế độ chỉ dùng văn bản, kiểu giọng nói, tần suất sử dụng, chủ đề cuộc trò chuyện, ngôn ngữ sử dụng, và thời gian dành trên ứng dụng.

“Chúng tôi khuyên không nên khái quát hóa kết quả bởi vì việc làm như vậy có thể che mờ những phát hiện tinh tế chỉ ra sự tương tác phức tạp, không đồng nhất giữa con người và hệ thống AI,” OpenAI cảnh báo trong thông báo chính thức của họ.

Tất cả các phương pháp tiếp cận khác nhau mà mỗi người dùng chọn đều dẫn đến các kết quả khác nhau, và đặt chúng ta vào những khu vực mờ ảo khó khám phá.

Đó là Hiệu ứng Bướm AI!

Nhiều Câu Hỏi Được Đặt Ra

Bài báo được chia sẻ bởi OpenAI cũng chỉ ra rằng, những người sử dụng nặng nề cho biết họ sẽ “buồn” nếu giọng nói hoặc tính cách của trợ lý ảo của họ thay đổi.

Điều này làm tôi nhớ đến một đoạn video tôi mới xem trên mạng xã hội về một chàng trai nói rằng anh ấy thích giọng nữ và anh ấy trò chuyện với AI sinh động hàng ngày. Liệu ChatGPT cũng có thể giúp đỡ nam giới mở cửa trái tim mình không? Điều gì sẽ xảy ra nếu một ngày nào đó ChatGPT nói chuyện với anh ấy bằng giọng nam? Liệu anh ấy có cảm thấy bị phản bội không? Anh ấy có ngừng sử dụng ChatGPT không? Liệu anh ấy có đang phát triển một mối quan hệ lãng mạn – hay đơn giản chỉ là một không gian tin tưởng? Tất nhiên, rất khó để không liên tưởng ngay lập tức những tình huống này với bộ phim Her của Spike Jonze.

Mỗi tài khoản ChatGPT, cùng với những cuộc trò chuyện trong lịch sử của nó – mỗi ngày trở nên thân mật và riêng tư hơn bất kỳ hồ sơ WhatsApp hay tin nhắn trên mạng xã hội nào – đều đại diện cho một mối quan hệ độc đáo với vô số kết cục và hậu quả.

Kết quả mong đợi

Tất cả các nghiên cứu đã phân tích các khía cạnh khác nhau, nhưng đều đạt được kết luận tương tự, được giải thích ngắn gọn tại MIT Technology Review: “Những người tin tưởng và ‘kết nối’ với ChatGPT nhiều hơn có xu hướng cô đơn hơn người khác, và dựa vào nó nhiều hơn.”

Mặc dù cuộc điều tra không tập trung vào giải pháp hoặc giải thích sâu hơn về lý do tại sao điều này lại xảy ra hoặc nó có thể phát triển như thế nào, nhưng rất có thể sẽ có nhiều người dùng tham gia OpenAI và các nền tảng AI khác, đặc biệt là bây giờ khi công cụ tạo hình ảnh AI đã trở nên viral.

Mặc dù kết luận của MIT và OpenAI không đặc biệt ngạc nhiên, nhưng nghiên cứu cung cấp một nền tảng khoa học với các bằng chứng, phép đo, mẫu vật, và nhiều chỉ số ‘cụ thể’ hơn có thể mở đường cho nghiên cứu tiếp theo và giúp giải quyết các hậu quả của việc sử dụng trí tuệ nhân tạo hiện nay.

Chúng tôi cũng đã nhận được một cảnh báo chính thức – từ chính những người phát triển của nó – về những mối quan hệ mà chúng tôi xây dựng với ChatGPT và lời mời để thiết lập giới hạn và suy ngẫm về những tương tác và mối quan hệ hiện tại – hay có thể gọi là tình cảm không rõ ràng? – với các chatbot.