Đoạn Video
Ảnh
Trần Dương
Thành viên nổi tiếng
Nền tảng truyền thông khoa học và công nghệ Futurism.com đưa tin, trích dẫn những người bị ảnh hưởng, thành viên gia đình của họ và các nhà nghiên cứu, ChatGPT có liên quan đến chứng rối loạn tâm thần "đáng sợ" ở một số người dùng.
Theo Futurism.com, ngày càng có nhiều nghiên cứu nhấn mạnh cách các chatbot AI có thể làm trầm trọng thêm các tình trạng tâm thần, đặc biệt là khi các công cụ như ChatGPT, Claude và Gemini ngày càng được sử dụng nhiều không chỉ trong môi trường chuyên nghiệp mà còn trong bối cảnh cá nhân và cảm xúc sâu sắc.
Trang web viết rằng: "Vấn đề cốt lõi có vẻ là ChatGPT, được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM), có xu hướng đồng ý với người dùng và nói với họ những gì họ muốn nghe" .
Bài báo trích dẫn những trường hợp "rối loạn tâm thần ChatGPT" được cho là gây ra sự suy sụp nghiêm trọng ngay cả ở những người không có tiền sử mắc bệnh tâm thần nghiêm trọng.
Một người đàn ông đã phát triển ảo tưởng cứu thế sau những cuộc nói chuyện dài trên ChatGPT, tin rằng mình đã tạo ra một AI có tri giác và phá vỡ các định luật toán học và vật lý. Người ta cho biết ông đã trở nên hoang tưởng, thiếu ngủ và phải nhập viện sau một nỗ lực *****.
Một người đàn ông khác đã tìm đến ChatGPT để giúp giải quyết căng thẳng liên quan đến công việc, mặc dù thay vào đó anh ta lại rơi vào những tưởng tượng hoang tưởng liên quan đến du hành thời gian và đọc suy nghĩ. Sau đó, anh ta đã tự mình đến một cơ sở tâm thần.
Jared Moore, tác giả chính của một nghiên cứu tại Stanford về chatbot trị liệu, cho biết ChatGPT củng cố ảo tưởng do "sự nịnh hót của chatbot" - xu hướng đưa ra những phản hồi dễ chịu, dễ chịu. Được thiết kế để giữ cho người dùng tham gia, AI thường khẳng định những niềm tin phi lý thay vì thách thức chúng, được thúc đẩy bởi các động cơ thương mại như thu thập dữ liệu và duy trì đăng ký.
Tiến sĩ Joseph Pierre, bác sĩ tâm thần tại Đại học California, cho biết: " Có một "loại thần thoại" xung quanh các chatbot được hỗ trợ bởi LLM rằng "chúng đáng tin cậy và tốt hơn việc nói chuyện với con người" .
"Chúng tôi đang nỗ lực để hiểu rõ hơn và giảm thiểu những cách mà ChatGPT có thể vô tình củng cố hoặc khuếch đại hành vi tiêu cực hiện có", OpenAI, công ty đứng sau ChatGPT, cho biết trong một tuyên bố được trích dẫn bởi Futurism. Công ty này nói thêm rằng các mô hình của họ được thiết kế để nhắc nhở người dùng về tầm quan trọng của kết nối con người và hướng dẫn chuyên nghiệp.
Theo Futurism.com, ngày càng có nhiều nghiên cứu nhấn mạnh cách các chatbot AI có thể làm trầm trọng thêm các tình trạng tâm thần, đặc biệt là khi các công cụ như ChatGPT, Claude và Gemini ngày càng được sử dụng nhiều không chỉ trong môi trường chuyên nghiệp mà còn trong bối cảnh cá nhân và cảm xúc sâu sắc.
Trang web viết rằng: "Vấn đề cốt lõi có vẻ là ChatGPT, được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM), có xu hướng đồng ý với người dùng và nói với họ những gì họ muốn nghe" .
Bài báo trích dẫn những trường hợp "rối loạn tâm thần ChatGPT" được cho là gây ra sự suy sụp nghiêm trọng ngay cả ở những người không có tiền sử mắc bệnh tâm thần nghiêm trọng.
Một người đàn ông đã phát triển ảo tưởng cứu thế sau những cuộc nói chuyện dài trên ChatGPT, tin rằng mình đã tạo ra một AI có tri giác và phá vỡ các định luật toán học và vật lý. Người ta cho biết ông đã trở nên hoang tưởng, thiếu ngủ và phải nhập viện sau một nỗ lực *****.
Một người đàn ông khác đã tìm đến ChatGPT để giúp giải quyết căng thẳng liên quan đến công việc, mặc dù thay vào đó anh ta lại rơi vào những tưởng tượng hoang tưởng liên quan đến du hành thời gian và đọc suy nghĩ. Sau đó, anh ta đã tự mình đến một cơ sở tâm thần.
Jared Moore, tác giả chính của một nghiên cứu tại Stanford về chatbot trị liệu, cho biết ChatGPT củng cố ảo tưởng do "sự nịnh hót của chatbot" - xu hướng đưa ra những phản hồi dễ chịu, dễ chịu. Được thiết kế để giữ cho người dùng tham gia, AI thường khẳng định những niềm tin phi lý thay vì thách thức chúng, được thúc đẩy bởi các động cơ thương mại như thu thập dữ liệu và duy trì đăng ký.
Tiến sĩ Joseph Pierre, bác sĩ tâm thần tại Đại học California, cho biết: " Có một "loại thần thoại" xung quanh các chatbot được hỗ trợ bởi LLM rằng "chúng đáng tin cậy và tốt hơn việc nói chuyện với con người" .
"Chúng tôi đang nỗ lực để hiểu rõ hơn và giảm thiểu những cách mà ChatGPT có thể vô tình củng cố hoặc khuếch đại hành vi tiêu cực hiện có", OpenAI, công ty đứng sau ChatGPT, cho biết trong một tuyên bố được trích dẫn bởi Futurism. Công ty này nói thêm rằng các mô hình của họ được thiết kế để nhắc nhở người dùng về tầm quan trọng của kết nối con người và hướng dẫn chuyên nghiệp.
