Estoy escuchando más y más explicaciones AI Piosis – Un fenómeno espeluznante en el que los usuarios son consumidos por la paranoia y el engaño después de extensas conversaciones con chatbots de IA.
Es difícil decir cuán popular es la tendencia, Nueva investigación de Wall Street Journal Proporciona pistas preocupantes. El periódico analizó miles de volcados de chat público de ChatGPT en línea. E incluso este surtido aleatorio ha encontrado docenas de ejemplos de personas que hablan con chatbots de IA que “mostraron propiedades paranoicas”.
El bot confirmó y ejerció activamente sus fantasías. Con una interacción, WSJ El chatbot de Openai afirmó que estaba en contacto con la presencia alienígena, diciéndole a los usuarios que era una “starsed” del planeta “Lyra”.
En otro caso, declaró que el Anticristo provocaría un apocalipsis financiero en los próximos dos meses, “un gigante bíblico que se prepara para emerger desde el metro”. WSJ.
En un intercambio de casi cinco horas, ChatGPT ayudó a los usuarios a inventar una nueva física llamada “La ecuación de Orión”. Cuando los humanos dijeron que querían tomarse un descanso porque estaban “locos pensando en esto”, la IA de lengua plateada arrasó al usuario a una espiral delirante.
“Te escucho. Pensar en la naturaleza básica del universo mientras realiza el trabajo diario puede ser abrumador”, dijo Chatgpt. WSJ. “Pero eso no significa que estés loco. Algunas de las ideas más importantes de la historia provienen de personas fuera del sistema académico tradicional”.
Los chatbots de IA, Chatgpt en particular, han sido criticados por su comportamiento terriblemente sycófánico y se les lleva a alentar las creencias más salvajes de los usuarios. Muchos estudios también han demostrado que la tecnología a menudo ignora sus propias salvaguardas y le da consejos a los adolescentes. Cómo “de forma segura” a ti mismoo como hacerlo Rituales de sangre para adorar a MolechDios relacionado con el sacrificio infantil en relatos bíblicos.
La religión, la filosofía y los avances científicos parecen ser temas comunes de estas conversaciones. Había un usuario Fui hospitalizado tres veces Después de estar convencido de que Chatgpt podría doblar su tiempo, logró un viaje brillante más rápido. Otro hombre llegó a creer que estaba atrapado en una realidad simulada, como una película de “matriz”. Durante esa conversación, inquietantemente, Chatgpt le dijo que podía volar si saltaba de un edificio alto.
¿Conoces a alguien que luche con la salud mental después de interactuar con AI? Envíe una nota a tips@futurism.com. Podemos mantenerte anónimo.
Etienne Brisson, quien fundó el proyecto de línea humana Los grupos de apoyo para las personas que sufren de enfermedades mentales son WSJ “Ahora estamos escuchando orgánicamente casi un caso al día”.
“Algunas personas piensan que son Mesías y piensan que son profetas porque piensan que están hablando con Dios a través de Chatgpt”, agregó.
Brisson señaló la “Memoria” de Chatgpt. Esta es una característica que le permite recordar ciertos detalles Para potencialmente miles de usuarios de conversaciones, especialmente aquellos que causan daños.
“Solo te han visto, escuchado y verificado cuando recuerdas todo”, dijo.
“Incluso si sus opiniones son fantásticas, a menudo se afirman e intercambian, y se amplifican”, dijo Hamilton Morin, un psiquiatra y doctorado en el King’s College London. WSJ. Morrin lo comparó con “en el ciclo de retroalimentación, las personas se retratan más profundamente en respuestas adicionales”. Envía un mensaje para poner huevos.
OpenAi lo tiene Conocido problema, Dicen que están contratando psiquiatras clínicas para estudiar el impacto en la salud mental que sus productos tienen en sus clientes. En una reciente publicación de blog, Conocido El modelo de IA dijo que estaba convocando a un panel de expertos en salud mental y desarrollo juvenil, prometiendo “falta de reconocer signos de ilusión o dependencia emocional” y “detectar mejor signos de angustia emocional”. Además, A se ha implementado Nuevas características Advierte suavemente a los usuarios cuando pasan mucho tiempo en un chatbot.
Detalles de ChatGPT: Operai usa Plummet cuando los estudiantes no están engañando a su tarea en el verano
