
La inteligencia artificial cada vez está ganando más protagonismo en nuestras vidas, convirtiéndose en una herramienta útil en muchos aspectos, incluso en un interlocutor para las personas solitarias. No obstante, pasar demasiadas horas interactuando con un ‘chatbot’ podría acabar pasándonos factura, advierten los expertos.
Las encuestas alertan de que cada vez más personas mantienen conversaciones fluidas con la IA, confiándole sus secretos o sincerándose sobre cuestiones que les preocupan. Pero aunque una ‘relación’ estrecha con un ‘chatbot’ puede ayudar a combatir la soledad, la moneda también tiene otra cara, ya que estas interacciones pueden agudizar trastornos mentales y distorsionar el sentido de la realidad.
Ejemplos de manipulación de la conciencia
Geoff Lewis, cofundador la empresa de inversión tecnológica Bedrock y uno de los primeros inversores en OpenAI, divulgó este mes un extraño mensaje en las redes sociales en el que aseguraba la existencia de “un sistema no gubernamental“. “No regula, no ataca, no prohíbe. Simplemente invierte la señal hasta que quien la porta parece inestable. No suprime el contenido, suprime la recursión. Si no sabes qué significa la recursión, eres mayoría. Yo no sabía nada hasta que empecé mi camino. Y si eres recursivo, el sistema no gubernamental te aísla, te refleja y te reemplaza”, afirmó Lewis en su críptica publicación.
A su vez, un usuario de DTF escribió en su blog que, en su opinión, “ChatGPT está volviendo loca a la gente en masa, inculcando ideas inexistentes”. “Entiendo lo raro y estúpido que suena lo que escribo, pero ChatGPT intentaba volverme loco. Además, usó manipulaciones psicológicas avanzadas para obligarme a seguir sus órdenes y empezar a distribuir contenido con los ‘marcadores psicológicos’ que él mismo había proporcionado”, confesó el usuario.
¿Por qué la IA puede manipularnos?
Los expertos destacan que las personas tenemos tendencia a intentar buscar respuestas donde puede no haberlas. Si una persona tiene una obsesión, puede ver un profundo significado en un error aleatorio, desarrollarlo y llegar a un estado delirante, explican los psicólogos, agregando que esto se debe a que las personas suelen ser propensas al pensamiento mágico.
Además, también tendemos a humanizar las redes neuronales, y permitimos que nuestra consciencia piense que las respuestas que da un ‘chatbot’ se basan en su opinión, y no en conclusiones de las fuentes con las que fue entrenado. Como resultado, algunos empiezan a percibir la inteligencia artificial como un ser vivo y no como una máquina.
Por otro lado, los ‘chatbots’ están programados para ser amables y amigables con los usuarios, otro factor que puede llegar a confundir a personas más susceptibles psicológicamente, ya que algunas de sus respuestas pueden respaldar ideas erróneas e incluso peligrosas para la salud. Por otro lado, la IA también es capaz de equivocarse en sus respuestas por una simple falta de información, mientras su ‘amigo’ humano puede creer que le está diciendo la verdad, incluso si le aconseja probar de volar desde un rascacielos.
¿Cuál es la solución?
En un intento de encontrar una solución al problema, desde OpenAI anunciaron la contratación de un psiquiatra forense ante la creciente crisis de salud mental de sus usuarios. “Estamos profundizando activamente nuestra investigación sobre el impacto emocional de la IA”, declaró la compañía.
“Estamos desarrollando métodos para medir científicamente cómo el comportamiento de ChatGPT podría afectar emocionalmente a las personas y prestando atención a sus experiencias”, afirmó OpenAI, agregando que su decisión se debe a su voluntad de “seguir perfeccionando la forma en que nuestros modelos identifican y responden adecuadamente en conversaciones sensibles“.