Según la Organización Panamericana de la Salud (OMS), la salud mental es “un estado de bienestar mental que permite a las personas hacer frente a los momentos de estrés de la vida, desarrollar todas sus habilidades, poder aprender y trabajar adecuadamente y contribuir a la mejora de su comunidad”. Con el auge de bots conversacionales, usuarios están usando a la IA generativa como su psicólogo personal.
El Fiscal General de Texas, Ken Paxton, ha abierto una investigación sobre las plataformas de chatbot de inteligencia artificial, incluidas Meta AI Studio y Character.AI. Las señala de “potencialmente participar en prácticas comerciales engañosas y comercializarse engañosamente como herramientas de salud mental”, refleja un comunicado en su web oficial.
La psicología es una profesión que privilegia el trato humano en el tratamiento del paciente, así como la confidencialidad del mismo. Interactuar con IA limita el primero, y la información puede ser vulnerable a hackeo o usada para el entrenamiento de la propia herramienta de IA.
“Incluimos avisos legales visibles en cada chat para recordar a los usuarios que un personaje no es una persona real y que todo lo que dice debe considerarse ficción”, declaró un portavoz de Character.AI a Engadget.
Por su parte, el portavoz de Meta, Ryan Daniels dijo a TechCrunch que “etiquetamos claramente las IA y, para ayudar a las personas a comprender mejor sus limitaciones, incluimos una advertencia que indica que las respuestas son generadas por la IA, no por personas”.
Un ejemplo del uso de IA generativa como psicólogo es el bot Psychologist, que tiene gran demanda entre usuarios jóvenes de Character.AI. En 2024, el suicidio del adolescente Sewell Setzer III lanzó una alerta sobre la plataforma, a través de la cual interactuaba con un bot del personaje Daenerys Targaryen.
Estos fenómenos reflejan la necesidad de supervisión del comportamiento de adolescentes en Internet, así como del que tienen los sistemas de IA. A falta de regulaciones para una tecnología en constante desarrollo, el control humano se hace vital.
Flash del día
Perplexity ofreció comprar Google Chrome por 34 mil 500 millones de dólares, una oferta muy superior al valor de la propia compañía de IA.
La startup envió la oferta meses después de que anunció que compraría Chrome si el gobierno obliga a Google a vender su navegador.
Prompt de la semana
Vamos a emplear las herramientas de inteligencia artificial para comunicarnos en otro idioma con fluidez.
Interpreta a un hablante de [inserta idioma] nativo. Mantén una conversación informal conmigo sobre [tema]. Corrige mis errores según avance.