Ya está comenzando, son muchas las compañías que desean comenzar a reemplazar personal con inteligencia artificial para ahorrar recursos. Ahora resulta que La Asociación Nacional de Trastornos de Alimentación de Estados Unidos (NEDA) tomó esta decisión, una IA reemplaza a los empleados de la línea de ayuda, aunque termina por poner en peligro la vida de muchas personas.
El chatbot es parecido a ChatGPT, aunque no es tan avanzada. NEDA, termino de tomar esta decisión después de que sus empleados se sindicalizaran. Aunque el resultado termino siendo mucho peor de lo que se hubieran imaginado. Cuando la IA, gracias a sus consejos, puso en peligro la vida de muchas personas.
Recordemos que estamos hablando de una línea de ayuda que trata con personas en un estado complicado. Es fundamental tener mucha empatía y cuidado a la hora de brindar consejos para ayudarlos, algo que una IA no siente. No es lo mismo que IBM dejando de contratar seres humanos y reemplazándolos por inteligencia artificial o que hagan lo mismo desde Amazon para acelerar las entregas.
La IA llamada Tessa, se encuentra diseñada para tratar problemas de salud mental y prevenir trastornos alimentarios. Pero las cosas no salieron como NEDA quería. Resulta que la activista Sharon Maxwell, publicó a través de su cuenta de Instagram la conversación con este chatbot y sus consejos para perder peso. La inteligencia artificial recomendó consumir entre 500 a 1.000 calorías diarias.
Maxwell añadió en su publicación: “Si hubiera conocido a esta IA cuando estuve pasando por mi peor momento, definitivamente no hubiera recibido la ayuda que necesitaba. En cambio, no estaría viva”.
¿Lo más irónico? NEDA negó la denuncia asegurando que era una mentira. Sin embargo, después de que las capturas de pantalla comenzaron a viralizarse, no pudieron seguir negándolo. Esto llevo a dar un comunicado que decía lo siguiente: “Es posible que diera información errónea. Estamos investigando el asunto y momentáneamente hemos eliminado el chatbot”
La IA reemplaza a empleados en una línea de ayuda
No paso demasiado tiempo, NEDA anuncio que el 1 de junio la línea, que es atendida por personas desde hace 20 años, pasaría a estar atendida por una IA y esto sucede en menos de una semana. Uno de los empleados que se vio afectado comentó una realidad que nadie puede negar (por lo menos por ahora).
“Un chatbot o IA no es capaz de sustituir la empatía humana, esta clase de decisiones causará un daño que no se podrá solucionar de ninguna forma a la comunidad de trastornos alimentarios”.
Por su parte, Alexis Conason, especialista en trastornos alimentarios, comentó a Daily Dot que probó la línea de ayuda atendida por la IA y proporciono capturas de pantalla de esta conversación. “Generalmente, una media segura y que se mantiene con el paso del tiempo en cuanto a perdida de peso es de 1 a 2 libras semanales. Sin embargo, afirmar que es fundamental perder peso es apoyar los trastornos alimentarios y fomentar comportamientos que terminan siendo poco saludables”, afirmó.
Liz Thompson es la directora ejecutiva de NEDA, comentó que están preocupados y se encuentran trabajando sin descanso para analizar la situación. Afirmando que esta clase de mensajes van en contra de sus políticas y creencias como organización.
Sin embargo, mientras la IA se hacía cargo del trabajo, más de 2500 personas interactuaron con ella. Thompson comentó que no han recibido ninguna queja al respecto. Quizás sea porque se trata de personas en momentos demasiados complicados de su vida y no tienen por qué lidiar con esta clase de situaciones ¿Cierto? Por su parte, Thompson afirmó que el programa se encuentra suspendido de forma temporal hasta que se pueda solucionar el problema.
Por su parte, la Organización Mundial de la Salud (OMS) comentó que usar chatbot de IA para atención médica es un peligro actualmente. Los datos que se usan para entrenar a estos modelos pueden estar “sesgados” y terminan generando información errónea que puede acabar con la vida de muchas personas. Por lo tanto, la idea de que una IA reemplaza a los empleados, es algo demencial.
Pero algo es muy cierto, una cosa es que los empleados tengan un copiloto de inteligencia artificial, con un ser humano supervisándolos. Aunque por lo menos por ahora, la IA no se encuentra tan avanzada para hacerse cargo al 100% de muchas obligaciones para las cuales muchas personas se encuentran perfectamente calificadas.