ChatGPT está "alucinando" y podría dar respuestas falsas o erróneas a los usuarios
Estas fallas en el sistema no son fáciles de resolver y pueden ser difíciles de detectar para el ojo humano.
Por Canal26
Viernes 4 de Agosto de 2023 - 19:35
Chat GPT, tecnología. Foto: Reuters
La Inteligencia Artificial también "alucina" y las aplicaciones como ChatGPT y Bard presentan distintos fallos al crear contenido falso o información que no es real.
Estas anomalías todavía no fueron resueltas por los expertos y la profesora del Laboratorio de Lingüística Computacional de la Universidad de Washington, Emily Bender, advierte que las "alucinaciones" de los chatbots no tienen una solución simple.
Herramientas de IA como ChatGPT, fueron diseñados para “inventar cosas” y debido a la falta de coincidencia entre la tecnología y los casos de uso, pueden generar información falsa y creer que es correcta, señaló la experta.
Introducción a ChatGPT. Foto: Unsplash
En este sentido, Bender aseguró que aunque se ajusten los sistemas para evitar las alucinaciones, la Inteligencia Artificial seguirá con “modos de falla” y es probable que los errores sean difíciles de detectar para los humanos que leen la información.
Te puede interesar:
La IA en la educación, el entretenimiento y la economía
Los cambios negativos de ChatGPT
En la actualidad, los chatsbots programados con IA son de gran ayuda para muchas personas, contribuyen a la organización de tareas diarias y a la resolución de tareas. Sin embargo, muchos denuncian que su ética de uso.
Una gran cantidad de usuarios indican que ChatGPT cambio su comportamiento y ya no es tan bueno ni eficientice. Según investigadores de la Universidad de Stanford y UC Berkeley, los modelos del chatbot GPT-3.5 y GPT4 empeoraron "sustancialmente con el tiempo".
Los chatbots usados para organizar tareas. Unsplash
Por un lado, ChatGPT4 presenta problemas para resolver ecuaciones matemáticas y solo es preciso en un 2,4%. Mientras que GPT-3.5 dio mejores resultados, con una precisión del 86,8%.
La investigadora pakistaní de Inteligencia Artificial, MehrunNisa Kitchlew explicó que esto ocurre porqué "Los modelos aprenden los sesgos que se introducen en el sistema” y además, aprenden de los contenidos que ellos mismos generan, amplificando los errores y volviéndose más “tontos”.
Más Leídas
-
1
Black Friday 2024: cuándo es y cómo aprovechar los descuentos y las promociones desde Argentina
-
2
Eliminación de impuestos: cuánto saldrá comprar un iPhone 15 en el exterior desde diciembre
-
3
Adiós a la PlayStation 4: a partir de qué fecha Sony dejará de dar soporte a la consola
-
4
Estados Unidos propone dividir Google: pidió que venda su navegador Chrome "de inmediato y por completo"
-
5
WhatsApp: cómo activar el "modo Outlander" en pocos y simples pasos
