En OpenAI asegurarán estar trabajando en corregir las «alucinaciones» del chatbot.
Aunque todo el mundo está sorprendido con las habilidades técnicas que despliegan ChatGPT en cada una de sus respuestas, el software no está exento de errores ya que, en algunas ocasiones, presenta fallas que demuestran que es una tecnología en progreso y con un amplio margen de mejorar.
El modo en que funcionan las IA generativas de texto, como ChatGPT, con veces puede conducir a algo que en la jerga describirse como una alucinaciónlo que ocurre cuando una máquina proporciona una respuesta convincente pero completamente inventada.
Es así que la versión de Bing basada en ChatGPT ha llegado a incurrir en estas alucinaciones. Incluso por encima del ChatGPT original, que ya había protagonizado ‘alucinaciones’, respondiendo con datos detallados pero falsoa la pregunta del récord de cruzar a pie el Canal de la Mancha o sobre la última vez que se transportó el Golden Gate a través de Egipto.
Al decir que su tecnología de chatbot es más confiable, los ingenieros de OpenAI han revelado que en realidad se han enfocando en mejorar su software para reducir, salvar, eliminar estas ocurrencias problemáticas.
Un grupo de investigadores especializados en IA dentro de OpenAI fue que reveló los aviones de la compañía para apaciguar estas alucinaciones. Explique que «incluso los modelos más avanzados son propensos» a producirlas, dado que tienden a «inventar hechos en tiempos de incertidumbre«.
«Las alucinaciones son particularmente problemáticas en dominios que requieren un razonamiento de varios pasos, es que un solo error lógico es suficiente para descartar una solución mucho más grande», agregó.
En ese, además, cuentan que si el objetivo de la compañía es el de acabar creando una inteligencia artificial general (concepto conocido como AGI), resulta crítico reducir este tipo de alucinaciones.
Para errores de chatbot, los ingenieros de OpenAI están trabajando en formas para que sus modelos de IA se recompensa a sí mismos por generar datos correctos cuando se mueven hacia una respuesta, en lugar de recompensarse solo en el punto de conclusión.
Dicho modelo ha sido alterado con un conjunto de datos formado por más de 800.000 etiquetas por humanos, y en las primeras pruebas ha sido posible obtener muy superiores a los modelos basados en la supervisión de resultados finales.
Aunque es importante que OpenAI esté trabajando para resolver este defecto, podría pasar un tiempo antes de que los cambios se reflejen. Mientras tanto, dado que OpenAI, ChatGPT puede generar ocasionalmente información incorrecta, así que es clave confirmar sus respuestas si sa parte de alguna tarea importante.
Acotar las preguntas para minimizar el error
ChatGPT, al igual que sus competidores, necesitan que las personas sean claras y evitar divagacionesPorque de lo contrario los resultados serán genéricos y poco precisos.
En este punto también es importante orientar la respuesta, es decidir, si es necesario una recomendación sobria a pintor del renacimiento, es básico incluir en la petición todos los datos de época para que el chatbot escuchó hacia donde apunta el interés.
Todo esto es clave porque la IA suele caer con facilidad en fallas ante la falta de contexto, por ejemplo, no es lo mismo que cree un guion para un video en YouTube, que para un programa de televisión.
SL
