El alcalde de una localidad australiana ha amenazado con presentar la primera demanda contra IA abiertadueño del popular chatbot ChatGPT, si ninguno corrige las falsas confirmaciones de la herramienta, que afirma falsamente que fue condenado a prisión por soborno, informa’El heraldo de la mañana de Sídney‘. En caso de seguir adelante, para convertir en la primera denuncia contra el servicio de texto automatizado mediante inteligencia artificial, que podría ayudar a vislumbrar si las tecnologías detrás de estas herramientas tienen alguna responsabilidad por los resultados que ofrecen.
La solicitud será presentada por Brian Capucha, alcalde de la localidad de Hepburn Shire desde el pasado noviembre. En concreto, la herramienta propiedad de OpenAI estaría explicando a los usuarios que recurren al servicio que el representante fue condenado a 30 meses de prisión en 2011 por sobornar a funcionarios extranjeros. La realidad es Hood fue uno de los denunciantes de la trama, que involucró a una subsidiaria del Banco de la Reserva de Australia a principios de lacada de 2000. Nunca fue acusado de ningún delito.
“Me sentí un poco atontado. Porque era tan incorrecto, tan salvajemente incorrecto, eso simplemente me eclipsó. Y luego me enfadé mucho por eso”, afirmó el alcalde de Hepburn Shire.
Los abogados de Hood enviaron una denuncia a OpenAI el 21 de marzo. La compañía, hasta el momento, no habría ofrecido ninguna respuesta. Sin embargo, reconoce en varias ocasiones que su chatbot inteligente puede dar errores y generar desinformación. Un problema que no fue capaz de resolver en su última versión, que se hizo público hace apenas unas semanas.
Las soluciones como ChatGPT, así como las herramientas capaces de generar imágenes y videos a partir de un puñado de palabras, están en el punto de mira después de que un grupo conformado por más de mil personalidades, entre ellos ejecutivos, desarrolladores y humanistas, firmasen una carta abierta en la que se pide una moratoria en el desarrollo de nuevas soluciones. El objetivo sería implementar nuevas medidas de seguridad que eviten que la tecnología genere problemas de este tipo. Firmantes consultados por ABC también han remarcado la importancia de que estas soluciones sean reguladas y testadas por expertos externos.
