Sam Altman, CEO de OpenAI, presentó una entrevista sobre la cuestión de los temores que rodean a su herramienta.
Todos los años, la Sohn Conference Foundation organiza un concurso de ideas con expertos en tecnología y directores ejecutivos de empresas emergentes que debaten y presumen de avanzar hacia el futuro. En la ocasión, Patrick Collison, gerente de Stripe, entrevistó a un equipo de Sam Altman de OpenAI sobre los riesgos y posibilidades de la inteligencia artificial.
Además, revela como es el uso mas comun que el dan los usuarios ha conocido la herramienta: «El caso de uso más común del ChatGPT es el resumen de textos para poder estabilizar al dia con los mensajes de correo electrónico y de Slack».
La Charla Fue escalada de intensidad y el primer tema fue económico: World Coin, el proyecto «crypto» de Altman. A supo escuchar, la IA podría desencadenar una aumento masivo en el crecimiento económico real al identificar las inversiones y los diseños más productivos para las empresas.
De este modo, la IA puede tener un impacto económico mucho más relevante y profundo. Él mismo pone como ejemplo que una IA que pudiera asignar fondos de manera eficiente a l’investigación del cáncer podría horrar miles de millones de dólares al tiempo que los avances en la búsqueda de una cura.
El plato fuerte se deriva de inmediato ya que se habló del Impacto de ChatGPT y de todo lo que está haciendo OpenAI en el sector de las búsquedas web.
«Los modelos lingüísticos van a cambiar mucho la búsqueda en Internet, pero no son una amenaza para la búsqueda. Y fueron una amenaza para Google sólo si no hicieron nada al respecto y obviamente, Google no tiene nada que decir«, Señalo Altman.
Además, revelan que se trata de un programa de desenrollado que permite a los conversación natural con agentes de IA (programas como AutoGPT, que utilizan modelos lingüísticos de forma autónoma, sin depender de humanos), lo que podría tener importantes consecuencias sociales.
Confiar sólo en el aprendizaje por refuerzo para la IA no es una solución adecuada a largo plazo. La clave para conseguir la ‘alineación’ (término para la convergencia de intereses IA/humanos) es comprender el funcionamiento interno de los modelos.
«Creo que los materiales Nucleares y los supercomputadores de IA tienen algunas similitudes y que es en este campo en el que podemos sacar más paralelismo e inspiración que de otros. Pero también querría advertir a la gente acerca de apresurarse a sacar conclusiones de esto. pensando , concretamente, en plantar algo así como una OIEA para la inteligencia artificial».
Por eso entiende que, aunque sólo sea para evitar la tentación de inspirarse demasiado en tecnologías anteriores, establecer una agencia reguladora mundial Para los potentes sistemas de entrenamiento de IA es crucial para la seguridad.
IA: los debates estériles de Twitter
Al ser consultado sobre los temores que despierta estos avances en una sociedad que ve como estos inteligentes se quedan con sus puestos de trabajo, el CEO de OpenAI cargo contra los debates en las redes sociales.
Considera que hay demasiadas discusiones de que no portan nada es que después no se extrapole realmente a un trabajo real que llegue a un puerto concreto. De esta manera, se pierde mucho en el camino y son estériles debates y discusiones bizantinas que no llegan a absolutamente ningún puerto.
Muchas de las personas que dicen estar preocupadas por la seguridad de la IA solamente se pasan el día en Twitter diciendo que están muy preocupadas por la seguridad de la IA.
«Hay personas que están muy preocupadas y que hacen un gran trabajo técnico al respecto, pero necesitamos más gente así. Lo que el mundo necesita no son más personas que escriban discusiones filosóficas largas en Twitter», sentenció Altman.
SL
