La creadora de ChatGPT pide que regulen la inteligencia artificial
¿Cómo lográs que el modelo haga lo que querés que haga y cómo te aseguras de que esté alineado con la intención humana y, en última instancia, al servicio de la humanidad? La tecnóloga analizó el impacto de estas tecnologías y su visión sobre el futuro del popular chat conversacional.?
13-02-2023 | 15:33
Mira Murati, directora de Tecnología de OpenAI. La empresa de inteligencia artificial creadora del ChatGPT / Foto: AFP. Mira Murati es directora de Tecnología (CTO, en inglés) de OpenAI, la empresa creadora del popular ChatGPT, el chat impulsado por inteligencia artificial (IA) que responde preguntas complejas y hasta "admite sus errores" con habilidades casi humanas. ¿Esto tiene algún peligro? ¿Cuál es la dimensión ética del asunto? ¿Existen limitantes? Para esta y otras tantas preguntas, la directiva abrió el diálogo: "No es demasiado pronto" para que voces legislativas y reguladores se involucren en el debate, "dado el impacto que van a tener estas tecnologías" en el mundo.
"Somos un grupo pequeño de personas y necesitamos muchos más aportes a este sistema (hablando de la inteligencia artificial) y muchos más aportes que vayan más allá de las tecnologías. Definitivamente reguladores, gobiernos y más", sostuvo Murati en una entrevista con la revista Time.
Su voz cobra fuerza dada la empresa de la que es parte: OpenAi pasó de ser una startup privada con sede en San Francisco (Estados Unidos), con 375 empleados y pocos ingresos, a tener una valoración de aproximadamente 30 mil millones de dólares. Parte de eso se debe a la explosión del uso del ChatGPT, que alcanzó los 100 millones de usuarios en dos meses, y a la inversión que Microsoft hizo recientemente en esta compañía por 10.000 millones de dólares.
Murati no solo lidera los equipos detrás de ChatGPT, sino también de DALL-E, otro sistema de OpenAi que usa inteligencia artificial para crear obras de arte basadas en indicaciones. Servicios que despiertan fascinación pública y mediática, pero que siembran cientos de preguntas sobre el futuro cercano.
DALL-E 2 generates images from text like “macro 35mm film photography of a large family of mice wearing hats cozy by the fireplace”
#dalle
pic.twitter.com/knLQstkbVz
— Mira Murati (@miramurati)
April 6, 2022
La revista Time le hizo a Murati una pregunta que le pidió directamente ChatGPT y fue esta: "¿Cuáles fueron algunas de las limitaciones o de los desafíos que encontraste mientras trabajabas con ChatGPT y cómo los superaste?"
"Buena pregunta", respondió ella. "ChatGPT es esencialmente un gran modelo conversacional, una gran red neuronal que ha sido entrenada para predecir la siguiente palabra. Y los desafíos con él son desafíos similares a los que vemos con los modelos básicos de lenguaje más grandes: que pueda inventar hechos".
La tecnóloga explicó que eligieron específicamente el diálogo porque "es una forma de interactuar con un modelo y darle retroalimentación". Por ejemplo, si pensamos que la respuesta del modelo es incorrecta, podemos decir: “¿Estás seguro? De hecho, creo que…” Y luego el modelo va a tener la oportunidad de ir y venir con vos, de forma similar a como conversaríamos con otro ser humano.
Fase actual de ChatGPT y su potencial
La CTO dijo que ChatGPT se encuentra en la etapa de revisión de la investigación, por lo que "no puede hablar con seguridad de qué problemas está resolviendo" ese chat. Lo que sí consideró es en el potencial que tiene de "revolucionar realmente la forma en que aprendemos".
"Las personas están en aulas de, digamos, 30 personas. Todas tienen diferentes contextos de vida, formas de aprender y todas reciben básicamente el mismo plan de estudios. Con herramientas como ChatGPT, se puede conversar continuamente con un modelo para comprender un concepto de una manera que se adapte a su nivel de comprensión. Tiene un inmenso potencial para ayudarnos con la educación personalizada".
Murati lidera los equipos de DALL-E y ChatGPT dentro de OpenAi / Foto: captura de TV
El impacto de la inteligencia artificial
Consultada por Time sobre que los peligros que se advierten vinculados con la IA, la especialista consideró que este es un momento único en el tiempo en el que tenemos la perspectiva sobre cómo da forma a la sociedad. Y va en ambos sentidos: la tecnología nos moldea y nosotros la moldeamos.
"Hay muchos problemas difíciles de resolver. ¿Cómo lográs que el modelo haga lo que querés que haga y cómo te aseguras de que esté alineado con la intención humana y, en última instancia, al servicio de la humanidad? También hay un montón de preguntas sobre el impacto social, y hay muchas cuestiones éticas y filosóficas que debemos considerar. Y es importante que traigamos diferentes voces, como filósofos, científicos sociales, artistas y personas de las humanidades".
We just launched a new AI classifier trained to detect AI generated text. It’s not perfect but it’s a step forward on distinguishing between AI and human-written text. Lots of work to be done and were looking for input.
https://t.co/eznslSoZDa
— Mira Murati (@miramurati)
February 1, 2023
Sostuvo que la IA puede ser mal utilizada, o puede ser utilizada por malos actores. Entonces, hay preguntas sobre cómo se gobierna el uso de esta tecnología a nivel mundial. "¿Cómo se gobierna el uso de la IA de una manera que esté alineada con los valores humanos?"
Entonces ¿en manos de quién deberían dejarse estas preguntas? ¿Empresas, gobiernos?
La directiva respondió: "Es importante para OpenAI y empresas como la nuestra traer esto a la conciencia pública de una manera controlada y responsable. Pero somos un pequeño grupo de personas y necesitamos muchos más aportes a este sistema y muchos más aportes que vayan más allá de las tecnologías. Definitivamente reguladores, gobiernos y más".
Amplió que "no es demasiado pronto" para que los legisladores y los reguladores se involucren." Es muy importante que todos comiencen a involucrarse, dado el impacto que van a tener estas tecnologías".
Relacionadas
Furor por la inteligencia artificial: más profesiones los suman a su trabajo
Con inteligencia artificial, los buscadores entran en una nueva era
Inteligencia artificial es "la palabra del año" según la Real Academia Española
Un proyecto argentino busca anticipar epidemias con inteligencia artificial
Robots sin sentimientos: la exageración (o "hype") por la inteligencia artificial con consciencia
Efectivos de la Prefectura Naval Argentina participaron en las últimas horas de un operativo para combatir dos incendios de gran magnitud registrados en zonas rurales del sur del Partido de General Pueyrredón, en cercanías de las localidades de Chapadmalal y El Marquesado.
Por Gustavo Seira<br />
<br />
La edición 2026 del Foro PescAR dejó una sensación clara entre quienes siguen de cerca la evolución de la industria pesquera argentina: el sector atraviesa un momento de definiciones. Las exposiciones, los paneles y los intercambios entre empresarios, funcionarios, científicos y dirigentes permitieron trazar un diagnóstico bastante preciso de la situación actual de la actividad, pero también dejaron planteados interrogantes sobre la velocidad con la que podrán implementarse las soluciones.<br />
Desde el club de Santa Celina se diseñó un trabajo por etapas que finalizará en el largo plazo con dos canchas de agua totalmente equipadas. Antes que finalice 2026 se piensa culminar la etapa uno que lo convertirá en el primer club de la ciudad con una cancha de agua en su predio.
