Inteligencia artificial: qué piensa Sam Altman sobre las alucinaciones, la mayor falla de ChatGPT

Sam Altman, CEO de OpenAI y principal referente del boom generado en los últimos meses alrededor de la inteligencia artificial generativa, respondió a la mayor crítica que reciben los modelos de lenguaje como ChatGPT: las "alucinaciones".

En conversación Marc Benioff -director ejecutivo de Salesforce- durante el evento Dreamforce 2023, Altman discutió algunos puntos claves acerca del estado actual de la inteligencia artificial y brindó algunas predicciones respecto de su evolución a futuro.

Cuestionado acerca de las "alucinaciones" -información presentada de manera coherente como si fueran hechos reales, pero con datos incorrectos, sesgados o directamente falsos-, Altman planteó que no son un problema, sino parte de la "magia" de estos sistemas de IA.

"Gran parte del valor de estos sistemas está fuertemente relacionado con el hecho de que alucinan. Son más un feature (característica) que un bug (error). Si quieres buscar algo en una base de datos, ya hay cosas útiles para hacerlo", explicó el director ejecutivo de OpenAI.

Y sumó, en ese sentido: “El hecho de que estos sistemas de inteligencia artificial puedan generar nuevas ideas y ser creativos es gran parte de su poder. Estamos trabajando en que sean creativos cuando queramos y objetivos cuando queramos”.

Para Altman, garantizar que estas nuevas plataformas de IA solo generen contenido cuando estén absolutamente seguras de que es correcto sería “ingenuo” y "contrario a su naturaleza fundamental".

“Si simplemente decides hacer algo ingenuo y plantearle a la IA ‘nunca digas nada de lo que no estés 100% segura’, puedes lograr que todos hagan lo mismo. Pero no tendrá la magia que tanto le gusta a la gente”, agregó.

Qué son las alucinaciones en inteligencia artificial

En modelos de inteligencia artificial, las alucinaciones ocurren cuando un chatbot brinda una información falsa, en muchos casos fácilmente comprobable, como si fuera objetivamente correcta.

El tema viene siendo muy discutido en el ambiente tech desde hace un año, e incluso llevó a que OpenAI fuera demandada por las falsas afirmaciones de ChatGPT. Google, tanto, quedó ridiculizado durante la presentación mundial de Bard, su propio chatbot, al responder de manera incorrecta una pregunta simple.

Críticos y referentes de la industria también expresaron su preocupación en las últimas semanas. De hecho, unas horas antes de su charla con Altman, al pronunciar su discurso de apertura en Dreamforce -el autoproclamado "mayor evento de IA del mundo"- Benioff fue más que elocuente: "No las llamo alucinaciones, las llamo mentiras".

La película favorita de Sam Altman

En otro tramo de su conversación con Benioff, Altman reveló cuál es su película de ciencia ficción favorita. Y, para sorpresa de pocos, la trama tiene que ver con inteligencia artificial.

"Me gusta Her ("Ella"). Las cosas que la película hizo bien, como todos los modelos de interacción y cómo las personas usan la IA, fueron increíblemente proféticas", dijo Altman.

Her, estrenada en 2013, con la dirección Spike Jonze, está protagonizada por Joaquin Phoenix, un hombre desconsolado que atraviesa un divorcio y se enamora de una asistente virtual de inteligencia artificial llamada Samantha, con la voz de Scarlett Johansson.

Aunque es optimista acerca del futuro de su tecnología, el director ejecutivo de OpenAI reconoció que la inteligencia artificial no lo salvará en una crisis del mundo real.

Y sentenció: "No me hago ilusiones de que nada de esto vaya a protegernos a nosotros ni a nadie si la IA sale mal".