En vísperas de la destitución del consejero delegado de OpenAI, Sam Altman, varios investigadores de la plantilla de la empresa escribieron una carta al consejo de administración advirtiendo sobre el descubrimiento de una potente inteligencia artificial que, según ellos, "podría amenazar a la humanidad". Así lo informa Reuters, citando sus propias fuentes.
Fue esta carta la que se citó como factor en la larga lista de quejas de la junta que condujeron al despido de Altman. Reuters no pudo hablar personalmente con los autores ni obtener comentarios de OpenAI. Sin embargo, tras dicha solicitud, la empresa comunicó a los empleados en un mensaje interno que existía una especie de proyecto llamado Q* (pronunciado Q-Star).
Algunos empleados de OpenAI creen que Q* podría suponer un gran avance en la llamada inteligencia artificial general (AGI). OpenAI lo define como un sistema autónomo que supera a los humanos en la mayoría de las tareas de valor económico.
Según una de las fuentes, hasta ahora Q* sólo realiza tareas matemáticas al nivel de los alumnos de primaria, pero el éxito en este tipo de pruebas da a los investigadores un gran optimismo sobre sus perspectivas de desarrollo.
La principal diferencia de este tipo de IA es que es capaz de fijar objetivos, dividir procesos complejos en otros más pequeños, trabajar en una amplia gama de tareas y encontrar soluciones teniendo en cuenta el contexto desde distintos ámbitos. En pocas palabras, esta inteligencia puede, en teoría, sustituir a un especialista altamente cualificado con conocimientos, habilidades y experiencia.
Los investigadores creen que las matemáticas son la vanguardia de la IA generativa. Actualmente es buena escribiendo y traduciendo, predice estadísticamente la palabra siguiente y las respuestas a una misma pregunta pueden variar mucho. Pero la conquista de las matemáticas (donde sólo hay una respuesta correcta) implica que la IA tendrá capacidades de razonamiento más amplias que recuerdan a la inteligencia humana. Según los expertos, esto podría aplicarse, por ejemplo, a nuevas investigaciones científicas.
En su carta a la Junta, los investigadores se mostraban preocupados por el poder de la IA y sus peligros potenciales. También señalaban el trabajo de un equipo especial de "científicos de IA" cuya existencia ha sido confirmada por otras múltiples fuentes. Según una de ellas, este equipo investiga cómo optimizar los modelos de IA existentes para mejorar su razonamiento y, con el tiempo, realizar trabajos científicos con ellos.
Altman dirigió los esfuerzos para convertir ChatGPT en una de las aplicaciones informáticas de más rápido crecimiento de la historia y atrajo de Microsoft la inversión y los recursos informáticos necesarios para acercarse a una AGI semejante. Y poco antes de su despido, en una cumbre de líderes mundiales en San Francisco, anunció algunos "grandes avances que están a la vuelta de la esquina".
Cuatro veces en la historia de OpenAI, la más reciente hace apenas un par de semanas, he tenido que estar en la sala cuando estamos apartando el velo de la ignorancia y acercándonos a la frontera del descubrimiento, y hacerlo es el honor profesional de toda una vida.
Un día después, la junta despidió a Altman.
Quizá algún día todas estas decisiones y acontecimientos sirvan de base para un libro, una película entera o incluso un libro de texto de historia.
