David Silver, la mente detrás del innovador AlphaGo, cree que la trayectoria actual de la inteligencia artificial es fundamentalmente defectuosa. Si bien el mundo de la tecnología está actualmente obsesionado con los modelos de lenguajes grandes (LLM), Silver sostiene que depender de datos generados por humanos es un callejón sin salida para lograr una verdadera superinteligencia.
A través de su nueva empresa, Ineffable Intelligence, Silver está intentando alejar la industria del “mimetismo” y acercarla a un modelo de aprendizaje autónomo y autosostenible.
El problema del “combustible fósil” de los LLM
El auge actual de la IA está impulsado en gran medida por los LLM, sistemas formados en conjuntos de datos masivos de textos, códigos y libros humanos. Silver considera que este método es inherentemente limitado. Describe los datos humanos como una “especie de combustible fósil” : un atajo increíble que proporciona un impulso inicial pero que, en última instancia, es finito y no renovable.
La cuestión central es que los LLM aprenden de lo que los humanos ya han hecho. Son reflejos de la inteligencia humana más que motores independientes de descubrimiento. Silver postula que si una IA se limita a datos humanos, nunca podrá superar el conocimiento colectivo de sus creadores.
“Se puede pensar en los sistemas que aprenden por sí mismos como un combustible renovable, algo que puede aprender y aprender y aprender para siempre, sin límites”, explica Silver.
Para ilustrar esto, Silver utiliza un experimento mental: si lanzaras un LLM poderoso en un mundo donde todos creían que la Tierra era plana, la IA se convertiría en una experta en “tierra plana”. Sin la capacidad de interactuar con la realidad o realizar sus propios experimentos, permanece atrapado dentro de los sesgos y limitaciones de sus datos de entrenamiento.
El camino hacia la superinteligencia: aprendizaje por refuerzo
En lugar de alimentar a la IA con más texto, Silver está duplicando su apuesta por el aprendizaje por refuerzo (RL). Este es el proceso en el que una IA aprende mediante prueba y error, interactuando con un entorno para lograr objetivos específicos. Este fue el mecanismo que permitió a AlphaGo dominar el juego de Go, no leyendo libros sobre estrategia, sino jugando millones de juegos contra sí mismo.
La visión de Silver para Ineffable Intelligence es trasladar este concepto de los “mundos confinados” de juegos como Go a la inmensa complejidad del mundo real. Su estrategia implica:
- Entornos simulados: Colocar agentes de IA dentro de simulaciones altamente sofisticadas donde puedan interactuar, colaborar y probar hipótesis.
- Descubrimiento autónomo: Creación de “superaprendices” que no solo procesan información, sino que descubren activamente nuevos principios científicos, económicos o tecnológicos.
- Escalamiento de la inteligencia: Construir sistemas que puedan escalar su inteligencia sin estar atados a “antecedentes humanos” (las nociones preconcebidas y sesgos inherentes a los datos humanos).
La seguridad y el desafío de la alineación
Una preocupación importante en la carrera por la superinteligencia es la alineación de la IA : garantizar que una máquina más inteligente que los humanos siga siendo beneficiosa para la humanidad.
A los críticos les preocupa que una IA que aprenda mediante pura prueba y error pueda descubrir soluciones “óptimas” que sean eficientes pero moralmente catastróficas. Sin embargo, Silver y sus patrocinadores, incluido Lightspeed Ventures, argumentan que su enfoque puede ser en realidad más seguro.
Al desarrollar estos agentes dentro de simulaciones controladas, los investigadores pueden observar comportamientos emergentes en tiempo real. Pueden ver cómo un agente trata las “inteligencias menores” o maneja objetivos conflictivos antes de que la tecnología se implemente en el mundo real. Esto permite un enfoque proactivo de la seguridad, en lugar de reactivo.
Una misión de alto riesgo
La escala de la ambición de Silver se refleja en el respaldo financiero de Ineffable Intelligence. La startup ya ha obtenido 1.100 millones de dólares en financiación inicial, alcanzando una valoración de 5.100 millones de dólares. Se trata de una cifra extraordinaria para una empresa de IA con sede en Europa y subraya la creencia de la industria en la “pureza de visión” de Silver.
A pesar de la enorme riqueza en juego, Silver mantiene una postura filantrópica. Se ha comprometido a donar todos los ingresos del capital de Ineffable Intelligence a organizaciones benéficas de alto impacto, considerando la búsqueda de la superinteligencia como una profunda responsabilidad para el futuro de la humanidad.
Conclusión: Si bien el panorama actual de la IA está dominado por modelos que repiten como loros el conocimiento humano, David Silver apuesta a que el próximo salto en inteligencia vendrá de máquinas que aprendan a navegar y comprender el mundo por sí mismas.
