A medida que la inteligencia artificial general (AGI) avanza rápidamente, la conversación está pasando del debate filosófico a uno de relevancia práctica, con inmensas oportunidades para transformar las empresas globales y el potencial humano.
La serie de eventos AGI Icons de Turing reúne a innovadores de IA para discutir avances prácticos y responsables de las soluciones AGI. El 24 de julio, Turing organizó nuestro segundo evento AGI Icons en SHACK15, el centro exclusivo de San Francisco para emprendedores e innovadores tecnológicos. Moderado por Anita Ramaswamy, columnista financiera de The Information, me senté con el director ejecutivo de Quora, Adam D’Angelo, para analizar el camino hacia AGI y compartir ideas sobre los cronogramas de desarrollo, las aplicaciones del mundo real y los principios para una implementación responsable.
El camino de la IA a la AGI
La “estrella del norte” que impulsa la investigación de la IA es la búsqueda de una “inteligencia” a nivel humano. Lo que separa a la AGI de la IA estándar es su progresión más allá de una funcionalidad limitada hacia una mayor generalidad (amplitud) y rendimiento (profundidad), superando incluso las capacidades humanas.
Este es “el camino hacia la AGI”, donde la IA avanza hacia sistemas más autónomos, razonamiento superior, capacidades mejoradas y funcionalidad mejorada. Estas progresiones se dividen en cinco niveles taxonómicos:
- Nivel 0: Sin IA: herramientas simples como calculadoras
- Nivel 1: AGI emergente: LLM actuales como ChatGPT
- Nivel 2: AGI competente: sistemas de inteligencia artificial que unen a adultos capacitados en tareas específicas
- Nivel 3: AGI experto: sistemas de IA en el percentil 90 de adultos capacitados
- Nivel 4: Virtuoso AGI: sistemas de IA en el percentil 99
- Nivel 5: AGI sobrehumana: sistemas de inteligencia artificial que superan a todos los humanos
Durante nuestra discusión, Adam definió el concepto de AGI como “software que puede hacer todo lo que un humano puede hacer”. Él imagina un futuro en el que la IA se mejora y eventualmente se hace cargo de tareas humanas complejas manejadas por investigadores de aprendizaje automático.
Llevando esto un paso más allá, comparé mis puntos de vista sobre AGI con los de un “cerebro artificial” capaz de realizar diversas tareas como “traducción automática, consultas complejas y codificación”. Esa es la distinción entre AGI y la IA más predictiva y las formas limitadas de ML que la precedieron. Se siente como un comportamiento emergente.
Cronogramas de desarrollo realistas en el camino hacia la AGI
Al igual que en un viaje por carretera, la pregunta más importante sobre el AGI es: “¿Ya llegamos a ese punto?” La respuesta corta es no, pero a medida que la investigación en IA se acelera, la pregunta correcta es: “¿Cómo podemos equilibrar la AGI? ambición con expectativas realistas?”
Adam destacó que una mayor automatización de la AGI cambiará los roles humanos en lugar de eliminarlos, lo que conducirá a un crecimiento económico más rápido y una productividad más eficiente. “A medida que esta tecnología se vuelva más poderosa, llegaremos a un punto en el que el 90% de lo que la gente hace hoy en día esté automatizado, pero todos habrán pasado a otras cosas”.
Actualmente, gran parte de la economía mundial está limitada por la cantidad de personas disponibles para trabajar. Una vez que alcancemos el AGI, podremos hacer crecer la economía a un ritmo mucho más rápido de lo que es posible hoy.
No podemos dar un cronograma definitivo sobre cuándo se logrará el verdadero AGI, pero Adam y yo citamos varios casos de avances en la IA que dan paso a futuras progresiones de AGI. Por ejemplo, los experimentos de Turing con herramientas de desarrollo de IA mostraron un aumento del 33% en la productividad de los desarrolladores, lo que sugiere un potencial aún mayor.
Aplicaciones y efectos del mundo real
Una de las aplicaciones más prometedoras de AGI se encuentra en el campo del desarrollo de software. Los modelos de lenguaje grande (LLM), un precursor de AGI, ya se están utilizando para mejorar el desarrollo de software y la calidad del código. Veo esta era de la IA más cercana a la biología que a la física, donde todo tipo de conocimiento mejorará. Habrá mucha más productividad liberada desde y para la humanidad.
Mi perspectiva proviene de la experiencia, donde he sido testigo de un aumento de 10 veces en la productividad personal al utilizar LLM y herramientas de desarrollo de IA. También utilizamos IA en Turing para evaluar el talento técnico y unir a los ingenieros de software y expertos en dominios con nivel de doctorado adecuados para los trabajos adecuados.
Lo que estoy viendo en el espacio de capacitación LLM, por ejemplo, es que los capacitadores aprovechan estos modelos para mejorar la productividad de los desarrolladores y acelerar los cronogramas de los proyectos. Al automatizar las tareas de codificación rutinarias y proporcionar sugerencias de código inteligentes, los LLM liberan a los desarrolladores para que puedan centrarse en aspectos más estratégicos y creativos de su trabajo.
Adam concluyó: “”Los LLM no escribirán todo el código, pero comprender los fundamentos del software sigue siendo crucial. Las calculadoras no eliminaron la necesidad de aprender aritmética”. Añadió: “Los desarrolladores se vuelven más valiosos cuando utilizan estos modelos. La presencia de LLM es positiva para los trabajos de desarrollador y habrá muchas ganancias para los desarrolladores “.
Estamos entrando en una era dorada del desarrollo de software en la que un ingeniero de software puede ser 10 veces más productivo, crear más y beneficiar al mundo.
Desafíos técnicos y de gobernanza
A pesar del potencial prometedor de la AGI, es necesario abordar los desafíos. Se necesitan procesos de evaluación y marcos regulatorios sólidos para equilibrar la innovación AGI con la seguridad pública.
Adam enfatizó la necesidad de realizar pruebas exhaustivas y pruebas para limitar los peores escenarios. “Hay que tener algún tipo de proceso de evaluación sólido… y lograr que la distribución que se está probando sea lo más cercana posible al uso en el mundo real”.
Y estoy de acuerdo. El cuello de botella para el progreso de la AGI es ahora la inteligencia humana, más que la potencia informática o los datos. La experiencia humana es crucial para afinar y personalizar los modelos de IA, razón por la cual Turing se centra en buscar y combinar profesionales tecnológicos de primer nivel para equilibrar los modelos con la inteligencia humana.
Debemos abordar los desafíos de AGI de frente centrándonos en las capacidades por encima de los procesos, la generalidad, el rendimiento y el potencial.
Perspectivas sobre los desafíos: mejorar las interacciones entre humanos y AGI
Algunas de las mejores prácticas para abordar los desafíos de AGI incluyen:
- Céntrese en las capacidades o “lo que AGI puede hacer” en lugar de en los procesos o “cómo lo hace”.
- Equilibrar la generalidad y el rendimiento como componentes esenciales de AGI.
- Centrarse en tareas cognitivas/metacognitivas y habilidades de aprendizaje sobre tareas/resultados físicos.
- Mida el AGI por su potencial y capacidades.
- Centrarse en la validez ecológica alineando los puntos de referencia con las tareas del mundo real que las personas valoran.
- Recuerde que el camino hacia AGI no es un punto final único, es un proceso iterativo.
Además de estas mejores prácticas, Adam y yo enfatizamos la importancia de mejorar las interacciones entre humanos y AGI. Adam enfatizó el valor de aprender cómo y cuándo usar estos modelos, viéndolos como poderosas herramientas de aprendizaje que pueden enseñar rápidamente cualquier subdominio de programación y al mismo tiempo enfatizando la importancia de comprender los fundamentos.
De manera similar, sugiero que convertir a cada ser humano en un usuario avanzado de los LLM podría mejorar significativamente la productividad y la comprensión en diversos campos. Los LLM pueden hacer que la información compleja sea accesible para todos, mejorando la productividad en varios campos. Pero requiere un enfoque iterativo por fases: comenzar con copilotos de IA que ayuden a los humanos, luego pasar a agentes con supervisión humana y, finalmente, lograr agentes totalmente autónomos en tareas bien evaluadas.
En este sentido, la diferenciación posterior al entrenamiento es fundamental, ya que implica un ajuste fino supervisado (SFT) y el aprovechamiento de la inteligencia humana para construir modelos personalizados. Las empresas que puedan buscar y combinar capacitadores, ingenieros y otros acelerarán sus capacidades de ingeniería personalizada y de ajuste. La colaboración con empresas líderes como OpenAI y Anthropic también es clave para aplicar estos modelos en diversas industrias.
Principios del desarrollo responsable de AGI
“El desarrollo de AGI debe ser responsable y ético, garantizando la seguridad y la transparencia y al mismo tiempo fomentando la innovación”. – Adam D’Angelo
El desarrollo responsable de AGI requiere adherirse a varios principios básicos:
- Seguridad y protección: Garantizar que los sistemas AGI sean confiables y resistentes al uso indebido, especialmente a medida que los modelos escalan para adaptarse a nuevas entradas de datos o algoritmos.
- Transparencia: ser realista sobre las capacidades, limitaciones y “cómo funciona” de AGI.
- Consideraciones éticas: abordar la justicia, los prejuicios y cómo el AGI afectará el empleo y otros factores socioeconómicos.
- Regulación: Trabajar con gobiernos y otras organizaciones para desarrollar marcos que equilibren el progreso con la seguridad pública.
- Evaluación comparativa: Las evaluaciones comparativas futuras deben cuantificar el comportamiento y las capacidades de AGI frente a consideraciones éticas y niveles de taxonomía.
Conclusión: céntrese en el camino hacia la AGI, no en un único punto final
El camino hacia AGI es complejo, pero cada parada en el camino es importante para el viaje. Al comprender las mejoras iterativas de AGI, junto con sus implicaciones, las personas y las empresas podrán adoptar de manera responsable esta tecnología en evolución. Este es el quid del desarrollo responsable de la AGI, donde la interactividad del mundo real informa cómo navegamos por esta nueva frontera.