AI Index 2025: 12 verdades incómodas sobre el futuro que ya nos alcanzó

Beatriz Alba

Bienvenidos a este nuevo episodio de Sabiduría Artificial. Acaba de publicarse el "AI Index 2025", elaborado por la universidad de Stanford. Con Tomas vamos a comentar las principales conclusiones del informe. A modo de ejemplo, los dispositivos médicos con inteligencia artificial y los famosos robotaxis ya están operando. No sé tú, pero ¿no es un poco inquietante que confiemos nuestra seguridad a algo que, hace unos años, sólo existía en películas?

Tomás A. Andrade

Sí, y lo mejor—o lo peor, depende cómo lo mires—es que muchas personas ni siquiera son conscientes de que ya usan inteligencia artificial diariamente. ¿Has pensado en ese algoritmo que decide si consigues o no un crédito?

Beatriz Alba

Claro, y ahí está el quid de la cuestión. Introducimos estas tecnologías a un ritmo impresionante, pero no parece que las entendamos del todo. Sin contar los riesgos potenciales. ¿Cómo podemos avanzar tan rápido y al mismo tiempo estar tan ciegos?

Tomás A. Andrade

Porque el dinero manda, Beatriz. En 2024, solo en Estados Unidos, se invirtieron 109 mil millones de dólares en IA. Las empresas prácticamente están compitiendo por ver quién implementa primero, aunque no sepan exactamente cómo funciona lo que están usando. Es el viejo “fake it till you automate it.”

Beatriz Alba

Y eso tiene implicaciones serias. La IA está resolviendo las brechas de habilidades laborales. Un junior que antes necesitaba años de experiencia ahora puede trabajar como un senior, siempre que tenga las herramientas adecuadas.

Tomás A. Andrade

Sí, pero cuidado. ¿No te parece que eso podría transformar algunos trabajos en consultorías rápidas, sin posibilidad real de especialización? Uberización 2.0, por así decirlo.

Beatriz Alba

Eso es exactamente lo que me preocupa. Estamos viendo edificios construidos sobre cimientos que tal vez no sean tan firmes. ¿Te imaginas lo que podría pasar con tecnologías de alto riesgo, como las médicas, si estos sistemas fallan?

Tomás A. Andrade

Bueno, ya vimos lo que pasa cuando los robotaxis se detienen en medio de una intersección. Ahora imagínate eso en un quirófano. Pero, siendo justos, la mayoría de estos sistemas son herramientas, no soluciones mágicas. Depende de nosotros entender bien cómo y por qué las usamos.

Beatriz Alba

Cierto, aunque cada vez parece que nos están arrastrando más rápido de lo que llegamos a procesar.

Tomás A. Andrade

Y a esa velocidad que mencionabas, no sólo nos arrastran rápido, sino que algunos países también están reescribiendo las reglas del juego. Mira Estados Unidos: dominan en modelos avanzados, pero China ya los alcanzó en número de patentes. Es como si uno corriera con potencia y el otro con resistencia en esta maratón tecnológica.

Beatriz Alba

Exacto, y lo interesante es que no hablamos sólo de tecnología. Esto es cultural, político, económico. Quien lidere la IA, lidera la narrativa del futuro. Pero Europa parece haberse quedado en las gradas... elegante, pero atrasada.

Tomás A. Andrade

Su zona de confort, ¿no? Producen papers, sí, pero en productos reales van a paso de tortuga. Es como si todo quedara atrapado en debates interminables. Mientras tanto, en China y Estados Unidos no sólo hacen. Venden, dominan.

Beatriz Alba

Y eso impacta también en cómo percibimos la IA. Mientras en Asia se ve como una herramienta de cambio, en Europa y Estados Unidos crece el escepticismo.

Tomás A. Andrade

Aunque hay matices. La diferencia está en lo que pierdes o ganas con el cambio, ¿no? Los países donde la IA se percibe como un renacimiento tecnológico son los que ven la oportunidad de ajustarlo todo. No como aquí, donde el miedo al cambio lo complica todo.

Beatriz Alba

Es curioso. La IA no es sólo tecnología; refleja nuestras prioridades culturales. Pero, volviendo a los líderes, ¿te has fijado cómo los modelos open source se están posicionando? Ya no necesitas un gigantesco presupuesto para competir.

Tomás A. Andrade

Eso cambia todo. Que el costo de modelos como GPT-3.5 por millón de tokens haya caído a centavos permite que cualquiera con creatividad entre al mercado. Sencillo: más barato, más pequeño, más potente. David vs. Goliat tecnológico.

Beatriz Alba

Aunque también trae nuevos desafíos. Es fácil hablar del acceso general, pero ¿estamos equipados para manejar las implicaciones éticas y regulatorias? Imagina los riesgos si una tecnología de bajo costo cae en manos equivocadas.

Tomás A. Andrade

Eso ya pasó, Beatriz. Sólo que no nos lo han contado todavía. Pero mientras tanto, seguiremos viendo cómo esta carrera por la supremacía tecnológica... bueno, contagia al resto del mundo con sus contradicciones.

Beatriz Alba

Eso es justamente lo intrigante, Tomás. Hablamos de estos avances aparentemente imparables en inteligencia artificial, pero cuando miras de cerca, aún hay fallos básicos, como razonar de manera coherente o realizar una simple suma sin problemas.

Tomás A. Andrade

Es como ese amigo que mencionaste antes, el que no puede armar una mesa de IKEA. Impresionan en concursos, pero dependen de que les demos instrucciones bien definidas. ¿Eso es inteligencia... o simplemente seguir un guión?

Beatriz Alba

Exacto. Y ahí está el problema cuando hablamos de confiar en ellos para escenarios críticos. ¿Realmente podemos depender de algo tan limitado para decisiones de alto riesgo, como las médicas o incluso legales?

Tomás A. Andrade

Difícilmente, y menos con lo poco que se implementa la llamada IA responsable. Todos pregonan sobre ética en conferencias, pero en la práctica queda como algo opcional. Es como si superficialmente quisieran verse responsables, pero siguen entrenando modelos con datos cuestionables.

Beatriz Alba

Sin duda, la ética parece enfrentarse siempre a la velocidad del comercio. ¿Cómo programar valores responsables en un sistema diseñado dentro de un entorno empresarial que premia ir más rápido que la competencia? Me cuesta ver una solución a esa contradicción.

Tomás A. Andrade

¿Una solución? No sé si deberíamos buscar una, al menos no hasta que resolvamos una pregunta más básica: ¿qué tan humanos queremos que sean estos sistemas? Porque de momento, más que mejores que nosotros, parecen nuestros reflejos.

Beatriz Alba

Y no siempre un reflejo positivo. En su estado actual, la IA no corrige nuestros errores; más bien, los amplifica. Desde sesgos en datos hasta fallos éticos en programación, ¿cuánto de esto ya es una extensión de nuestras fallas y no una mejora real?

Tomás A. Andrade

Todo. Todo tiene las huellas de nuestra humanidad. Y lo que más me preocupa es que mientras las fallas humanas son personales, las de la IA pueden escalar globalmente. Es como lanzar una piedra a un lago, pero este lago es el mundo entero.

Beatriz Alba

Ahí está el desafío mayor. Crear sistemas que no solo reproduzcan el presente, sino que aspiren a algo mejor, algo más responsable. Pero claro, con el ritmo en el que nos empuja la tecnología, a veces me pregunto si tendremos tiempo de detenernos y reflexionar.

Tomás A. Andrade

Es un buen punto. Estamos siendo forzados a redefinir tanto nuestro presente que olvidamos planificar un futuro ético. Pero bueno, tal vez esta conversación ya es un paso hacia ese objetivo.

Beatriz Alba

Quizá. Y con eso, creo que podemos decir que, al menos, tratamos de no ser arrastrados sin cuestionar. A todos los que nos escucharon hoy, gracias por acompañarnos a pensar críticamente sobre la inteligencia artificial. Hasta la próxima.

Tomás A. Andrade

Sí, gracias. Y recuerden, mientras la IA avanza, no olvidemos avanzar con propósito. Nos vemos en el siguiente episodio.