El corazón del sistema ChatGPT, uno de los desarrollos tecnológicos más polémicos de los últimos meses, se produce en una sola empresa de Taiwán.
Los semiconductores, también llamado circuitos integrados o coloquialmente ‘chips’, son uno de los inventos más complejos de la tecnología moderna. Y los más especializados se fabrican en una compañía de Taiwán, llamada TSMC.
El nombre completo de la compañía es ‘The Taiwan Semiconductor Manufacturing Company’ (TSMC) y es responsable de los chips que mueven la CPU de procesamiento de las computadoras más potentes, los equipos de Amazon, Microsoft, Google o sus competidores.
Es más, los desarrollos de inteligencia artificial (IA) no serían posibles sin estos microprocesadores altamente sofisticados. Son una especie de redes neuronales, que escriben algoritmos y ponen a funcionar los sistemas de IA, incluyendo el más reciente: ChatGPT.
El problema es que la fábrica principal de TSMC se encuentra en uno de los lugares más frágiles de la geopolítica mundial. Está en Taiwán, una isla de 23,7 millones de habitantes, donde los analistas creen que una inminente guerra se desatará en una década o menos.
Inversionistas de riesgo como Rob Toews de la firma Radical Ventures aseguran que el futuro de la inteligencia artificial cuelga de un hilo.
Dependerá básicamente de lo que pase en Taiwán, considerada por el gobierno de China como una provincia renegada, y que en algún momento debe retornar bajo el control de Beijing.
Tan lejos y cerca de China
La revista Time Magazine describió a la empresa TSMC como la “compañía más importante del mundo y de la que quizás nadie ha escuchado o leído”.
Los chips de este gigante asiático están en todas partes y casi ningún usuario lo sabe. Están en el iPhone donde revisa sus redes sociales, o en el televisor donde hace streaming, en las consolas de videojuegos o en artilugios tecnológicos de la cocina y la casa.
Las decenas de fábricas de TSMC, donde los chips se arman físicamente, se ubican en la costa oeste de Taiwán, a tan solo 180 kilómetros de distancia de China.
Entre ambos países cohabita una disputa histórica, pese a que comparten tradiciones, ancestros y hasta el mismo idioma, el chino mandarín.
Si bien los combates armados de las dos naciones terminaron en 1950, el conflicto sigue latente, y Beijing reclama a Taiwán como parte de su territorio o de la gran China unificada.
En 2023, las tensiones han escalado, llevando al gobierno chino a realizar ejercicios militares en el estrecho de Taiwán.
De allí que muchos asesores políticos en Washington predicen que China podría invadir Taiwán entre 2025 a 2027.
Una guerra entre ambos países sería catastrófica por múltiples razones, incluyendo las económicas y las humanitarias.
Pero también está el componente tecnológico, porque el conflicto podría paralizar el ecosistema global de la inteligencia artificial.
Además, el Consejo de Seguridad Nacional de Estados Unidos estimó que una guerra entre China y Taiwán le costaría al mundo más de USD 1.000 millones anuales, debido a la interrupción de la fabricación de los chips.
Tal es la preocupación por el futuro de los semiconductores, que el presidente estadounidense Joe Biden aseguró que su fabricación es un tema de “seguridad nacional”.
En septiembre de 2022, el propio Biden inauguró la construcción de una fábrica de semiconductores en Ohio y elogió una ley adoptada, que liberó USD 52.000 millones en subsidios para reactivar la producción en territorio estadounidense.
¿Por qué TSMC es tan especial?
La industria de la fabricación de los chips o semiconductores es muy compleja y concentrada.
Como el autor del libro ‘Chip War’, Chris Miller, lo describe, se trata de una de las pocas facetas de la economía moderna que “es dependiente de muy pocas empresas”.
Todo empezó cuando los fabricantes comenzaron en los años 80 a diseñar los chips o la tecnología detrás de ellos, pero no a producirlos.
Fue así que gigantes como Nvidia o Qualcomm se convirtieron en ‘fabless’, es decir, delegaron el trabajo de la producción en masa a terceros. Fue un intento de ahorrar recursos y optimizar la fabricación.
Pero de todas las empresas manufactureras de chips, hay tres que se distinguen: Samsung e Intel, que producen semiconductores para sus propios productos y de terceros, y la taiwanesa TSMC.
Entre las tres, TSMC sigue siendo la más competitiva y ha invertido innumerables recursos en investigación y desarrollo para ser la reina de la llamada ‘ley de Moore’.
Esta ley se refiere a la carrera tecnológica por fabricar los transistores y procesadores cada vez más pequeños y potentes.
Y también ha hecho importantes inversiones en ampliar sus instalaciones. En 2021 desembolsó USD 100.000 para expandir su cadena de fabricación.
Recientemente, TSMC gastó USD 20.000 para adecuar la llamada Fab 18, un edificio donde fabrica los chips más avanzados, incluyendo para proyectos de IA.
Otro factor de éxito de la empresa taiwanesa es la red con una docena de firmas tecnológicas, ligadas al desarrollo de software, logística y equipos para producir los chips.
Actualmente, TSMC es una de las 15 compañías más grandes del mundo, por encima del banco JP Morgan o del conglomerado de retail Walmart.
El futuro de la Inteligencia Artificial depende de los ‘chips’ de Taiwán
La esposa del hombre sostiene que el contacto con el programa lo llevó a quitarse la vida, y para el gobierno belga, el caso es “un precedente que debe tomarse en serio” y “el peligro del uso [de la inteligencia artificial] es una realidad que debe ser considerada”.
Era un escenario posible descrito cuatro meses antes por Marcus en un artículo para la revista Wired: “¿Quizás un chatbot lastimará a alguien tan profundamente que la persona se verá impulsada a terminar con su vida? (…) En 2023, podemos ver nuestro primer asesinato por un chatbot”.
“Creo que estos sistemas pueden ser muy destructivos. Y parte de la razón del potencial de destrucción es que no son confiables. Estos programas pueden inventar algo y decirle [al usuario] que es un hecho. Y también pueden ser usados por personas para ese fin”, dice Marcus.
“Los sistemas de inteligencia artificial que tenemos ahora no están bien controlados. Todavía no es una situación terrible, pero la gente les está dando cada vez más poder. Y no sabemos qué pueden hacer esos sistemas en una situación determinada”.
Siete predicciones sombrías
El año pasado, Marcus compiló “siete predicciones nefastas” sobre sistemas como ChatGPT, incluida que la versión más nueva del programa sería como un “toro en una tienda de porcelana, imprudente y difícil de controlar”.
“Cometerá una cantidad significativa de errores alucinantes, en formas que son difíciles de predecir”.
A fines de marzo, un caso extraño llamó la atención de los medios. Una persona le pidió a ChatGPT que nombrara a académicos involucrados en acoso sexual.
La lista mencionaba a un profesor de derecho estadounidense, Jonathan Turley. El programa dijo que Turley hizo comentarios sexualmente sugerentes a una estudiante durante un viaje a Alaska y trató de tocarla. En la respuesta se citaba como evidencia un informe de 2018 del Washington Post.
Pero nada de eso pasó: ni el viaje, ni el informe ni siquiera la acusación. Es como si el robot hubiera inventado la acusación.
Creando información poco precisa
OpenAI, la empresa detrás de ChatGPT, emitió un comunicado diciendo que el programa “no siempre genera respuestas precisas”.
Para Marcus, “no tenemos ninguna garantía formal de que estos programas funcionen correctamente, incluso cuando hacen cálculos matemáticos”.
“A veces son correctos, a veces no. La falta de control y fiabilidad son problemas que veo”.
“Tu calculadora tradicional tiene garantizada una respuesta aritmética. Pero los grandes modelos de lenguaje no la tienen”.
Se refiere al sistema detrás de ChatGPT, los LLM (modelos de lenguaje grande), que almacenan cantidades ingentes de datos y generan, a través de potentes algoritmos, respuestas de aproximación basadas en lo que ya han dicho los humanos.
En resumen: un loro ultrasofisticado, pero que no tiene idea de lo que está hablando y, a veces, “alucina”, un término de la IA que designa una respuesta fuera de lo común, fuera de línea con las expectativas de los programadores.
“Los LLM no son tan inteligentes, pero son peligrosos”, dice Marcus, quien también incluyó el aumento de los momentos alucinatorios de la IA en su lista de “predicciones oscuras”.
Además de los generadores de texto, los programas que manipulan imágenes también evolucionan rápidamente.
Recientemente, una foto del papa Francisco con una chaqueta plateada, realizada con el programa Midjourney, dejó confundido a internet por unas horas: ¿era real esa imagen?
El episodio tuvo consecuencias inofensivas, pero fue una muestra del potencial para marcar el comienzo de una zona gris permanente entre los hechos y las falsificaciones.
“Si no tomamos medidas, estamos cerca de entrar en un ambiente de posverdad”, dice el profesor de la Universidad de Nueva York.
“Eso hace que todo sea muy difícil para la democracia. Necesitamos sanciones para quienes produzcan desinformación masiva, exigir marcas de agua para identificar de dónde proviene la información y crear nuevas tecnologías para detectar falsedades. Así como hay un programa antivirus, necesitamos un software antidesinformación”.
“El capitalismo no resolverá estos problemas”
Marcus, de 53 años, no se restringe al mundo académico. Le vendió una empresa a Uber y se convirtió en director de un laboratorio del departamento de inteligencia artificial del gigante de las aplicaciones de transporte. Dejó el cargo después de solo cuatro meses, en un momento en que la compañía enfrentaba acusaciones de mantener un entorno “tóxico”.
Cuando se le consultó sobre si creía que el famoso mantra de Silicon Valley “muévete rápido y rompe cosas” y la competencia desenfrenada por los mercados fomentaban circunstancias peligrosas para el desarrollo de la inteligencia artificial, dice que “no es posible esperar que el capitalismo, por sí mismo, vaya a resolver estos problemas”.
Defiende que las empresas están sujetas a regulación y cita el mercado de la aviación como ejemplo de que es algo necesario.
“La industria de las aerolíneas en la década de 1950 era un desastre. Los aviones se estrellaban todo el tiempo. La regulación era buena para la industria de las aerolíneas. Al final hizo que la industria de las aerolíneas desarrollara un mejor producto”, dice.
“Dejar las cosas a las empresas no conduce necesariamente en la dirección correcta… Hay una razón para que existan los gobiernos, ¿verdad?”.
Entendimiento con el “padrino de la IA”
La postura de cautela y de entusiasmo con desconfianza de Marcus por la rápida evolución de la IA no siempre sido bien recibida.
Su escepticismo ha sido objeto de burlas años atrás por parte de sus compañeros (principalmente en Twitter), pero la marea ha cambiado: varias personalidades en el campo de la IA han comenzado a adoptar un tono diferente.
Jeffrey Hinton, llamado el “padrino de la IA”, anunció su salida de Google y dijo poco después que considera que los problemas de la inteligencia artificial son “quizás más urgentes que los del cambio climático”.
“Hinton y yo tenemos puntos de vista diferentes sobre algunos aspectos de la inteligencia artificial. Mantuve correspondencia con él hace un tiempo, le expliqué mi posición y estuvo de acuerdo conmigo, lo cual no siempre es el caso. Pero el tema principal en el que estamos de acuerdo es el del control”, dice.
“No estoy necesariamente de acuerdo con que la [IA] sea una amenaza mayor que el cambio climático, pero es difícil saberlo. Hay muchos datos disponibles para tratar de estimar los riesgos del cambio climático. Pero con la inteligencia artificial ni siquiera sabemos cómo calcular esos riesgos”.
“Pero para mí, la posibilidad de que estas herramientas se utilicen para socavar las democracias es esencialmente del 100%. Ahora, no sabemos si existe la posibilidad de que los robots se apoderen del planeta. Es razonable que algunas personas se planteen en este escenario. Estamos construyendo herramientas muy poderosas. Debemos considerar estas amenazas”.
