Davut Başyiğit
La inteligencia artificial nos obliga, antes que nada, a interrogarnos no sobre las máquinas, sino sobre nosotros mismos. Porque lo que hoy está en discusión no es únicamente qué pueden hacer los algoritmos, sino qué es aquello que hace humano al ser humano.
La objeción tecnohumanista adquiere precisamente aquí toda su importancia. Ofrece una sólida base moral que sitúa la dignidad y la libertad humanas por encima del progreso tecnológico. Sin embargo, no logra responder con el mismo nivel de detalle a cuestiones más duras como la seguridad, la disuasión y la capacidad del Estado. La tarea que tiene ante sí Türkiye consiste en mantener esta objeción centrada en el ser humano sin desvincularla de la necesidad de poder estratégico.
Una civilización define primero al ser humano
Ninguna civilización comienza por la tecnología. Primero establece una concepción acerca de quién es el ser humano, qué puede conocer y cómo debe vivir; después construye sobre esa concepción su derecho, su Estado, su economía y su orden técnico.
La concepción del ser humano propia del mundo moderno es también el resultado de un largo recorrido histórico. Mientras el Renacimiento situó al ser humano en el centro del universo, la Ilustración convirtió la razón en uno de los principales criterios de la verdad. Bacon vinculó el conocimiento con el poder; Descartes situó al sujeto pensante en el punto de partida del conocimiento. La Revolución Industrial transformó la producción, el Estado moderno convirtió la burocracia en un mecanismo de organización y la era digital transformó la información en un recurso estratégico.
En el centro de este proceso existía una determinada concepción del ser humano: un ser que piensa, calcula, planifica y domina la naturaleza.
La inteligencia artificial no constituye una ruptura ajena a esta historia. Por el contrario, es uno de los productos más avanzados surgidos del propio interior de la razón moderna. Pero aquí comienza también la ironía de la historia. Una civilización puede verse puesta a prueba por las herramientas que ella misma ha creado. El pensamiento moderno, que definió al ser humano fundamentalmente como un ser capaz de calcular y procesar información, ha producido ahora sistemas capaces de calcular más rápido que él.
En este punto surge una pregunta inevitable: si aquello que distingue al ser humano es únicamente su capacidad de cálculo y de procesamiento de información, ¿sobre qué fundamento defenderemos la superioridad del ser humano frente a la inteligencia artificial?
No es una cuestión meramente técnica
El informe de la Academia Nacional de Inteligencia de Türkiye define esta ruptura como un debate de carácter “ontológico”. Esto significa que la inteligencia artificial ya no puede abordarse únicamente desde las perspectivas de la economía, la eficiencia o la seguridad; también se ha situado en el centro de las preguntas relativas al valor del ser humano, su voluntad y su posición en el mundo.[1]
El punto que señala el informe es que el problema no consiste únicamente en el uso indebido de la tecnología. En un nivel más profundo, está en juego la cuestión de cómo se redefinirán la facultad humana de tomar decisiones, su capacidad de juicio y su lugar en la jerarquía de la existencia. El hecho de que algunas empresas de inteligencia artificial formulen afirmaciones no solo sobre las decisiones estratégicas de los Estados, sino también sobre la posición del ser humano en el mundo, lleva el debate más allá de los límites técnicos.[2]
Por ello, la cuestión no se reduce a preguntarnos: «¿Qué tareas puede realizar la inteligencia artificial?». La pregunta fundamental es otra: ¿qué decisiones deben permanecer en manos del ser humano y cuáles son las facultades que el ser humano nunca debería delegar?
No se trata de preocupaciones abstractas
Una de las expresiones más visibles del enfoque tecnohumanista destacadas en el informe es la encíclica Magnifica Humanitas del papa León XIV. El texto llama la atención sobre amenazas como la desvalorización del juicio humano, la reducción del trabajo a un mero insumo destinado a incrementar la eficiencia, la normalización de la guerra mediante la automatización, la expansión de la vigilancia, la erosión de la verdad y la concentración del poder tecnológico en unos pocos centros.[3]
La tesis fundamental de la encíclica es clara: la tecnología no es neutral. Lleva consigo los valores de quienes la diseñan, financian y utilizan. Por tanto, la elección que tenemos ante nosotros no consiste en decir sí o no a la tecnología en su conjunto. La verdadera elección se sitúa entre un orden que convierte el poder en un fin en sí mismo y una concepción de la sociedad que pone la tecnología al servicio de la convivencia humana y del bien común.[4]
Ninguna de las amenazas enumeradas es abstracta.
La vigilancia puede convertir al ser humano, mediante la clasificación biométrica y el seguimiento de sus comportamientos, en un objeto sometido permanentemente a medición, puntuación y predicción. Cuando un individuo deja de ser considerado únicamente como ciudadano o como persona y comienza a ser tratado como un conjunto de datos susceptible de procesamiento, la dignidad humana se erosiona de manera casi imperceptible.
En el campo de batalla, el peligro es aún mayor. A medida que los sistemas armamentísticos dotados de inteligencia artificial alejan el juicio humano de la cadena de decisión, se vuelve más difícil determinar quién es responsable. ¿Es el ser humano que toma la decisión, la empresa que desarrolla el sistema, la institución que ejecuta la orden o el algoritmo que determina el objetivo? A medida que la tecnología entra en el proceso de decisión, la responsabilidad no desaparece; simplemente puede dispersarse y volverse invisible.
Una transformación similar afecta a la economía y a la vida cotidiana. En un sistema en el que la atención, el comportamiento y las preferencias son constantemente observados y dirigidos, el ser humano deja de ser únicamente un consumidor y se convierte en un objeto conductual sometido a gestión.
La erosión de la verdad, por su parte, avanza de manera más silenciosa. Cuando los contenidos generados, multiplicados y personalizados por la inteligencia artificial debilitan los referentes comunes del espacio público, la sociedad puede llegar a no estar segura, antes incluso de pensar de manera diferente sobre los mismos acontecimientos, de si sigue viviendo en una misma realidad.[5]
La fuerza del tecnohumanismo emerge precisamente aquí. No limita su objeción a la afirmación abstracta de que «el ser humano tiene valor»; ofrece un mapa concreto de riesgos que muestra mediante qué mecanismos el ser humano puede ser instrumentalizado.
No es una voz aislada
Esta objeción no es exclusiva del Vaticano. El informe analiza, dentro de un mismo marco amplio y centrado en el ser humano, la recomendación de la UNESCO sobre la ética de la inteligencia artificial, los principios de Microsoft en materia de inteligencia artificial responsable y el énfasis de Brad Smith en los derechos humanos, así como la crítica de Shoshana Zuboff al capitalismo de la vigilancia y los estudios de Ruha Benjamin centrados en las desigualdades.[6]
El lenguaje, las prioridades y las fuentes conceptuales de estos actores son diferentes entre sí. Sin embargo, el punto fundamental en el que convergen es claro: la inteligencia artificial no puede evaluarse únicamente en función de su rapidez, eficiencia o éxito. También debe ser un criterio fundamental la manera en que transforma al ser humano, la libertad, la igualdad y la vida pública.
Aquí emerge la principal diferencia que distingue el enfoque tecno-humanista de los demás. Para los tecnorrealistas, el riesgo fundamental reside en el debilitamiento del Estado y en quedar rezagados en la competencia estratégica. Los tecnopragmatistas se centran en limitar los daños que pueden provocar unos sistemas que evolucionan sin control. Los tecnohumanistas, en cambio, señalan un peligro más profundo: que el ser humano deje de ser un fin en sí mismo para convertirse en un instrumento que es medido, clasificado y gestionado.
La pérdida que está en juego no consiste únicamente en que el Estado o las empresas adquieran un mayor poder sobre el ser humano. El problema más profundo es que el propio ser humano pierda el control sobre su definición.[7]
Una base sólida, una respuesta incompleta
No hay que subestimar la fortaleza de este enfoque. Sitúa los derechos y las libertades en el centro del debate; establece un límite claro frente a la instrumentalización del ser humano; y saca a la tecnología del ámbito cerrado de especialización en el que únicamente ingenieros y directivos de empresas pueden tomar decisiones sobre ella. Además, convierte el poder de las empresas tecnológicas privadas en objeto de control y supervisión con la misma seriedad que el poder estatal.[8]
Sin embargo, una sólida objeción moral no basta por sí sola para constituir un programa político.
El límite más evidente del tecnohumanismo se manifiesta en las cuestiones de seguridad dura. Explica con contundencia qué aplicaciones deberían ser limitadas; sin embargo, no siempre ofrece respuestas institucionales con el mismo grado de claridad sobre cómo establecer la disuasión, cómo reducir la dependencia externa y cómo mantenerse en pie frente a la competencia estratégica.
Está claro qué debe rechazarse para proteger la dignidad humana. Pero a menudo resulta menos claro a través de qué instituciones, inversiones y capacidades técnicas habrá de sostenerse esa protección.
El segundo límite está relacionado con la manera en que se define el concepto de «ser humano». Construir la dignidad humana sobre una esencia uniforme e inmutable puede terminar restringiendo la pluralidad que pretende proteger. Un enfoque que busca proteger a las personas de las clasificaciones tecnológicas corre el riesgo de excluir distintas experiencias históricas, culturales y sociales cuando convierte su propia concepción normativa del ser humano en una medida universal.[9]
Por tanto, la fortaleza del tecnohumanismo reside en el límite que establece en nombre del ser humano; su debilidad, en cambio, consiste en que no siempre concreta suficientemente la capacidad necesaria para proteger ese límite.
Las dos tareas de Türkiye
Para Turquía, la cuestión se convierte en este punto en dos tareas distintas, aunque inseparables entre sí.
La primera consiste en desarrollar la capacidad necesaria para reducir la dependencia tecnológica. Un país que no produzca sistemas de inteligencia artificial, que no fortalezca su infraestructura de datos y que no forme recursos humanos cualificados no puede convertirse en un actor eficaz en el nuevo orden. Establecer únicamente principios no será suficiente mientras se mantenga la dependencia de sistemas desarrollados por otros.
La segunda tarea es aún más difícil: producir el pensamiento capaz de orientar la tecnología.
Porque la tecnología puede comprarse, los algoritmos pueden desarrollarse y los centros de datos pueden construirse. Pero la concepción del ser humano de una sociedad, su idea de justicia y sus criterios políticos no pueden importarse ya elaborados desde el exterior. Estos elementos nacen de la historia de esa sociedad, de su acumulación moral y de su experiencia de vida.
Lo que Türkiye necesita no es elegir entre estos dos ámbitos. Una postura moral carente de capacidad resulta ineficaz; una capacidad desprovista de límites morales puede convertirse fácilmente en un instrumento de represión y dominación. El poder y los principios, la capacidad técnica y la dignidad humana, la necesidad estratégica y la legitimidad deben pensarse dentro de un mismo marco.
En el próximo artículo abordaremos precisamente la dimensión institucional de esta convergencia: analizaremos cómo podemos integrar la capacidad estratégica, el diseño seguro y la legitimidad social dentro de una misma razón de Estado, y debatiremos si Türkiye puede construir, en la era de la inteligencia artificial, un modelo que no solo sea poderoso, sino también responsable ante la sociedad y centrado en el ser humano.
Notas al pie
[1] Academia Nacional de Inteligencia de Türkiye, Debates sobre el orden tecnopolítico en la política mundial y Türkiye, Ankara, julio de 2026, pp. 5, 13-14, 18. El informe señala que los debates sobre la inteligencia artificial han trascendido los límites técnicos y económicos para adquirir una dimensión política, cultural y ontológica.
[2] Ibíd., pp. 13-14. Para la evaluación relativa al hecho de que algunas empresas de inteligencia artificial han llegado a cuestionar tanto la posición del ser humano en el mundo como las decisiones de los Estados en el ámbito de la política internacional.
[3] Ibíd., pp. 30-31. Para el marco de amenazas de la encíclica Magnifica Humanitas, atribuida al papa León XIV, tal como se recoge en el informe.
[4] Ibíd., p. 30. La valoración según la cual la tecnología no es independiente de los valores de los actores que la diseñan, financian y utilizan se basa en la presentación de la encíclica realizada en el informe.
[5] Ibíd., pp. 30-31. Para los riesgos relacionados con la vigilancia, la normalización de la guerra mediante la automatización, la transformación del comportamiento en un objeto de gestión económica y la erosión de un terreno común de verdad en el espacio público.
[6] Ibíd., p. 31. Para la consideración de la recomendación de la UNESCO sobre la ética de la inteligencia artificial, el enfoque de Microsoft sobre una inteligencia artificial responsable, Brad Smith, Shoshana Zuboff y Ruha Benjamin dentro de un mismo enfoque amplio y centrado en el ser humano.
[7] Ibíd., p. 31. Para la valoración de que la definición fundamental del riesgo desde el enfoque tecnohumanista reside en la instrumentalización del ser humano.
[8] Ibíd., p. 31. Sobre el hecho de que este enfoque sitúa los derechos y las libertades en el centro, traslada el debate tecnológico más allá del ámbito de la especialización de la ingeniería y cuestiona el poder de las empresas tecnológicas privadas.
[9] Ibíd., p. 31. Para la limitada capacidad de respuesta del tecnohumanismo ante las cuestiones de seguridad dura y de capacidad, así como para el riesgo de construir la dignidad humana sobre una concepción uniforme de la esencia humana.