Bajo el provocador título «¿Puede matarme un algoritmo?», el Palacio de Congresos de Granada ha acogido una de las mesas redondas más intensas y directas del 4º Congreso de Inteligencia Artificial de Andalucía. Sergio Damas, catedrático del Departamento de Lenguajes y Sistemas Informáticos de la Universidad de Granada (UGR), junto al periodista Javier Morales, se subieron al auditorio para desmontar la delgada línea que separa la computación real de la histeria apocalíptica alimentada por titulares mediáticos.
Con capturas proyectadas a sus espaldas mostrando las advertencias catastróficas de figuras como Geoffrey Hinton o los avisos de Anthropic sobre el riesgo de que la IA «extermine a la humanidad», el debate aterrizó de golpe el concepto técnico que quita el sueño a la industria: la superinteligencia automejorada.
El bucle recursivo: Reescribir el propio código sin freno humano
El punto de partida del debate abordó el salto evolutivo que separa a los modelos de lenguaje convencionales de la temida Inteligencia Artificial General (AGI) o superinteligencia:
- Autoinspección y reescritura de código: Sergio Damas explicó que el verdadero reto técnico surge cuando un sistema algorítmico adquiere la capacidad de inspeccionar su propia arquitectura interna, detectar ineficiencias y reescribir su propio código de forma autónoma, cíclica y constante.
- Impacto interdisciplinar: Lejos de limitarse a tareas informáticas aisladas, una superinteligencia recursiva afectará a múltiples áreas del conocimiento de manera simultánea, con el potencial de resolver en cuestión de días enigmas científicos y médicos que a la humanidad le han costado siglos descifrar.
- El dilema del control: Al acelerarse este ciclo de mejora autónoma sin supervisión paso a paso, la capacidad humana para auditar qué hace exactamente el algoritmo se reduce drásticamente.
El símil de Chernobyl: La catástrofe de operar sin supervisión independiente
A la pregunta directa de Morales sobre si los titulares catastróficos de la prensa están fundamentados o pecan de puro sensacionalismo, Damas aportó calma académica, pero lanzó una advertencia rotunda al comparar el despliegue descontrolado de la IA con la energía nuclear:
- «No es tarde para ponerle puertas al campo»: Frente a la corriente derrotista que asume que la tecnología ya va demasiado rápido para ser contenida, Damas defendió que la sociedad aún está a tiempo de fijar los límites. Estamos en un momento de inflexión donde las propias empresas empiezan a asumir la necesidad de un cambio de rumbo estructural.
- La lección nuclear de Chernobyl: El catedrático trazó un paralelismo directo con la catástrofe de la central nuclear de Chernobyl: cuando un sector de altísimo riesgo opera sin supervisión externa, sin protocolos de contención independientes y sin una regulación férrea, el desenlace inevitable es la catástrofe. La IA requiere los mismos cortafuegos que la industria nuclear o la aviación civil.
- La autorregulación del sector: Damas constató que la propia industria tecnológica ha empezado a mirarse a sí misma para buscar fórmulas de autorregulación ética antes de que las normativas públicas les impongan parones en seco.
Amenazas tangibles: Deepfakes y suplantación frente a robots rebeldes
Más allá de hipótesis distópicas sobre robots humanoides atacando a sus creadores —como el caso proyectado del robot de Unitree en Zhejiang—, la mesa incidió en los daños que ya están ocurriendo hoy:
- La suplantación maliciosa: El vector de ataque más peligroso y extendido a corto plazo reside en la suplantación de la personalidad mediante deepfakes y la generación de contenido sintético con fines delictivos, chantajes o manipulación masiva.
- Obligación regulatoria: Damas zanjó que acudir a un marco regulatorio no es una opción burocrática opcional, sino una obligación moral y democrática de la sociedad para evitar que un puñado de corporaciones privadas decidan unilateralmente qué riesgos colectivos debemos tolerar.
El veredicto final: ¿Puede matarnos un algoritmo?
A la pregunta que daba nombre a la ponencia, la conclusión de Sergio Damas combinó sosiego inmediato y cautela a largo plazo: «Hoy por hoy no, pero esperemos que nunca».
No existe hoy una entidad sintética con la autonomía física ni la voluntad operativa para atentar directamente contra la vida humana. Sin embargo, ese «esperemos que nunca» encierra la verdadera advertencia del catedrático: el riesgo no está en un robot homicida de ciencia ficción, sino en las consecuencias indirectas de ceder el control de infraestructuras críticas, diagnósticos médicos y sistemas de armamento a algoritmos opacos antes de haber consolidado un marco ético y regulatorio infranqueable.
Menos mesianismo corporativo y más cajas negras auditadas
La sentencia de Sergio Damas en Granada desmonta la histeria inmediata sin caer en la ingenuidad: que hoy un algoritmo no pueda matarnos no garantiza que mañana no pueda arruinarnos la existencia. El peligro existencial no llegará con un rayo láser al estilo Terminator, sino con la negligencia humana al delegar responsabilidades vitales en cajas negras sin supervisión, emulando la cadena de errores humanos e institucionales de Chernobyl.
Resulta revelador que mientras los popes de OpenAI y Anthropic se pasean por platós vendiendo relatos casi teológicos sobre máquinas todopoderosas —una maniobra magistral de relaciones públicas para justificar valoraciones multimillonarias y barreras de entrada contra el código abierto—, la comunidad investigadora independiente ponga el foco en la cruda realidad. La tecnología debe avanzar, pero el botón de parada de emergencia debe estar siempre en manos de personas. Exigir regulación no es frenar la innovación; es poner cinturones de seguridad a un coche que ya rueda a 300 km/h. Si delegamos las decisiones de vida o muerte en sistemas propietarios opacos, la culpa nunca será del algoritmo, sino de quienes renunciaron a programar los límites.
¿Crees que las empresas tecnológicas serán capaces de autorregularse de verdad o necesitamos leyes tan duras como las de la energía nuclear? Déjanos tu opinión en los comentarios y únete a la discusión en Instagram, Facebook y YouTube.
