La segunda jornada del 4º Congreso de Inteligencia Artificial de Andalucía (#AndalucIA26) en el Palacio de Congresos de Granada ha entrado de lleno en la encrucijada donde el software cobra cuerpo físico y capacidad operativa autónoma. Pilar Manchón conectó el despliegue de Gemini Robotics con la emergencia de la IA Agéntica, planteando una pregunta crítica ante el auditorio: en un ecosistema donde los robots ya cooperan entre sí y toman decisiones en nuestro nombre, ¿podemos confiar en estos agentes y en las corporaciones que los despliegan?
Respaldada por las métricas del reputado Edelman Trust Barometer, Manchón desglosó el choque entre un «mundo lleno de oportunidades» y la creciente fractura de responsabilidad legal entre humanos y sistemas autónomos.
Gemini Robotics: Robots que asisten a humanos… y a otros robots
La robótica ha dejado de ser una promesa de ciencia ficción para integrarse en cadenas logísticas e industriales como una realidad cotidiana. Mediante demostraciones de Gemini Robotics, Manchón ilustró cómo los modelos multimodales actúan como el cerebro de actuadores físicos:
- Robótica colaborativa (Cobots): Brazos y plataformas autónomas que trabajan codo con codo con operarios humanos, aprendiendo tareas motrices complejas mediante visión computacional.
- Interacción máquina a máquina: El salto cuantitativo reside en robots coordinándose con otros robots de forma descentralizada, delegándose subprocesos sin requerir intervención humana constante.
- El presente tangible: «Los robots en el mundo no son un futuro lejano; están aquí y forman parte directa de nuestro presente industrial», recalcó durante la exposición.
Los tres frentes de la IA Agéntica
El vertiginoso avance técnico desemboca de forma inevitable en la era de los agentes con iniciativa propia, un cambio de paradigma que Pilar Manchón articuló en torno a tres vectores estratégicos interconectados.
En primer término se sitúa el impacto social directo, una sacudida que afectará de lleno a la estructura del empleo, la equidad socioeconómica y la vida cotidiana de los ciudadanos. Esta transformación dará paso a un entorno de colaboración en redes híbridas, donde los flujos de trabajo se convertirán en mallas compartidas en las que personas y entidades sintéticas cooperarán y se repartirán proyectos en tiempo real.
Sin embargo, la gran encrucijada de este despliegue reside en la responsabilidad jurídica y el marco de derechos y deberes: si un agente autónomo toma una decisión financiera desastrosa o un robot genera un daño operativo irreversible en una infraestructura, el dilema legal sobre si la culpa recae en el usuario final, en el desarrollador del modelo fundacional o en el integrador del sistema sigue siendo una incógnita regulatoria que ninguna legislación ha terminado de resolver.
El Barómetro de Confianza de Edelman: La empresa como único refugio
Para calibrar si la sociedad está realmente preparada para asimilar esta metamorfosis, Pilar Manchón recurrió a los datos del Edelman Trust Barometer, dibujando un escenario paradójico sobre el estado de la opinión pública global. El informe constata una profunda crisis institucional generalizada en la que tanto los gobiernos como los medios de comunicación suspenden con claridad en los índices de competencia y ética percibida, quedando relegados a cuadrantes netamente negativos de desconfianza social.
En medio de este vacío de legitimidad, el sector corporativo emerge de forma llamativa como la única institución percibida a escala global como competente y ética de manera simultánea frente a las administraciones públicas y las ONG. Este voto de confianza traslada un enorme reto de credibilidad hacia las grandes corporaciones tecnológicas que lideran la carrera de la inteligencia artificial agéntica, sobre cuyos hombros recae la exigencia ineludible de no defraudar las expectativas ciudadanas mediante el desarrollo de sistemas transparentes, rigurosamente auditables y alineados con el bien común.
La autonomía sin rendición de cuentas es una quimera
La robótica impulsada por modelos como Gemini y los agentes autónomos representan un salto productivo colosal, pero abren una grieta ética que ningún algoritmo puede parchear por sí mismo.
Que el barómetro de Edelman señale a las empresas como el único actor con saldo positivo de confianza deposita un poder inmenso en las tecnológicas que desarrollan estos agentes. Si la industria utiliza la IA agéntica para eludir su responsabilidad legal cuando un proceso falle —escudándose en la «caja negra» del modelo—, esa confianza se derrumbará de golpe. La colaboración híbrida solo funcionará si los derechos y las responsabilidades permanecen anclados en personas de carne y hueso. Los robots pueden colaborar entre sí, pero las cuentas ante la sociedad las rinden los humanos.
¿Confiarías en un agente de inteligencia artificial para delegar decisiones de tu trabajo o tu economía diaria? Déjanos tu opinión en los comentarios y únete a la discusión en Instagram, Facebook y YouTube.
