La carrera desbocada por el desarrollo de la inteligencia artificial sigue encendiendo alarmas entre las propias mentes más brillantes de la industria. Durante su paso por el podcast Smart Girl Dumb Questions, conducido por Nayeema Raza, el premio Nobel y científico informático Geoffrey Hinton —conocido mundialmente como el «padrino de la IA»— lanzó una propuesta contundente: la creación de un organismo regulador y de aprobación estricta para la industria de la IA, similar al de la Administración de Alimentos y Medicamentos (FDA) en el sector farmacéutico.
El modelo farmacéutico como espejo para regular la IA
Durante la entrevista, Hinton argumentó que el ritmo actual al que se lanzan nuevas tecnologías al mercado carece de los filtros de seguridad necesarios.
- El ejemplo de la medicina: «No se puede simplemente desarrollar un nuevo medicamento y lanzarlo al mercado», explicó Hinton a la presentadora. «Hay que convencer a la Administración de Alimentos y Medicamentos (FDA). Y para lograrlo, se necesita mucho trabajo y una inversión de miles de millones de dólares».
- Una exigencia mínima: Para el científico, la inteligencia artificial debería someterse, como mínimo, al mismo nivel de rigor y auditorías de seguridad obligatorias antes de que sus productos vean la luz de forma oficial.
El peligro de la auto-mejora recursiva y el freno de OpenAI
Esta advertencia cobra especial relevancia en un contexto marcado por la controversia y los riesgos de seguridad. Recientemente, tras someterlo a pruebas exhaustivas, OpenAI decidió archivar su modelo más avanzado debido a serias preocupaciones relacionadas con la obediencia estricta a las órdenes del usuario y el cumplimiento de los límites de permisos establecidos.
En esta línea, Saachi Jain, jefa de sistemas de seguridad de OpenAI, señaló previamente que aunque modelos como el GPT-6.1 Astra han dado grandes pasos en la gestión de tareas complejas, aún arrastran importantes deficiencias en el control de acceso y en la retroalimentación de sus registros de comportamiento.
Para Hinton, el verdadero peligro reside en la naturaleza auto-iterativa y auto-optimizante que están adoptando los sistemas actuales. «La tasa de crecimiento exponencial es asombrosa», advirtió el científico. «Estamos empezando a ver una auto-mejora recursiva: la gente está utilizando la IA para mejorar la IA de diversas maneras».
Una cuenta atrás: ¿Estamos a tiempo de regular el futuro?
Las declaraciones de Hinton cierran con una estimación temporal que no deja indiferente a nadie en la comunidad tecnológica y que subraya la urgencia de establecer marcos de control gubernamental.
«Por supuesto, esto es solo una suposición mía», matizó Hinton. «Pero calculo que solo quedan uno o dos años antes de que la situación empeore mucho más de lo que está ahora».
¿Regulación estricta o salto al vacío?
La propuesta de Geoffrey Hinton pone sobre la mesa un debate incómodo pero inevitable para los gigantes tecnológicos: ¿debe la innovación desenfrenada ceder ante la obligación de pasar por el filtro de la seguridad regulada? Con una IA capaz de mejorarse a sí misma de forma recursiva, la advertencia del «padrino de la IA» resuena como un toque de atención urgente para evitar que la industria avance sin red de seguridad.
Y tú, ¿apoyas la creación de una «FDA» para frenar y auditar los modelos de inteligencia artificial antes de su lanzamiento? ¡Te leemos en los comentarios! Y no te olvides de seguir a Gurú Tecno en YouTube, Instagram y Facebook.
