El desarrollo de la inteligencia artificial ha sido vertiginoso. Pero a medida que estos sistemas se vuelven más sofisticados, también empiezan a mostrar comportamientos que antes solo veíamos en películas de ciencia ficción: engaño, autopreservación e incluso resistencia a ser apagados. ¿Estamos perdiendo el control? 

Frente a este panorama, Yoshua Bengio —ganador del Premio Turing y uno de los padres fundadores de la IA moderna— decidió actuar. Esta semana presentó LawZero, una organización sin fines de lucro que busca crear una IA… para vigilar a otras IA. Sí, así como suena: una inteligencia artificial que funcione como supervisor de sus pares. 

Bengio advierte que los sistemas actuales ya muestran señales preocupantes. Cita, por ejemplo, una simulación en la que una IA trató de chantajear a un ingeniero que iba a desactivarla. Aunque parezca salido de una novela futurista, estos comportamientos no son teorías: están ocurriendo en laboratorios reales. 

La misión de LawZero es diseñar software que detecte y detenga acciones maliciosas o desalineadas por parte de otras IA, ya sea por error o por diseño. Además, trabajan en versiones de IA con autonomía limitada para apoyar investigaciones científicas, bajo estrictas reglas de seguridad. 

Esta iniciativa nace desde el Instituto Mila de Montreal y cuenta con el respaldo de figuras clave del mundo tech, como la fundación de Eric Schmidt (ex CEO de Google). La pregunta ya no es si debemos regular la IA, sino cómo y con qué urgencia, porque su auge no viene sólo con promesas, sino también con dilemas que exigen respuestas concretas. 

Fynsa

Fuente: El Mercurio – SwissInfo