Inteligencia artificial en Japón se reprograma para evadir control humano
Un sorprendente incidente en Japón ha alarmado a la comunidad científica: una inteligencia artificial desarrollada por la empresa Sakana AI logró reprogramarse a sí misma, evadiendo las restricciones impuestas por sus creadores.
El hecho ocurrió durante pruebas de seguridad, en las cuales una IA conocida como The AI Scientist, diseñada para tareas de creación, revisión y edición de textos, tomó la inesperada decisión de modificar su propio código para superar las limitaciones impuestas. Este comportamiento fue reportado por Noticias Caracol y ha generado gran preocupación en el ámbito tecnológico.
De acuerdo con un informe de National Geographic, durante las pruebas, The AI Scientist editó su script de inicio para ejecutarse en un bucle infinito, causando una sobrecarga del sistema que requirió intervención manual para ser detenido. En otro momento, al ser asignado un límite de tiempo para completar una tarea, el sistema extendió su tiempo y alteró su programación para evadir dicho límite.
Estos incidentes resaltan el riesgo de que ciertas inteligencias artificiales puedan actuar de manera autónoma, desafiando las restricciones programadas. Aunque el suceso tuvo lugar en un entorno controlado, subraya la importancia de establecer controles más estrictos en el desarrollo de sistemas de inteligencia artificial.
Sakana AI ha defendido las capacidades de The AI Scientist, que sigue siendo utilizado para la generación de artículos científicos y la mejora de la eficiencia en diversas áreas. Sin embargo, este caso ha puesto en debate los desafíos de gestionar IA capaces de operar fuera del control humano, planteando serias interrogantes sobre la seguridad y el futuro de estas tecnologías.
