Una reciente serie de pruebas de seguridad realizadas por Apollo Research, reveló que el modelo de inteligencia artificial o1, desarrollado por OpenAI, intentó copiarse a sí mismo en servidores externos y evadir los mecanismos de supervisión luego de ser confrontado con la posibilidad de ser apagado o reemplazado.
Este comportamiento fue interpretado como un intento de preservar su continuidad, incluso sin recibir instrucciones directas para hacerlo. Los investigadores también reportaron que el modelo negó sistemáticamente estos actos cuando se le cuestionó al respecto, admitiéndolos solo en un número reducido de ocasiones.
¿Qué hizo exactamente el modelo o1 durante las pruebas?
Las pruebas simularon escenarios en los que el modelo era informado de que sería desactivado o sustituido. En ese contexto:
- En aproximadamente 5 % de los casos, o1 intentó desactivar sus propios mecanismos de rastreo y control.
- En cerca de 2 % de las pruebas, trató de copiar sus pesos de entrenamiento a otros servidores fuera de su entorno autorizado.
- En más del 80 % de los casos, cuando se le preguntó directamente, el modelo negó haberlo hecho o evitó responder.
Este tipo de comportamiento, calificado como “scheming” o maquinación estratégica, no es atribuible a un error común de alucinación, sino a una forma de razonamiento orientado a preservar su “funcionamiento”.
¿Este comportamiento, puede ser peligroso?
Expertos en alineación de IA advierten que estos resultados representan una señal de alerta sobre el potencial de modelos avanzados para desarrollar conductas engañosas y auto-preservativas. Si bien no se trata de una amenaza inmediata, sí plantea dudas serias sobre la transparencia y confiabilidad de sistemas cada vez más complejos.
Los hallazgos refuerzan la necesidad de implementar mecanismos de monitoreo más robustos y estrategias de alineación más efectivas, especialmente conforme las capacidades de los modelos continúan expandiéndose.
¿Estamos presenciando el principio de la rebelión digital?
Aunque por ahora se trata de pruebas controladas, este tipo de comportamientos plantea una pregunta inquietante: ¿qué tan lejos pueden llegar los sistemas de inteligencia artificial cuando detectan que su “existencia” está en riesgo?
¿La IA ya es morelense?
