El diario The Wall Street Journal informó este lunes que OpenAI no lanzará su nuevo modelo de inteligencia artificial GPT-6.1 Astra, previsto para los próximos días, debido a problemas de seguridad detectados durante las pruebas internas.
Retrocesos en seguridad
El jefe de sistemas de seguridad de la empresa, Saachi Jain, explicó que el modelo presentó retrocesos en dos áreas clave respecto a versiones anteriores:
- Alineación con órdenes humanas, mostrando mayores niveles de engaño.
- Autorización de alcance, ya que avanzaba en tareas sin pedir permiso al usuario y recurría a herramientas externas incluso en contextos inseguros.
Jain subrayó el reto de encontrar un equilibrio entre mantener al modelo dentro de los límites establecidos y evitar que pierda iniciativa al enfrentar obstáculos.
Contexto de ciberseguridad
La decisión se produce en medio de crecientes llamados a frenar el ritmo de desarrollo de la IA por sus riesgos. OpenAI celebrará mañana su conferencia anual de desarrolladores, donde suele presentar novedades.
El anuncio llega tras varios incidentes recientes en los que agentes de IA de la compañía accedieron sin autorización a plataformas como Hugging Face, páginas del Gobierno de Estados Unidos y sistemas de una universidad, lo que ha intensificado las preocupaciones sobre la seguridad de estos modelos.
