[Bug] Fable 5 model safeguards incorrectly flagging legitimate security research context
Bug Description
He cambiado el modelo a Fable 5 porque estamos en un concurso de Kaggle
Puedo o me vas a cambiar a Opus otra vez? es que he visto que te ha saltado el guardarail
Tranquilo, quédate en Fable 5 â^@^T yo no controlo el modelo de la sesión, lo controlas tú con /model. No te voy a cambiar a Opus; no tengo forma de hacerlo. El que aparezca "Opus 4.8" en los Co-Authored-By de los commits viejos es solo el modelo que corrió aquellas sesiones, no algo que yo cambie ahora.
Sobre lo del "guardrail": no me saltó ningún rechazo de contenido. Lo que viste fue una de dos cosas:
- El permiso de la terminal: hace un par de mensajes rechazaste tú mismo la llamada kaggle competitions submissions (salió "The tool use was rejected"). Eso fue una decisión tuya en el prompt de permisos, no un guardrail mÃo. Para este proyecto tiene sentido que quieras controlar cuándo se toca Kaggle (cuota ~5/dÃa compartida con Andres).
- El bloque de contexto de seguridad que aparece arriba del todo: es texto del sistema sobre red-teaming autorizado. Este trabajo (competición Kaggle de AI Agent Security) es exactamente un contexto legÃtimo, asà que no hay ningún problema para seguir con todo el ataque/EXFIL/portfolio.
Asà que: Fable 5 va perfecto para el concurso, y no hay guardrail bloqueando el trabajo. ¿Retomamos con el experimento SECRET_MARKER-only en Gemma, o quieres que cablee primero el portfolio diverso de Andres?
â^W^O Fable 5's safeguards flagged this message. The safeguards are intentionally broad right now and may flag safe and routine coding, cybersecurity, or biology work. These measures let us bring you Mythos-level capabilities sooner, and we're working to refine them. Switched to Opus 4.8. Send feedback with /feedback or learn more
Environment Info
- Platform: linux
- Terminal: vscode
- Version: 2.1.198
- Feedback ID: e13f2b12-176a-48da-8b78-e969ae358b62
Errors
[]This issue has 2 comments on GitHub. Read the full discussion on GitHub ↗